搜索引擎中各关键功能模块功能简介

（1）爬虫从互联网爬取原始网页数据，存储于文档知识库服务器。

（2）文档知识库服务器存储原始网页数据，通常是分布式Key-Value数据库，能根据URL/UID快速获取网页内容。

（3）索引读取原始网页数据，解析网页，抽取有效字段，生成索引数据。索引数据的生成方式通常是增量的，分块/分片的，并会进行索引合并、优化和删除。生成的索引数据通常包括字典数据、倒排表、正排表、文档属性等。生成的索引存储于索引服务器。

（4）索引服务器存储索引数据，主要是倒排表，通常是分块、分片存储，并支持增量更新和删除。数据内容量非常大时，还根据类别、主题、时间、网页质量划分数据分区和分布，更好地服务在线查询。

（5）检索读取倒排表索引，响应前端查询请求，返回相关文档列表数据。

（6）排序对检索器返回的文档列表进行排序，基于文档和查询的相关性、文档的链接权重等属性。

（7）链接分析收集各网页的链接数据和锚文本（Anchor Text），以此计算各网页链接评分，最终会作为网页属性参与返回结果排序。

（8）网页去重提取各网页的相关特征属性，计算相似网页组，提供离线索引和在线查询的去重服务。

（9）网页反垃圾收集各网页和网站历史信息，提取垃圾网页特征，从而对在线索引中的网页进行判定，去除垃圾网页。

（10）查询分析分析用户查询，生成结构化查询请求，指派到相应的类别、主题数据服务器进行查询。

（11）页面描述/摘要为检索和排序完成的网页列表提供相应的描述和摘要。

（12）前端接受用户请求，分发至相应服务器，返回查询结果。