搜索引擎是通过比较网页URL，内容和相关属性来删除重复网页的，具体步骤如下： 1. 搜索引擎收集器(Crawler)会在网络上发现新网页并收集，此时会有一定概率发现相同的网页，并添加到收集器的索引中去。 2. 收集器会识别新的网页，把重复的网页排除。 3. 然后，搜索引擎把新索引serves给布置在 Indexer(索引器)中，执行深入索引，会把相同内容的文章及URL排除，仅保留一条记录。 4. 最后，Indexer根据收集器搜集来的URL和文章，再次把重复的网页排除，仅保留一条记录。
搜索引擎检索系统是指实现引用文献资源检索、特定学科知识检索等服务的系统。包括主要用于进行引文检索的数据库管理系统、多元综合检索系统，浏览引擎，等。 其主要功能包括：引文的资源的收集、索引、目录和存储；对文献进行分类和检索；检索系统中相关检索结果的排序和显示；浏览系统中各式学术服务，比如新闻信息、拥有特定学科内容的网站；支持Web检索、模糊检索、多备份系统等功能，以确保检索准确性；在线的文献的
搜索引擎工作流程主要有数据采集、数据预处理、数据处理、结果展示等阶段。在各工作阶段分别使用了网络爬虫、中文分词、大数据处理、数据挖掘等技术。网络爬虫也被称为蜘蛛或者网络机器人，它是搜索引擎抓取系统的重要组成部分。网络爬虫根据相应的规则，以某些站点作为起始站点通过各页面上的超链接遍历整个互联网，利用URL弓I用根据广度优先遍历策略从一个html文档爬行到另一个html文档来抓取信息。中文分词是中文搜
虽然搜索引擎排名技术和算法一直在提高，但我相信所有搜索引擎都或多或少有人工干预，就算最标榜一切以算法和自动化为目标的Google，也肯定有人工因素。去年就曾经有人报道（http://www.searchbistro.com/index.php?/archives/19-Google-Secret-Lab,-Prelude.html），Google在很多国家的大学招募学生，进行搜索引擎结果的评价工作
相关统计数据表明：互联网上近似重复的网页的数量占网页总数量的比例高达29%，完全相同的网页大约占网页总数量的22%.研究表明，在一个大型的信息采集系统中，30%的网页是和另外70%的网页完全重复或近似重复的。即：互联网的网页中相当高的比例的网页内容是近似相同或完全相同的!搜索爬虫抓取会产生网页重复的类型：1.多个URL地址指向同一网页以及镜像站点如：www.sina.com 和www.sina.c
