爬行和抓取在计算机领域中都指数据采集的过程。 爬行是指使用网络爬虫程序，通过抓取网页上的数据来建立一个数据集。例如，搜索引擎就使用网络爬虫程序来收集网页上的内容，以便用户进行搜索。 抓取则是指通过编写程序从特定的网站或数据源上抓取数据，以便进行分析或者处理。例如，电商平台可以使用抓取程序从竞争对手的网站上抓取商品价格信息，以便制定自己的价格策略。 总的来说，爬行和抓取都是数据采集的方式，只是针对的对象不同，爬行是针对整个网络，抓取则是针对特定的网站或数据源。
外链的作用（2014版）曾经，“内容为王超链为皇”的说法流行了很多年，通过超链计算得分来体现网页的相关性和重要性，的确曾经是搜索引擎用来评估网页的重要参考因素之一，会直接参与搜索结果排序计算。但随着该技术被越来越多的SEO人员了解，超链已经逐渐失去作为投票的重要意义，无论是谷歌还是百度，对超链数据的依赖程度都越来越低。那么，在现在，超链在发挥着怎样的作用？1， 吸引蜘蛛抓取：虽然百度在挖掘新好站点
中文分词(Chinese Word Segmentation)指的是将一个汉字序列切分成一个一个单独的词。中文分词是文本挖掘的基础，对于输入的一段中文，成功的进行中文分词，可以达到电脑自动识别语句含义的效果。TF-IDF（term frequency–inverse document frequency）是一种用于信息搜索和信息挖掘的常用加权技术。在搜索、文献分类和其他相关领域有广泛的应用。TF-
搜索引擎基本结构一般包括：搜索器、索引器、检索器、用户接口等四个功能模块。1、搜索器：搜索器也叫网络蜘蛛，是搜索引擎用来爬行和抓取网页的一个自动程序，在系统后台不停歇地在互联网各个节点爬行，在爬行过程中尽可能快的发现和抓取网页。2、索引器。它的主要功能是理解搜索器所采集的网页信息，并从中抽取索引项。3、检索器。其功能是快速查找文档，进行文档与查询的相关度评价，对要输出的结果进行排序。4、用户接口。
相关统计数据表明：互联网上近似重复的网页的数量占网页总数量的比例高达29%，完全相同的网页大约占网页总数量的22%.研究表明，在一个大型的信息采集系统中，30%的网页是和另外70%的网页完全重复或近似重复的。即：互联网的网页中相当高的比例的网页内容是近似相同或完全相同的!搜索爬虫抓取会产生网页重复的类型：1.多个URL地址指向同一网页以及镜像站点如：www.sina.com 和www.sina.c
