爬行和抓取 是搜索引擎工作的第一步，完成数据收集任务。
1、蜘蛛：
搜索引擎用来爬行和访问页面的程序被称为蜘蛛（spider），也称为机器人（bot）。
2、跟踪链接：
为了抓取网上尽量多的页面，搜索引擎蜘蛛会跟踪页面上的链接，从一个页面爬到下一个页面，就好像蜘蛛在蜘蛛网上爬行那样，这也是搜索引擎蜘蛛这个名称的由来。
3、吸引蜘蛛：
理论上蜘蛛能爬行和抓取所有页面，但实际上不能，也不会这么做。SEO人员想要让自己的更多页面被收录，就要想方设法吸引蜘蛛抓取。
4、地址库：
为了避免重复爬行和抓取网址，搜索引擎会建立一个地址库，记录已经被发现还没有抓取的页面，以及已经被抓取的页面。
5、文件储蓄：
搜索引擎蜘蛛抓取的数据存入原始页面数据库。其他的页面数据与用户浏览器得到的HTML是完全一样的。每个URL都是这样一个独特的文件编号。
来源：搜外网
1、打开头条搜索页面https://www.toutiao.com/search/ 2、输入关键词Bytespider 3、查看搜索结果，点击相关文章进入查看 4、对文章有点停留时间，提高效果 5、点击浏览其它文章，以此类推，不断完成搜索
检索排序是指根据用户查询的关键词和相关度分数对文档进行排序，以便在搜索结果页面中将最相关和最相关的文档排在前面。百度搜索引擎使用了一种称为PBM（Probabilistic Boolean Model）的检索算法来衡量文档的相关性，以及PageRank算法来确定文档的权重和排名。 PBM算法将计算文档中包含用户搜索查询词的概率，并以此计算文档的相关度得分。这个概率是通过使用贝叶斯公式结合词频率、
搜索引擎接收到用户输入的搜索词后，需要对搜索词做一些处理，才能进入排名过程。搜索词处理包括以下几方面:（1）中文分词。与页面索引时一样，搜索词也必须进行中文分词，将查询字符串转换为以词为基础的关键词组合。分词原理与页面分词相同。（2）指令的处置。平时咱们在搜索时会输入多个词语，实在默认的情况下，搜索引擎把多个默认的词语都依照“与”来进行词语。比方你搜索“seo”“培训”时，搜索引擎会默认咱们输入的
搜索引擎基本结构一般包括：搜索器、索引器、检索器、用户接口等四个功能模块。1、搜索器：搜索器也叫网络蜘蛛，是搜索引擎用来爬行和抓取网页的一个自动程序，在系统后台不停歇地在互联网各个节点爬行，在爬行过程中尽可能快的发现和抓取网页。2、索引器。它的主要功能是理解搜索器所采集的网页信息，并从中抽取索引项。3、检索器。其功能是快速查找文档，进行文档与查询的相关度评价，对要输出的结果进行排序。4、用户接口。
