1、网站和页面权重。质量高，资格老的网站被认为权重比较高，这种网站上的页面被爬行的深度也会比较高，所以会更多内页被收录。
2、与首页点击距离。一般来说网站上权重最高的是首页，大部分外部链接是指向首页的，蜘蛛访问最频繁的也是首页。离首页点击距离近，页面权重越高，被蜘蛛爬行的机会也越大。
3、导入链接。无论是外部链接还是同一个网站的内部链接，要被蜘蛛抓取，就必须有导入链接进入页面，否则蜘蛛根本没有机会知道页面的存在。高质量的导入链接也经常使页面上导出链接被爬行深度增加。
4、页面更新度。蜘蛛每次爬行都会把页面数据储存起来。如果第二次爬行发现页面与第一次收录的完全一样，说明页面没有更新，蜘蛛也就没有必要经常抓取。如果页面内容经常更新，蜘蛛就会更加频繁地访问这种页面，页面上出现的新连接，也自然会被蜘蛛更块地跟踪，抓取页面。
来源：搜外网
BaiDuSpider（百度蜘蛛）是百度搜索引擎的爬虫程序，它会访问网页并获取其中的信息，从而建立网站的索引和排名。由于百度蜘蛛需要频繁访问网站，因此它会占用网站的流量和带宽资源。 为了控制百度蜘蛛的访问，网站管理员可以使用robots.txt文件进行设置。robots.txt是一个文本文件，位于网站根目录下，用于告诉搜索引擎爬虫哪些页面可以访问，哪些页面不允许访问。具体来说，可以在robots
sogou spider 对于同一个 IP 地址的服务器主机，只建立一个连接，抓取间隔速度控制在几秒一次。一个网页被收录后，最快也要过几天以后才会去更新。如果持续不断地抓取您的网站，请注意您的网站上的网页是否每次访问都产生新的链接。如果您认为 sogou spider 对于您的网站抓取过快，请与我们联系，并最好能提供访问日志中sogou spider 访问的部分，而不要直接将搜狗spider的ua
做网站优化的过程中很重要的一点，就是网站日志的分析。通过来访记录的日志文件我们能了解到网站出现的很多问题。以网站日志上的百度蜘蛛IP为例：123.125.68.*这个蜘蛛每每来，另外来的少，示意网站大概要进入沙盒了，或被者降权。220.181.68.*天天这个IP段只增不减很有大概进沙盒或K站。220.181.7.*、123.125.66.*代表百度蜘蛛IP拜访，预备抓取你工具。121.14.89
