1、网站和页面权重。质量高，资格老的网站被认为权重比较高，这种网站上的页面被爬行的深度也会比较高，所以会更多内页被收录。
2、与首页点击距离。一般来说网站上权重最高的是首页，大部分外部链接是指向首页的，蜘蛛访问最频繁的也是首页。离首页点击距离近，页面权重越高，被蜘蛛爬行的机会也越大。
3、导入链接。无论是外部链接还是同一个网站的内部链接，要被蜘蛛抓取，就必须有导入链接进入页面，否则蜘蛛根本没有机会知道页面的存在。高质量的导入链接也经常使页面上导出链接被爬行深度增加。
4、页面更新度。蜘蛛每次爬行都会把页面数据储存起来。如果第二次爬行发现页面与第一次收录的完全一样，说明页面没有更新，蜘蛛也就没有必要经常抓取。如果页面内容经常更新，蜘蛛就会更加频繁地访问这种页面，页面上出现的新连接，也自然会被蜘蛛更块地跟踪，抓取页面。
来源：搜外网
不一定，BaiduSpider 可能没有完整收录网页，也可能完整收录但快照却不完整。例如，某个网页上的脚本可能没有加载完成，这样就可能造成快照显示不完整，又或者，BaiduSpider完整把网页收录了，但是Baidu在生成快照时，出现了问题，导致快照不完整。
搜索引擎蜘蛛劫持是seo黑帽中常用的一种手法,需要一定的技术支持getshell,然后上传恶意的代码到网站根目录下面或者修改网站的一些文件，搜索引擎蜘蛛劫持的原理就是判断来访网站的是用户还是蜘蛛,如果是蜘蛛就推送一个事先准备的恶意网站,如果是用户就推送一个正常的网页1：蜘蛛判断判断访问的是用户还是蜘蛛,如果是用户就推送一个正常网页,如果是蜘蛛就推送一个恶意网页，判断方式有两种,一种是判断蜘蛛的UA
贺贵江：短期打不开，请使用503错误来提示搜索引擎，时间长了的话，会影响的，因为长期打不开就相当于被屏蔽了。
搜索引擎通过站长们提供资源，来满足用户的搜索需求，而站长通过搜索引擎将网站的内容传播出去，获得有效的流量和用户。蜘蛛在抓取过程中双方都要遵守一定的规范，便于搜索引擎抓取，不要使用过多对搜索引擎不友好的元素。蜘蛛抓取过程中涉及的网络协议有以下四种：1、HTTP协议HTTP是超文本传输协议，在互联网上被广泛应用的一种网络协议，客户端和服务器端请求和应答的标准。用户通过浏览器或蜘蛛等对指定端口发起一个请
