sogou spider 如何反应我网站上页面的更新？
sogou spider 会根据网页的重要性和历史变化情况来动态调整更新时间，更新已经抓取过的页面
Public @ 2010-09-06 15:38:57
sogou spider 会根据网页的重要性和历史变化情况来动态调整更新时间，更新已经抓取过的页面
搜狗暂不对外提供搜狗spider IP列表，但您可以通过DNS反查IP的方式判断某只spider是否来自搜狗搜索引擎。根据不同平台有不同的验证方法。linux平台：命令为host ip,如下图。搜狗spider的hostname以 *.sogou.com格式命名，非 *.sogou.com均为冒充。在windows平台或者IBM OS/2平台：命令为nslookup ip，搜狗spider的hos
从输入关键词，到百度给出搜索结果的过程，往往仅需几毫秒即可完成。百度是如何在浩如烟海的互联网资源中，以如此之快的速度将您的网站内容展现给用户？这背后蕴藏着什么样的工作流程和运算逻辑？事实上，百度搜索引擎的工作并非仅仅如同首页搜索框一样简单。搜索引擎为用户展现的每一条搜索结果，都对应着互联网上的一个页面。每一条搜索结果从产生到被搜索引擎展现给用户，都需要经过四个过程：抓取、过滤、建立索引和输出结果。
sogou spider对于同一个IP地址的服务器主机，只建立一个连接，抓取间隔速度控制在几秒一次。一个网页被收录后，最快也要几天以后才会去更新。如果sogou spider持续不断地抓取您的网站，请注意您的网站上的网页是否每次访问都产生新的链接。
sogou spider遵守互联网meta robots协议。您可以利用网页meta的设置，使搜狗显示只对该网页建索引，但并不在搜索结果中显示该网页的快照。和robots的更新一样，因为搜索引擎索引数据库的更新需要时间，虽然您已经在网页中通过meta禁止了搜狗在搜索结果中显示该网页的快照，但搜狗搜索引擎数据库中如果已经建立了网页索引信息，可能需要二至四周才会在线上生效。