为了达到对目标资源较好的检索效果，Baiduspider需要对您的网站保持一定量的抓取。我们尽量不给网站带来不合理的负担，并会根据服务器承受能力，网站质量，网站更新等综合因素来进行调整。如果您觉得baiduspider的访问行为有任何不合理的情况，您可以反馈至反馈中心
蜘蛛也称为机器人，指的是查找引擎运行的核算机程序，沿着页面上的超链接发现和匍匐更多页面，抓取页面内容，关入查找引擎数据库。 蜘蛛程序就是匍匐程序，是查找引擎的一部分，担任在互联网上定位和收这样可以呼应查找者的恳求，成功的查找引擎营销取决于爬的网页。
搜狗暂不对外提供搜狗spider IP列表，但您可以通过DNS反查IP的方式判断某只spider是否来自搜狗搜索引擎。根据不同平台有不同的验证方法。linux平台：命令为host ip,如下图。搜狗spider的hostname以 *.sogou.com格式命名，非 *.sogou.com均为冒充。在windows平台或者IBM OS/2平台：命令为nslookup ip，搜狗spider的hos
您可以在网站的 robots.txt 文件中添加以下内容，以阻止 Baiduspider 访问您的网站： User-agent: Baiduspider Disallow: / 这会告诉 Baiduspider 不要访问您的整个网站。请注意，这也可能会阻止其他搜索引擎的访问。如果您只想阻止 Baiduspider 的访问，可以使用以下代码： User-agent: Baiduspider D
对于您网站上新产生的或者持续更新的页面，Baiduspider会持续抓取。此外，您也可以检查网站访问日志中Baiduspider的访问是否正常，以防止有人恶意冒充Baiduspider来频繁抓取您的网站。 如果您发现Baiduspider非正常抓取您的网站，请通过投诉平台反馈给我们，并请尽量给出Baiduspider对贵站的访问日志，以便于我们跟踪处理。
