蜘蛛指的是通过互联网上的链接自动抓取网页的程序，主要用于搜索引擎中的搜索内容，以下是常见的搜索引擎蜘蛛介绍： 1. Google蜘蛛（Googlebot）：Google的搜索引擎蜘蛛，通过自动爬取互联网上的网页内容，为Google搜索的相关结果提供支持。 2. 百度蜘蛛（Baiduspider）：百度搜索的搜索引擎蜘蛛，通过抓取网页内容和链接，组成网页库，支持百度搜索结果的呈现。 3. 必应蜘蛛（Bingbot）：微软必应搜索的搜索引擎蜘蛛，通过网页抓取和内容索引构建必应搜索结果。 4. 360蜘蛛（360Spider）：360搜索的搜索引擎蜘蛛，通过抓取网页内容，处理其中的信息和链接，为360搜索结果提供支持。 5. 搜狗蜘蛛（Sogou Spider）：搜狗搜索的搜索引擎蜘蛛，通过收集和处理互联网上的信息和链接，以支持搜狗搜索结果的呈现。
1. 在robots.txt文件内添加一行禁止Baiduspider访问的指令：User-agent: Baiduspider；Disallow: / 2. 添加http协议头，指示不要访问网站的任何网页：X-Robots-Tag: noindex，noarchive，nosnippet，nofollow 3. 将任何和Baiduspider相关的IP地址拉黑。
对于您网站上新产生的或者持续更新的页面，Baiduspider会持续抓取。此外，您也可以检查网站访问日志中Baiduspider的访问是否正常，以防止有人恶意冒充Baiduspider来频繁抓取您的网站。 如果您发现Baiduspider非正常抓取您的网站，请通过投诉平台反馈给我们，并请尽量给出Baiduspider对贵站的访问日志，以便于我们跟踪处理。
网站做的越大，蜘蛛越多。可是有时候会发现：网站被各种搜索引擎的蜘蛛抓的服务器都快崩溃了，严重的占用了服务器的资源。这个时候要怎么办呢？百度蜘蛛：Baiduspider谷歌蜘蛛：Googlebot360蜘蛛：360SpiderSOSO蜘蛛：Sosospider神马蜘蛛：YisouSpider微软必应： BingBot在国内，我们不要把这几个蜘蛛使用robots.txt屏蔽就可以了，至于其他的，都可以
贺贵江：短期打不开，请使用503错误来提示搜索引擎，时间长了的话，会影响的，因为长期打不开就相当于被屏蔽了。
