网站做的越大，蜘蛛越多。可是有时候会发现：网站被各种搜索引擎的蜘蛛抓的服务器都快崩溃了，严重的占用了服务器的资源。这个时候要怎么办呢？
百度蜘蛛：Baiduspider
谷歌蜘蛛：Googlebot
360蜘蛛：360Spider
SOSO蜘蛛：Sosospider
神马蜘蛛：YisouSpider
微软必应： BingBot
在国内，我们不要把这几个蜘蛛使用robots.txt屏蔽就可以了，至于其他的，都可以把它们干掉，基本不会为网站带来任何的实际流量！
来源：A5营销
判断是否冒充Baiduspider的抓取，可以通过以下方法： 1. 查看User-Agent（用户代理）字段：Baiduspider爬虫的User-Agent是固定的，一般为“Baiduspider+版本号”或“Baiduspider-image+版本号”，如果抓取请求中的User-Agent与Baiduspider爬虫的格式不一致，那么就可能是伪装的爬虫。 2. 查看IP地址：Baidusp
做网站优化的过程中很重要的一点，就是网站日志的分析。通过来访记录的日志文件我们能了解到网站出现的很多问题。以网站日志上的百度蜘蛛IP为例：123.125.68.*这个蜘蛛每每来，另外来的少，示意网站大概要进入沙盒了，或被者降权。220.181.68.*天天这个IP段只增不减很有大概进沙盒或K站。220.181.7.*、123.125.66.*代表百度蜘蛛IP拜访，预备抓取你工具。121.14.89
搜索引擎蜘蛛是搜索引擎的一个自动程序。它的作用是访问互联网上的网页、图片、视频等内容，建立索引数据库，使用户能在搜索引擎中搜索到您网站的网页、图片、视频等内容。一般用法为“ spider+URL”，后面的URL(网址)是搜索引擎的痕迹，如果要查看某搜索引擎是否来爬取过你们的网站，可查看服务器的日志里是否有该URL,同时还能查看来的时间、频率等…1、百度蜘蛛：可以根据服务器的负载能力调节访问密度，大
一般用在网站被挂马以后，直接访问没有问题，可以通过模拟百度或其他搜索引擎来访问，即可发现问题。比如下面的例子，直接访问没问题，使用模拟搜索引擎访问即可发现问题。比如访问一个针对搜索引擎挂马的网页：http://www.zttoten.com/index.php?rmlbgh=cbfmcm&westauditpageinfo=1 [这个地址可能会会失效]，这样就可以看到被挂马的情况。（默认情
