1. 设置robots.txt文件 在根目录中建立一个robots.txt文件，设置禁止百度抓取即可达到屏蔽百度爬虫的效果，具体设置内容如下： User-agent: Baiduspider Disallow: / 2. 自定义Http请求 百度爬虫最显著的特征就是它的User_Agent中包含Baiduspider，一般在Http头中添加请求头：X-Baidu-Env：martin-spider可以阻止百度爬虫。 3. IP伪装 将服务器IP做转换，将真实的IP改成池外的IP地址，让百度爬虫无法访问。
某些网站可能针对搜索引擎挂马（百度/360/搜狗等），Chrome浏览器可以安装User-Agent Switcher for Chrome模拟百度蜘蛛来访问网页，如果是针对搜索引擎挂马的就会显示。下载蜘蛛模拟软件，模拟蜘蛛访问查看非法信息。准备工作已经安装Google Chrome浏览器安装扩展访问 User-AgentSwitcher_1_0_43.crx 并下载这个扩展按照下图打开Chrom
360搜索的蜘蛛在访问网站时，都会带上带有360Spider签名信息的UA，其形态为： Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36; 360Spider
如何了解和获知BaiduSpider在网站中爬行的规律?回复：分析网络日志，ip分析，目录爬行规律，看看都出现在什么地方，停留时间长短，在哪又停滞不前了，这些都需要记录。来源：A5营销
Baiduspider的user-agent为：Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)。
