进入移动时代，同学们肯定会发现，百度官方和各知名SEO大拿们都在不断强调一个词：速度！最重要的莫过于，从用户点击搜索结果到页面完全加载完毕，不可超过3秒，否则有可能被限制展现（因为百度做过测试，当页面在3秒以上还无法打开的话，用户会选择关闭该网页）。于是大家各种针对速度的问题也多了起来，在深圳VIP大讲堂中，我们看到了这样一个简单的对话：
同学问：站点遇到百度蜘蛛抓取，应该在多长时间内给出反馈？时间太长会不会被惩罚？
工程师答：1秒是最好，最多4至5秒也可以接受，如果时间再长，恐怕蜘蛛会过段时间再来了。当然如果这种情况经常发生，对你站点的抓取是非常不利的。
在深圳Baiduspider3.0主题的高端沙龙中，我们的高级工程师也有这样一页PPT，其中提到历史抓取效果好和服务器稳定的站点，Spider会优先抓取处理。
来源：百度搜索资源平台 百度搜索学堂
网站做的越大，蜘蛛越多。可是有时候会发现：网站被各种搜索引擎的蜘蛛抓的服务器都快崩溃了，严重的占用了服务器的资源。这个时候要怎么办呢？百度蜘蛛：Baiduspider谷歌蜘蛛：Googlebot360蜘蛛：360SpiderSOSO蜘蛛：Sosospider神马蜘蛛：YisouSpider微软必应： BingBot在国内，我们不要把这几个蜘蛛使用robots.txt屏蔽就可以了，至于其他的，都可以
360搜索蜘蛛的IP段为：180.153.236.0/22 和 101.227.12.0/24，具体的IP地址视情况而定。 如果您的网站遇到了360搜索蜘蛛IP被拦截的问题，可以尝试以下解决方法： 1.检查是否误判 有些安全软件或防火墙可能会将360搜索蜘蛛误判为恶意IP，因此导致被拦截。您可以通过查看安全软件或防火墙的日志来确认是否误判，并将360搜索蜘蛛的IP地址添加到白名单中。 2.
如何了解和获知BaiduSpider在网站中爬行的规律?回复：分析网络日志，ip分析，目录爬行规律，看看都出现在什么地方，停留时间长短，在哪又停滞不前了，这些都需要记录。来源：A5营销
判断是否冒充Baiduspider的抓取，可以通过以下方法： 1. 查看User-Agent（用户代理）字段：Baiduspider爬虫的User-Agent是固定的，一般为“Baiduspider+版本号”或“Baiduspider-image+版本号”，如果抓取请求中的User-Agent与Baiduspider爬虫的格式不一致，那么就可能是伪装的爬虫。 2. 查看IP地址：Baidusp
