索引擎百度各个产品使用不同的user-agent:
产品名称 | 对应user-agent | |
网页搜索 | Baiduspider | |
移动搜索 | Baiduspider | |
图片搜索 | Baiduspider-image | |
视频搜索 | Baiduspider-video | |
新闻搜索 | Baiduspider-news | |
百度搜藏 | Baiduspider-favo | |
百度联盟 | Baiduspider-cpro | |
商务搜索 | Baiduspider-ads | |
目前百度Spider抓取新链接的途径有两个，一是主动出击发现抓取，二就是从搜索资源平台的链接提交工具中获取数据，其中通过主动推送功能“收”上来的数据最受百度Spider的欢迎。对于站长来说，如果链接很长时间不被收录，建议尝试使用主动推送功能，尤其是新网站，主动推送首页数据，有利于内页数据的抓取。那么同学们要问了，为什么我提交了数据还是迟迟在线上看不到展现呢？那涉及的因素可就多了，在Spider抓取
360搜索的蜘蛛在访问网站时，都会带上带有360Spider签名信息的UA，其形态为： Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/50.0.2661.102 Safari/537.36; 360Spider
目前百度Spider抓取新链接的途径有两个，一是主动出击发现抓取，二就是从搜索资源平台的链接提交工具中获取数据，其中通过主动推送功能“收”上来的数据最受百度Spider的欢迎。对于站长来说，如果链接很长时间不被收录，建议尝试使用主动推送功能，尤其是新网站，主动推送首页数据，有利于内页数据的抓取。那么同学们要问了，为什么我提交了数据还是迟迟在线上看不到展现呢？那涉及的因素可就多了，在Spider抓取
注：以下BaiDuSpider等于百度蜘蛛、Googlebot等于google蜘蛛、Sogou Spider等于搜狗蜘蛛一、问题因某些原因，搜索引擎蜘蛛抓取网站占用很大流量，如图：网站访问日志也可看见很多蜘蛛爬行记录。如果是正常的搜索引擎蜘蛛访问，不建议对蜘蛛进行禁止，否则网站在百度等搜索引擎中的收录和排名将会丢失，造成客户流失等损失。可以优先考虑升级虚拟主机型号以获得更多的流量或升级为云服务器（
