Categories

Tags

Baiduspider如何区分PC与移动网页搜索的UA

PC搜索完整UA：Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html）

移动搜索完整UA：Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

pc ua：通过关键词Baiduspider/2.0来确定是pc ua

移动ua：通过关键词android和mobile确定是来自移动端抓取访问，Baiduspider/2.0 确定为百度爬虫。


 Public @ 2011-05-14 15:56:50

什么是搜索引擎蜘蛛

搜索引擎蜘蛛可以简单的理解为页面信息采集工具，不需要人工去采集，它会自动根据URL链接一个一个爬行过去，然后再抓取页面的信息，然后再存到服务器的列队中，为用户提供目标主题所需要的数据资源，搜索引擎蜘蛛不是所有的页面都会抓取的，主要有三个原因：一是技术上的原因。二是服务器存储方面的原因。三是提供用户搜索数据量太大，会影响效率。所以说，搜索引擎蜘蛛一般只是抓取那些重要的网页，而在抓取的时候评价重要性主

 Public @ 2017-10-04 16:22:29

百度Spider渲染UA在移动端全流量上线

百度Spider在2017年3月同时推出渲染UA在移动端和PC端进行内测（《百度Spider新增渲染UA抓取公告》），内测期间分析了多个抓取量异常的case，均非渲染UA造成。本周百度Spider渲染UA在移动端全流量上线，PC端还未全部覆盖。特提醒PC站长，截止目前，对搜索引擎和用户有价值的内容，还是尽量不要使用JS加载的方式，以免造成不能索引等损失。来源：百度搜索资源平台

 Public @ 2014-04-27 15:38:47

更多您感兴趣的搜索

0.548729s