Categories

Tags

关于封禁百度抓取UA的公告

近期发现部分网站出现抓取异常情况，主要问题是网站误封了百度UA。为了网站更好获得搜索展现，请各位站长按照以下UA进行排查，避免出现误封问题！

移动 UA

Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46(KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible;Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

PC UA

Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html）

手百UA

Mozilla/5.0 (iPhone; CPU iPhone OS 10_0_2 likeMac OS X) AppleWebKit/602.1.50 (KHTML, like Gecko) Mobile/14A456baiduboxapp/0_0.5.2.8_enohpi_4331_057/2.0.01_2C2%2

57enohPi/1099a/804F3530265F63292098DF3741E4B6272CFA77AE4FCIJOOERTE/1

来源：百度搜索资源平台


 Public @ 2013-12-30 15:56:39

网站的搜索引擎蜘蛛抓取越多越好？事实未必

如此 实际上，搜索引擎蜘蛛抓取越多并不一定是越好的。这取决于您的网站是做什么的。如果您的网站有重要的动态内容，那么如果您的搜索引擎蜘蛛抓取过多，将会给您的网站带来压力，导致网站性能和速度下降。如果您的网站是基于静态内容的，例如博客，则搜索引擎蜘蛛抓取更多是没有问题的。

 Public @ 2023-02-24 16:00:16

如何判断是否冒充Baiduspider的抓取？

判断是否冒充Baiduspider的抓取可以通过以下步骤进行： 1. 查看User-Agent：Baiduspider是百度搜索引擎的爬虫程序，其User-Agent通常以"Baiduspider"开头，后面跟着版本号。如果请求的User-Agent不是以"Baiduspider"开头，就可能是冒充Baiduspider的抓取。 2. IP地址验证：冒充Baiduspider的抓取可能使用不属

 Public @ 2023-07-28 05:00:22

BaiDuSpider百度蜘蛛占用流量,robots.txt设置

在网站根目录下的 robots.txt 文件可以用来告诉搜索引擎蜘蛛（包括百度蜘蛛）哪些页面可以访问，哪些页面不可访问。通过设置 robots.txt 文件，可以控制蜘蛛的爬取范围，减少不必要的流量消耗。 以下是一个提供给百度蜘蛛的 robots.txt 示例： ``` User-agent: Baiduspider Disallow: /path/to/disallowed/page.htm

 Public @ 2023-07-28 12:00:44

为什么我的网站已经加了robots.txt，还能在百度搜索出来？

因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。如果您的拒绝被收录需求非常急迫，也可以通过 投诉平台 反馈请求处理。

 Public @ 2020-06-13 15:56:47

更多您感兴趣的搜索

0.437640s