Categories


Tags


百度搜索robots协议全新升级公告

  百度搜索robots协议全新升级公告

整理自网络ChatGPT产生之内容,文本内容不具备参考意义,程序内容及代码片段有且仅有借鉴意义。

  尊敬的用户:

为了更好地保护网站主的合法权益、提升百度搜索用户搜索体验,百度搜索于2020年10月27日发布了新版robots协议,主要特性包括:

1. 支持抓取控制与数据保护视角的并存

新增规定了两个特殊的抓取指令: allow-if-previously-blocked 和 noindex-if-previously-indexed,用于方便网站主在控制抓取行为的同时,保护网站内容的安全性。

2. 明细化规范

为了更好地支持抓取控制与数据保护视角的并存,新版robots协议增加了大量规定,对协议的细节进行了明细化,以便网站主使用。

3. 融入网站主实际生活

新版robots协议进一步增强了其实用性。协议中包括了比较常用的content-disposition和content-language指令,并对User-agent指令在临时禁止搜索方面的规定进行了补充。

4. 增加特殊对待百度机器人的规定

针对百度搜索所使用的机器人,新版robots协议增加了特殊规定,为百度机器人提供更好的抓取引导,以提高搜索结果的质量。

本次robots协议的升级,将为广大网站主提供更加丰富的抓取控制功能和更好的搜索体验,我们诚恳地邀请各位网站主按照新版规范,完善自身站点的robots协议文件。

祝愿您的网站越来越优秀!

百度搜索运营团队

2020年11月4日

Public @ 2023-06-20 23:50:02 整理自网络ChatGPT产生之内容,文本内容不具备参考意义,程序内容有且仅有借鉴意义。

常见的robots.txt文件用法实例

常见的robots.txt文件用法实例:1、禁止所有搜索引擎抓取网站的任何部分User-agent: *Disallow: /这是禁止所有目录和文件被所有搜索引擎收录。网站还没上线时,有的会先屏蔽所有蜘蛛抓取。2、允许所有的spider抓取(或者也可以建一个空的robots.txt文件)User-agent: *Allow: /这是允许所有搜索引擎抓取网站的任何部分,既然是允许所有文件被抓取,可以

Public @ 2010-05-21 16:09:23

什么是302跳转?301重定向与302跳转有什么区别?

什么是302跳转?302跳转是用户浏览器或搜索引擎蜘蛛向网站务器发出访问网址A的请求时,服务器返回的头信息中状态码的一种,也称为302重定向,302跳转。301重定向与302跳转有什么区别?1、使用效果不同301重定向是永久的重定向,比较常用于场景是使用域名跳转。搜索引擎在抓取新内容的同时也将旧的网址替换为重定向之后的网址。例如:我们访问 http://www.baidu.com 会跳转到 htt

Public @ 2017-03-23 16:09:35

为什么我的网站已经加了robots.txt,还能在百度搜索出来?

为什么我的网站已经加了robots.txt,还能在百度搜索出来?因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页,但百度搜索引擎数据库中已经建立的网页索引信息,可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。如果您的拒绝被收录需求非常急迫,也可以通过反馈中心反馈请求处理。来源:百度搜索资源平台 百度搜索学堂

Public @ 2015-11-18 16:08:58

网站误封Robots该如何处理

网站误封Robots该如何处理robots文件是搜索生态中很重要的一个环节,同时也是一个很细节的环节。在网站运营过程中,很容易忽视robots文件的存在,进行错误覆盖或者全部封禁robots,造成不必要损失!如果误封禁,请及时删除或修改robots文件,并到百度站长平台robots工具中进行检测和更新。来源:百度搜索资源平台

Public @ 2022-04-19 16:08:59

更多您感兴趣的搜索

0.454336s