Categories


Tags


百度搜索robots协议全新升级公告

  百度搜索robots协议全新升级公告

整理自网络ChatGPT产生之内容,文本内容不具备参考意义,程序内容及代码片段有且仅有借鉴意义。

  尊敬的用户:

为了更好地保护网站主的合法权益、提升百度搜索用户搜索体验,百度搜索于2020年10月27日发布了新版robots协议,主要特性包括:

1. 支持抓取控制与数据保护视角的并存

新增规定了两个特殊的抓取指令: allow-if-previously-blocked 和 noindex-if-previously-indexed,用于方便网站主在控制抓取行为的同时,保护网站内容的安全性。

2. 明细化规范

为了更好地支持抓取控制与数据保护视角的并存,新版robots协议增加了大量规定,对协议的细节进行了明细化,以便网站主使用。

3. 融入网站主实际生活

新版robots协议进一步增强了其实用性。协议中包括了比较常用的content-disposition和content-language指令,并对User-agent指令在临时禁止搜索方面的规定进行了补充。

4. 增加特殊对待百度机器人的规定

针对百度搜索所使用的机器人,新版robots协议增加了特殊规定,为百度机器人提供更好的抓取引导,以提高搜索结果的质量。

本次robots协议的升级,将为广大网站主提供更加丰富的抓取控制功能和更好的搜索体验,我们诚恳地邀请各位网站主按照新版规范,完善自身站点的robots协议文件。

祝愿您的网站越来越优秀!

百度搜索运营团队

2020年11月4日

Public @ 2023-06-20 23:50:02 整理自网络ChatGPT产生之内容,文本内容不具备参考意义,程序内容有且仅有借鉴意义。

网站URL显示品牌名字怎么弄

有多种方法可以在网站URL中显示品牌名称: 1. 在域名中包含品牌名称。例如,使用www.brandname.com或brandname.com作为域名。 2. 在URL路径中使用品牌名称。例如,www.yourwebsite.com/brandname/page.html。 3. 在查询字符串中使用品牌名称。例如,www.yourwebsite.com/page.html?brandnam

Public @ 2023-03-26 16:50:15

导航结构是什么?导航结构优化方法

导航结构是啥网站导航的作用就是引导用户快速找到主要信息,指引用户到达目标页面,一个好的导航对于吸引用户和搜索引擎优化都非常重要。导航结构的作用1、引导用户访问指定页面。其中全局导航、分类导航、辅助导航都是根据这个目的进行的。2、告诉用户所在网页位置。这个在面包屑导航中得到了充分的体现,它帮助用户识别当前浏览的页面与网站整体内容间关系,及其与网站中其它内容的联系和区分。3、理清网站各内容与链接间的联

Public @ 2015-09-17 16:11:43

通过robots.txt文件屏蔽蜘蛛抓取不存在的后缀

通过网站日志分析,会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀,如:.php、.asp、.aspx等。搜外网站后台日志分析结果如下图:image.搜外主站实际上不存在php后缀的URL地址。可通过robots.txt文件禁止蜘蛛抓取不存在的后缀,减少出现404返回值。在robots.txt文件填写屏蔽规则如下:Disallow: /*.asp$Disallow: /*.php$Disallo

Public @ 2015-07-18 16:09:24

禁止搜索引擎收录的方法

禁止搜索引擎收录的方法什么是robots.txt文件?搜索引擎使用spider程序自动访问互联网上的网页并获取网页信息。spider在访问一个网站时,会首先会检查该网站的根域下是否有一个叫做 robots.txt的纯文本文件,这个文件用于指定spider在您网站上的抓取范围。您可以在您的网站中创建一个robots.txt,在文件中声明该网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分

Public @ 2016-10-21 16:09:20

更多您感兴趣的搜索

0.521459s