Categories

Tags

robots.txt文件放在哪里?

robots.txt文件放在哪里?

robots.txt文件应该放置在网站根目录下。举例来说，当spider访问一个网站（比如 http://www.abc.com）时，首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件，如果 Spider找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。

网站 URL

相应的 robots.txt的 URL

http://www.w3.org/

http://www.w3.org/robots.txt

http://www.w3.org:80/

http://www.w3.org:80/robots.txt

http://www.w3.org:1234/

http://www.w3.org:1234/robots.txt

http://w3.org/

http://w3.org/robots.txt

来源：百度搜索资源平台 百度搜索学堂


 Public @ 2017-01-09 16:08:57

百度站长平台robots工具升级公告

亲爱的网站管理员，很高兴的告诉大家，百度站长平台robots工具全新升级，升级后能够实时查看网站在百度中已生效的的robots文件，并支持对robots进行语法及逻辑校验，有助于站长更清晰的管理网站的robots文件，避免错误的封禁搜索引擎。功能亮点：1、实时查看网站在百度中已生效的robots文件内容并可通知百度更新：升级后的robots能够查看网站已生效的robots文件，同时会展现网站最新的

 Public @ 2016-06-12 16:09:01

死链介绍及设置方法

一、死链介绍什么是死链几乎所有的智能小程序或站点都会遇到内容失效、过期，页面不需要再展现的情况，这些无法对用户提供任何有价值信息的页面就是死链接，它包括协议死链和内容死链两种形式。为什么要及时处理死链？当站点/小程序死链数据累积过多并且被展示到搜索结果页时，会影响百度搜索对站点/小程序的评价，对站点/小程序的访问体验和用户转化都会起到负面影响。另一方面，百度检查死链的流程也会为站点/小程序带来额外

 Public @ 2010-07-18 15:56:15

更多您感兴趣的搜索

0.572695s