Categories

Tags

robots文件之前屏蔽了蜘蛛，现已开放，如何更新快照

一些域名之前通过robots.txt文件屏蔽了蜘蛛，

后来对搜索引擎开放了，但搜索结果里，还是显示以下内容:

“由于该网站的robots.txt文件存在限制指令（限制搜索引擎抓取），系统无法提供该页面的内容描述。”

解决办法：

在百度上搜索该域名，在搜索结果页面的末尾，点击用户反馈。

来源：搜外网


 Public @ 2011-07-02 16:09:24

robots.txt文件放在哪里?

robots.txt文件放在哪里?robots.txt文件应该放置在网站根目录下。举例来说，当spider访问一个网站（比如 http://www.abc.com）时，首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件，如果 Spider找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。网站 URL相应的 robots.txt的 URLhtt

 Public @ 2017-01-09 16:08:57

关于robots.txt的二三事

【Robots简介】robots.txt是一个协议，是搜索引擎访问网站时第一个要查看的文件，它存在的目的是告诉搜索引擎哪些页面能被抓取，哪些页面不能被抓取。当spider访问一个站点时，会首先检查该站点根目录下是否存在robots.txt，如果存在，spider会按照文件中的内容来确定访问的范围；如果该文件不存在，所有的spider将能够访问网站上所有没有被口令保护的页面。【具体介绍】1、User

 Public @ 2017-02-13 16:09:19

更多您感兴趣的搜索

0.525505s