robots.txt 是一个标准，它通过提供一些规则，告诉搜索引擎爬虫哪些网页可以被爬取，哪些网页不应该被爬取。但是，一些搜索引擎爬虫可能会忽略这些规则，直接抓取它们想要的网页。 此外， robots.txt 文件的存在只是一个建议而不是命令。在一些情况下，搜索引擎爬虫可能会收录被 robots.txt 文件所屏蔽的网页，这有可能是因为发布这个网页的人想要让它被收录，也有可能是因为机器人误解了 robots.txt 文件。 因此，网站所有者仍然需要使用其他策略，如更新网页的元标记和标题标签，以及在页面上指示搜索引擎不索引。
相对路径的优点和缺点： 优点： 1. 相对路径相对于当前目录，因此可以方便地指向同一目录下的其他文件或目录。 2. 相对路径比绝对路径更短，更易于输入和阅读。 3. 相对路径的可移植性更强，因为它们不依赖于特定的文件系统或服务器配置。 缺点： 1. 如果文件或目录被移动到其他目录中，相对路径可能无法正常工作。 2. 对于嵌套较深的目录结构，相对路径会变得较复杂。 3. 如果有多个文件夹中命名相
最初，链接多半是为了介绍其它连接给访问者，然而，随着搜索引擎门户网站(如百度，谷歌)的崛起和介入，一个网站外部链接的作用变得更加重要了，用户通过超级链接获得丰富的网站内容，搜索引擎蜘蛛也是沿着一个网站的页面链接层层跟踪深入，完成对该网站的信息抓取。链接是搜索引擎判断一个网站是否优秀，是否重要的一个重要因素。尤其是Google来说，当有很多网站主动连接一个网站时，搜索引擎会认为那个网站很重要，给予的
网站误封Robots该如何处理robots文件是搜索生态中很重要的一个环节，同时也是一个很细节的环节。在网站运营过程中，很容易忽视robots文件的存在，进行错误覆盖或者全部封禁robots，造成不必要损失！如果误封禁，请及时删除或修改robots文件，并到百度站长平台robots工具中进行检测和更新。来源：百度搜索资源平台
我今天来给大家详细讲解下，先了解几个概念1、robots只是禁止抓取，不是禁止收录2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重了解这2个概念后，我们再来讨论怎么处理这类收录问题：robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？大家百度查一下淘宝，如图：按照道理淘宝写了robots怎么还是收
