我今天来给大家详细讲解下，先了解几个概念
1、robots只是禁止抓取，不是禁止收录
2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重
了解这2个概念后，我们再来讨论怎么处理这类收录问题：
robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？
大家百度查一下淘宝，如图：
按照道理淘宝写了robots怎么还是收录，因为有大量的链接指向淘宝官网，而且这些外链可能权重都比较高，
全部都禁止了，依然收录了1亿多条链接
看到这里，是不是有感而发，我们怎么从百度导流到你的淘宝店！（来源：夫唯seo特训营）
我们创造“定向锚文本”这个概念主要是解释以下的问题：搜索引擎如何判断一个网站原创度高低？1、如果搜索引擎收录这个页面时，他的数据库里都没这篇内容，则说明是原创的;2、如果某个网站，曾经发的绝大部分内容都是原创的，则新发的内容也很容易被认为是原创的;另外一点，也是咱们今天要讲的，如果这个网站上的内容，都做好了非常细致的定向锚文本，则这个网站容易被认为是原创的。如果只是简单转载或采集的内容，一定不会做
搜索引擎可以通过爬取网页来检测协议死链，但是这个过程是需要时间和资源的。站长提交可以加快搜索引擎检测协议死链的速度，同时也可以为搜索引擎提供更加准确的信息，因为站长提交的信息可能会包括更多的细节和背景信息，这对搜索引擎来说非常有帮助。此外，站长提交还可以让搜索引擎更加及时地了解到网站的变化，从而更加准确地更新索引。
为什么我的网站已经加了robots.txt，还能在百度搜索出来？因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。如果您的拒绝被收录需求非常急迫，也可以通过反馈中心反馈请求处理。来源：百度搜索资源平台 百度搜索学堂
1. 不需要在每个页面都添加robots.txt文件：robots.txt文件只是一份给搜索引擎看的指令，如果不希望搜索引擎从该页面抓取数据，那么每一页都是可以不用添加robots.txt文件的。 2. 不能用于移动设备：robots.txt文件可用于搜索引擎爬虫，但也可以在部分机型的移动设备上进行yu处理，可以用于控制移动设备的蜘蛛爬行进行内容抓取。 3. 不应该将robots保存到公用
