我今天来给大家详细讲解下，先了解几个概念
1、robots只是禁止抓取，不是禁止收录
2、另外还有nofollow的作用不是不抓取这个链接，是不从这个链接传递权重
了解这2个概念后，我们再来讨论怎么处理这类收录问题：
robots写正确的同时，不要在任何一家收录的网站发外链，友链，也不要主动提交百度，这样才可以保证不被搜索引擎收录，为什么呢？
大家百度查一下淘宝，如图：
按照道理淘宝写了robots怎么还是收录，因为有大量的链接指向淘宝官网，而且这些外链可能权重都比较高，
全部都禁止了，依然收录了1亿多条链接
看到这里，是不是有感而发，我们怎么从百度导流到你的淘宝店！（来源：夫唯seo特训营）
简单地讲，死链接指原来正常，后来失效的链接。死链接发送请求时，服务器返回404错误页面。在这些情况下出现死链接：动态链接在数据库不再支持的条件下，变成死链接。某个文件或网页移动了位置，导致指向它的链接变成死链接。网页内容更新并换成其他的链接，原来的链接变成死链接。网站服务器设置错误。从用户的角度来看，死链接和错误链接的表现是一样的，所以一般我们并不需要区别死链接和错误链接。作为SEO人员或网站管理
相对路径的优点和缺点： 优点： 1. 相对路径相对于当前目录，因此可以方便地指向同一目录下的其他文件或目录。 2. 相对路径比绝对路径更短，更易于输入和阅读。 3. 相对路径的可移植性更强，因为它们不依赖于特定的文件系统或服务器配置。 缺点： 1. 如果文件或目录被移动到其他目录中，相对路径可能无法正常工作。 2. 对于嵌套较深的目录结构，相对路径会变得较复杂。 3. 如果有多个文件夹中命名相
在今日头条中，根据用户输入的关键字进行搜索，系统针对关键字进行多维度搜索，内容形成聚合后，统一展示给用户。同时，今日头条采用了多种Robot来爬取和抓取用户的相关关键字，然后精确的匹配给用户，技术上主要是Robot学习算法，和文本分析算法。 Robot算法主要是爬取网站上的关键字，并根据搜索词语进行匹配。Robot算法还可以根据语义分析算法来进行分析和匹配，优化搜索效果。Robot算法也可以
我robots这样写是不是就能避免蜘蛛爬这个“index.htm”这个首页？User-agent: *Disallow: /index.htm11-30.我的index.htm是现在默认的首页，想屏蔽蜘蛛抓取。让蜘蛛爬另一个文档，主要是规避备案巡查我的网站和我备案的不一样，服务器那边要求改，我就整了个htm文档来规避下。写法没有问题。但正常的不建议屏蔽首页地址，，“index.htm”这个后缀地址
