obots.txt 文件必须放在网站的根目录。
放在子目录的 Robots.txt 文件搜索引擎不能爬取到，所以不会起任何作用。
如：
https://www.seowhy.com/robots.txt 是有效的。
https://www.seowhy.com/a/robots.txt 是无效的。
以下3种情况需要注意：
1、如果手机网站采用的是m.的二级域名，要给手机网站设置robots.txt的话，robots.txt要放在m. 这个二级域名的根目录下，而不是www的根目录。
2、给网站添加了一个站内站，如果要屏蔽某链接，是在www根目录下的robots里屏蔽，而不是给站内站创建独立的robtos.txt文件。
3、网站有多个二级域名的话，应该每个二级域名设置一个robots.txt。搜外问答的例子，点击查看。
来源：搜外网
| 什么是nofollow？● HTML页面中a标签的属性值，告诉搜索引擎不要追踪某一个链接。● 为什么设置nofollow标签？● 避免权重的流失| 如何做nofollow标签？● 一些不要权重的页面链接，给加上nofollow● 如：搜索按钮、关于我们、联系我们、更多、点击查看● 以搜外网首页为案例讲解| nofollow与robots.txt区别：● nofollow决定权重分配，robot
nofollow标签最初是由Google引入的，旨在告诉搜索引擎跟踪链接的方式。它的作用是让网站管理员控制搜索引擎是否跟踪某个链接并传递权重。也就是说，如果一个页面包含了nofollow标签，搜索引擎就不会将该页面与被链接的页面相关联，也不会将该页面作为链接目标的一部分考虑。这样可以避免一些不必要的链接传递权重，同时可以防止人工操纵搜索引擎排名。 然而，随着时间的推移，nofollow标签的作用
用几个最常见的情况，直接举例说明:1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录:User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度:User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
一些域名之前通过robots.txt文件屏蔽了蜘蛛，后来对搜索引擎开放了，但搜索结果里，还是显示以下内容:“由于该网站的robots.txt文件存在限制指令（限制搜索引擎抓取），系统无法提供该页面的内容描述。”解决办法：在百度上搜索该域名，在搜索结果页面的末尾，点击用户反馈。来源：搜外网
