obots.txt 文件必须放在网站的根目录。
放在子目录的 Robots.txt 文件搜索引擎不能爬取到，所以不会起任何作用。
如：
https://www.seowhy.com/robots.txt 是有效的。
https://www.seowhy.com/a/robots.txt 是无效的。
以下3种情况需要注意：
1、如果手机网站采用的是m.的二级域名，要给手机网站设置robots.txt的话，robots.txt要放在m. 这个二级域名的根目录下，而不是www的根目录。
2、给网站添加了一个站内站，如果要屏蔽某链接，是在www根目录下的robots里屏蔽，而不是给站内站创建独立的robtos.txt文件。
3、网站有多个二级域名的话，应该每个二级域名设置一个robots.txt。搜外问答的例子，点击查看。
来源：搜外网
Nofollow属性推出以后，Matt Cutts多次说过，nofollow既可以用在论坛，博客等的留言中，代表这些链接不是站长能控制和背书的，也可以用在某些内部链接，以达到控制内部链接权重和PR流动及分布的目的。最常见的应用是在网站联系我们，隐私权政策，用户条款等链接上。这些网页往往都是整站有链接，如果没有使用nofollow，整站的链接权重都会平等的流动到这些网页上。而像隐私权政策这些网页一般
关于网站的URL设计，虽然很少有人问到院长，但是，院长却见过了各种各样五花八门的URL，现在，院长和大家聊聊什么是友好的URL设计1、在搭建网站结构、制作URL时，尽量避开非主流设计，追求简单美即可, 越简单越平常，越好2、不建议URL中含有中文字符，中文字符容易出现识别问题3、URL长度要求从www开始到结束，总长度不超过1024个字节4、避免无效参数，如ll等5、谨慎使用#参数，有可能会被爬虫
1. 下面是一个拒绝所有机器人访问的robots.txt： ``` User-agent: * Disallow: / ``` 2. 下面的robots.txt用于阻止百度搜索引擎访问整个站点： ``` User-agent: Baiduspider Disallow: / ``` 3. 下面的robots.txt文件用于阻止所有搜索引擎访问以private开头的任何URL： ```
robots.txt文件是一个文本文件，用于向搜索引擎和其他机器人网站爬虫指定哪些页面或内容可以被爬取，哪些页面或内容不能被爬取。它的主要作用是为了控制搜索引擎和其他机器人网站爬虫访问和抓取网站内容，保护网站的隐私和安全。如果一个网站不想被某些搜索引擎或爬虫访问、爬取和索引，就可以通过robots.txt文件来禁止它们。另外，robots.txt文件还可以防止一些机器人抓取出现线上攻击或滥用等安全
