用几个最常见的情况，直接举例说明:
1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录:
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度:
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站:
User-agent: *
Disallow: /
5. 加入sitemap.xml路径,例如:
来源：360站长平台
网站链接优化是一个重要的SEO策略。以下是链接优化的一些方法： 1. 内部链接优化：确保您的网站内部链接有关联系，并遵循 URL 结构。 2. 外部链接优化：获得其他网站引用您的链接来提高您网站的权威性。这需要您用有关的关键词来搜索高质量的网站，并通过评论和咨询的方式争取链接。 3. 避免链接购买：从第三方购买链接不仅不利于你的网站高排名的发展，而且违反了搜索引擎优化原则。 4. 去除无效
Nofollow属性推出以后，Matt Cutts多次说过，nofollow既可以用在论坛，博客等的留言中，代表这些链接不是站长能控制和背书的，也可以用在某些内部链接，以达到控制内部链接权重和PR流动及分布的目的。最常见的应用是在网站联系我们，隐私权政策，用户条款等链接上。这些网页往往都是整站有链接，如果没有使用nofollow，整站的链接权重都会平等的流动到这些网页上。而像隐私权政策这些网页一般
robots.txt文件应该放在网站根目录下。举例来说，当robots访问一个网站时，首先会检查该网站中是否存在这个文件，如果机器人找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。
robots文件往往放置于根目录下，包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL,or NL作为结束符），每一条记录的格式如下所示："<field>:<optional space><value><optionalspace>"在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常以
