用几个最常见的情况，直接举例说明:
1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录:
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度:
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站:
User-agent: *
Disallow: /
5. 加入sitemap.xml路径,例如:
来源：360站长平台
1. 明确网站宗旨和目标用户，设计网站结构和导航应该紧密围绕宗旨和用户需求进行，体现网站的主题和核心功能。 2. 确定清晰的导航条及其位置，在整个网站中保持一致性和易于理解，使用户可以快速找到所需信息。 3. 设计页面布局要尽量简洁明了，结构分明，尤其是在导航条中，可以用颜色、字体、位置等方式来突出指示当前所在页面。 4. 设置导航条中的标签栏，标签的名称要简洁明了、易于理解，避免使用过于复杂的术
在 Sitemap 中列出的网址应该是完整的网址，具有必要的协议、主机名和路径。这样可以确保搜索引擎能够正确地索引和访问您的网站或页面，并为用户提供正确的链接。如果网址不是完整的，则搜索引擎可能无法正确解析该网址，导致页面无法索引或无法正常访问。因此，为了确保最佳的 SEO 效果，建议在 Sitemap 中使用完整的网址。
robots.txt 是一个标准，它通过提供一些规则，告诉搜索引擎爬虫哪些网页可以被爬取，哪些网页不应该被爬取。但是，一些搜索引擎爬虫可能会忽略这些规则，直接抓取它们想要的网页。 此外， robots.txt 文件的存在只是一个建议而不是命令。在一些情况下，搜索引擎爬虫可能会收录被 robots.txt 文件所屏蔽的网页，这有可能是因为发布这个网页的人想要让它被收录，也有可能是因为机器人误解了
误区一:我的网站上的所有文件都需要蜘蛛抓取，那我就没必要在添加robots.txt文件了。反正如果该文件不存在，所有的搜索蜘蛛将默认能够访问网站上所有没有被口令保护的页面。每当用户试图访问某个不存在的URL时，服务器都会在日志中记录404错误(无法找到文件)。每当搜索蜘蛛来寻找并不存在的robots.txt文件时，服务器也将在日志中记录一条404错误，所以你应该做网站中添加一个robots.txt
