用几个最常见的情况，直接举例说明：
1. 允许所有SE收录本站：robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录：
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度：
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站：
User-agent: *
Disallow: /
5. 加入sitemap.xml路径
sitemapindex文件根节点必须是<sitemapindex>。sitemapindex文件编码必须为UTF-8，第一行为: <?xml version="1.0" encoding="utf-8" ?>。sitemapindex文件禁止使用命名空间，禁止使用规定之外的属性。sitemapindex文件大小不得超过5M，site
问sitemap里爬出了心中链接，要将它改成静态的吗？使用sitemap工具，生成了sitemap，里面有大量的转码链接，这些链接都是tag页的。11-8.应该是TAG和html之间的这个应该是调用的什么东西，在浏览器里会变成中文。sitemap里不用改，这个可以吗？像这样 html结尾的，就是静态页面。在sitemap里，就是这个地址。 浏览器里是显示为中文E6%AF%8D%E5%A
robots.txt文件是一个文本文件，用于向搜索引擎和其他机器人网站爬虫指定哪些页面或内容可以被爬取，哪些页面或内容不能被爬取。它的主要作用是为了控制搜索引擎和其他机器人网站爬虫访问和抓取网站内容，保护网站的隐私和安全。如果一个网站不想被某些搜索引擎或爬虫访问、爬取和索引，就可以通过robots.txt文件来禁止它们。另外，robots.txt文件还可以防止一些机器人抓取出现线上攻击或滥用等安全
obots.txt 文件必须放在网站的根目录。放在子目录的 Robots.txt 文件搜索引擎不能爬取到，所以不会起任何作用。如：https://www.seowhy.com/robots.txt 是有效的。https://www.seowhy.com/a/robots.txt 是无效的。以下3种情况需要注意：1、如果手机网站采用的是m.的二级域名，要给手机网
