robots.txt文件的格式为： User-agent: [user-agent-name] Disallow: [URL path] 其中，[user-agent-name]指代搜索引擎爬虫的名称，[URL path]指代禁止访问的URL路径。在文件中可以定义多条User-agent和Disallow规则，每一条规则占一行，每一对规则之间要有一个空行。示例： User-agent: * Disallow: /private/ Disallow: /secret/ User-agent: Baiduspider Disallow: /admin/ User-agent: Googlebot Disallow: /tmp/
Google网站地图Sitemap是一个XML文件，列出了Web站点中的所有页面和链接。这样，搜索引擎可以通过此文件更快地找到和索引您网站上的所有内容。 与搜索引擎优化（SEO）有关的是，Sitemap帮助您确保您网站上的所有内容都可以被搜索引擎找到和索引。搜索引擎很可能会错过一些页面或链接，导致这些内容无法出现在用户的搜索结果中。有了Sitemap，您可以告诉搜索引擎哪些页面需要索引，哪些页面
在 Sitemap 中列出的网址应该是完整的网址，具有必要的协议、主机名和路径。这样可以确保搜索引擎能够正确地索引和访问您的网站或页面，并为用户提供正确的链接。如果网址不是完整的，则搜索引擎可能无法正确解析该网址，导致页面无法索引或无法正常访问。因此，为了确保最佳的 SEO 效果，建议在 Sitemap 中使用完整的网址。
设置搜索robots协议的后果针对短视频类内容，视频搜索将不再索引、展现网站的视频资源，历史已索引部分会从搜索中屏蔽。若设置部分目录不希望被收录 ，该目录下内容将从搜索中屏蔽，其余内容在搜索中则以正常结果展示。来源：百度搜索资源平台
robots.txt文件放在哪里?robots.txt文件应该放置在网站根目录下。举例来说，当spider访问一个网站（比如 http://www.abc.com）时，首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件，如果 Spider找到这个文件，它就会根据这个文件的内容，来确定它访问权限的范围。网站 URL相应的 robots.txt的 URLhtt
