站点地图是一个网站所有链接的容器。很多网站的连接层次比较深，爬虫很难抓取到，站点地图可以方便爬虫抓取网站页面，通过抓取网站页面，清晰了解网站的架构，网站地图一般存放在根目录下并命名sitemap，为爬虫指路，增加网站重要内容页面的收录。站点地图就是根据网站的结构、框架、内容，生成的导航网页文件。站点地图对于提高用户体验有好处，它们为网站访问者指明方向，并帮助迷失的访问者找到他们想看的页面。
站点地图，是一种指明信息资源方位与联系，并且具有导航功能的可视化工具。其关键在于信息的获取、信息的检索、信息的表示和信息的关联四个方面。简而言之，就是以类似地图的形式，将主页的信息按照类日罗列起来，并提供相应的链接，它可以为用户提供主页的整体信息，是用户准确找到自己所需信息的快速入口 。
robots.txt文件是一个文本文件，用于向搜索引擎和其他机器人网站爬虫指定哪些页面或内容可以被爬取，哪些页面或内容不能被爬取。它的主要作用是为了控制搜索引擎和其他机器人网站爬虫访问和抓取网站内容，保护网站的隐私和安全。如果一个网站不想被某些搜索引擎或爬虫访问、爬取和索引，就可以通过robots.txt文件来禁止它们。另外，robots.txt文件还可以防止一些机器人抓取出现线上攻击或滥用等安全
robots.txt文件通常放在网站的根目录下，即与主页文件（如index.html）同一级目录下。例如，如果网站的域名是www.example.com，那么robots.txt文件的完整路径可能是www.example.com/robots.txt。
Google网站地图Sitemap是一个XML文件，列出了Web站点中的所有页面和链接。这样，搜索引擎可以通过此文件更快地找到和索引您网站上的所有内容。 与搜索引擎优化（SEO）有关的是，Sitemap帮助您确保您网站上的所有内容都可以被搜索引擎找到和索引。搜索引擎很可能会错过一些页面或链接，导致这些内容无法出现在用户的搜索结果中。有了Sitemap，您可以告诉搜索引擎哪些页面需要索引，哪些页面
在 Sitemap 中列出的网址应该是完整的网址，具有必要的协议、主机名和路径。这样可以确保搜索引擎能够正确地索引和访问您的网站或页面，并为用户提供正确的链接。如果网址不是完整的，则搜索引擎可能无法正确解析该网址，导致页面无法索引或无法正常访问。因此，为了确保最佳的 SEO 效果，建议在 Sitemap 中使用完整的网址。
