robots.txt 是一个标准，它通过提供一些规则，告诉搜索引擎爬虫哪些网页可以被爬取，哪些网页不应该被爬取。但是，一些搜索引擎爬虫可能会忽略这些规则，直接抓取它们想要的网页。 此外， robots.txt 文件的存在只是一个建议而不是命令。在一些情况下，搜索引擎爬虫可能会收录被 robots.txt 文件所屏蔽的网页，这有可能是因为发布这个网页的人想要让它被收录，也有可能是因为机器人误解了 robots.txt 文件。 因此，网站所有者仍然需要使用其他策略，如更新网页的元标记和标题标签，以及在页面上指示搜索引擎不索引。
面包屑(Bread Crumbs)即把用户从根路径开始一级级带到当前页面的导航处理，它有助于用户更轻松的在网站中定位，也是界面的一个组成部分。 面包屑导航的原理是根据不同的页面来分页导航，从而一步步把用户从根页面引导至当前页面，维护着你当前的层级关系，面包屑导航的起源于古代的标记路径的方法，用来返回当前位置的最初出发地，即从哪里出发。 面包屑导航有助于用户快速定位当前页面位置，并有助于减少
大家都知道外部链接对网站排名的重要性，同时也建议不要忽略了站内链接的作用。外部链接大部分情况下是不好控制的，而且要经过很长时间的积累，内部链接却完全在自己的控制之下，是SEO手中可优化的重点内容之一。下面列几个优化站内链接的技巧和经验。建立网站地图稍有规模的网站，比如几百页以上，只要有可能，最好给网站建一个完整的网站地图sitemap。同时把网站地图的链接放在首页上，使搜索引擎能很方便的发现和抓取
User-agent: *Disallow: .jpg$jpg可以代替为gif，png 等等...来源：360站长平台
robots文件往往放置于根目录下，包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL,or NL作为结束符），每一条记录的格式如下所示："<field>:<optional space><value><optionalspace>"在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常以
