以下是一些可能需要使用robots.txt文件制止抓取的网站目录： 1. 敏感网站：包括医疗机构、政府机构、银行和其他敏感机构的网站。 2. 私人网站：包括个人博客、论坛和社交媒体账号。 3. 用户数据：包括个人信息、照片、视频和其他敏感数据。 4. 搜索引擎排除页面：包括不想在搜索引擎结果中出现的页面。 5. 网站目录：包括一些不需要搜索引擎索引的目录，如网站的管理员和内部页面。 6. 图片和视频：包括不需要被搜索引擎索引的图片和视频，如网站的管理员和内部图片和视频。 7. 测试和开发目录：包括测试和开发过程中产生的目录，这些目录可能包含网站的机密信息，不宜被搜索引擎索引。
可视化这是站点地图所应具备的一个重要特点。因为对于图形的理解要比文字更迅速与准确。虽然我们这里所说的站点地图的内容是文字表达的，但是它却是以地图的形式出现的，并列出了各栏目的相关类目及下属子栏目．明确地表示出了它们彼此间的相互关系。它具有很强的可视性．是用户找到自己所需信息资源的便捷方式。快速化这一特点在站点地图上体现的尤为明显。网页内容都明确显示在“地图”上，用户对主页信息一目了然。在站点地图上
用几个最常见的情况，直接举例说明：1. 允许所有SE收录本站：robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录：User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度：User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
匹配方式分两部分：1.path部分，2.参数部分匹配支持?*$?两种通配符?*? 表示任何有效字符的 0 个或多个个案。?$? 表示网址结束。path部分与google匹配方式保持一致，也就是只有/或是*开头的规则才有机会匹配上?/?匹配根目录以及任何下级网址?/fish??/fish?开头的匹配项* ?/fish?* ?/fish.html?* ?/fish/salmon.html?* ?/fi
