User-agent: [robot名稱] Disallow: [禁止存取的目錄或檔案] Allow: [允許存取的目錄或檔案] Sitemap: [網站地圖檔案位置] 注意事項： - User-agent：要設定的是區分搜索引擎的機器人，可設定多個。若不加此欄位，則視為通用設定。 - Disallow：機器人不可存取的目錄或檔案，在此設定時，要注意目錄名稱或檔案名稱是完整的，不要與其他目錄或檔案混淆，否則會影響索引品質。 - Allow：機器人允許存取的目錄或檔案，若不設定，代表機器人可自由存取。 - Sitemap：網站地圖檔案通常是一個XML檔案，提供站點中所有的頁面、文章等連結資訊，可以協助搜尋引擎更精確地抓取網站的內容。在robots.txt中設定可以幫助搜尋引擎更快速地尋找該檔案，並進一步了解網站結構和相關信息。
内容与结构的优化，在站内优化中占很大的比例，一般包括首页、栏目页内页和各种聚合页面的优化，分为以下四个方面：1、中间商品展示栏为所有商品图片增加alt"图片注释，注释直接调用商品名称即可。2、商品分类页在大型广告栏上方增加频道标题与简短描述般60~80个中文字为宜。为所有商品图片增加alt="图片注释，注释直接调用商品名称即可，这样做的好处是当图片不能完全显示的时候还能保持文字
robots.txt 是一个标准，它通过提供一些规则，告诉搜索引擎爬虫哪些网页可以被爬取，哪些网页不应该被爬取。但是，一些搜索引擎爬虫可能会忽略这些规则，直接抓取它们想要的网页。 此外， robots.txt 文件的存在只是一个建议而不是命令。在一些情况下，搜索引擎爬虫可能会收录被 robots.txt 文件所屏蔽的网页，这有可能是因为发布这个网页的人想要让它被收录，也有可能是因为机器人误解了
Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫扫除规范”（RobotsExclusionProtocol），网站经过Robots协议通知查找引擎哪些页面可以抓取，哪些页面不能抓取 是查找引擎的一部分来定位和索引互联网上的每个可能答复查找恳求的网页，一般只在评论robots的HTML标签或许robots.txt文件的时分运用。
非标准扩展协议是指为特定需求而开发的协议，它们不是由标准化组织或工作组所制定的，并且通常只在特定的应用程序或系统内部使用。 在机器人领域，非标准扩展协议可以用于实现特殊的功能或针对特定的应用需求。例如，某些机器人可能需要与其他设备进行协同工作，因此可能需要使用非标准的协议来实现通信和控制。 在开发机器人或机器人应用程序时，非标准扩展协议也可用于灵活地实现自定义的功能和控制。例如，一些机器人应用
