User-agent: [robot名稱] Disallow: [禁止存取的目錄或檔案] Allow: [允許存取的目錄或檔案] Sitemap: [網站地圖檔案位置] 注意事項： - User-agent：要設定的是區分搜索引擎的機器人，可設定多個。若不加此欄位，則視為通用設定。 - Disallow：機器人不可存取的目錄或檔案，在此設定時，要注意目錄名稱或檔案名稱是完整的，不要與其他目錄或檔案混淆，否則會影響索引品質。 - Allow：機器人允許存取的目錄或檔案，若不設定，代表機器人可自由存取。 - Sitemap：網站地圖檔案通常是一個XML檔案，提供站點中所有的頁面、文章等連結資訊，可以協助搜尋引擎更精確地抓取網站的內容。在robots.txt中設定可以幫助搜尋引擎更快速地尋找該檔案，並進一步了解網站結構和相關信息。
今天看完一本不错的书《锦绣蓝图：怎样规划令人流连忘返的网站》，此书主要针对的是网站规划，是很值得信息架构师学习的一本书，前端设计和开发人员也值得一读。书中讲了一些原先令很多人忽视的网站设计要素，例如“信息架构”一章，阐述了“标签”（元数据）是组织信息的基础，让我对Tags的作用有了新的认识，而在“导航之道”一章，阐述了一个简单的道理：好的页面导航能让用户找到自己想要的东西。关于导航的设计，让我想到
永久重定向也被称为301重定向，是一条对网站阅览器的指令来显现阅览器被要求显现的不同的URL，当一个网页经历过其URL的最终一次改变今后时运用，一个永久定向是一种效劳器端的重定向，可以被查找引擎蜘蛛适当地处理
obots.txt 文件必须放在网站的根目录。放在子目录的 Robots.txt 文件搜索引擎不能爬取到，所以不会起任何作用。如：https://www.seowhy.com/robots.txt 是有效的。https://www.seowhy.com/a/robots.txt 是无效的。以下3种情况需要注意：1、如果手机网站采用的是m.的二级域名，要给手机网
尊敬的用户： 为了更好地保护您的隐私和内容权益，百度搜索已经全新升级了robots协议。该协议将更加严格地限制搜索引擎爬取您的网站内容，以保障您的权益。 更新后的robots协议针对以下内容进行了调整： 1.增加禁止搜索引擎爬取的网页类型，如登录页、支付页、个人信息页等。 2.增加网站所有者对搜索引擎爬取的细节设置，包括最大爬取频率、爬取深度、爬取延时等。 3.优化 robots.txt
