为什么我的网站已经加了robots.txt，还能在百度搜索出来？
因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。
如果您的拒绝被收录需求非常急迫，也可以通过反馈中心反馈请求处理。
来源：百度搜索资源平台 百度搜索学堂
今天看完一本不错的书《锦绣蓝图：怎样规划令人流连忘返的网站》，此书主要针对的是网站规划，是很值得信息架构师学习的一本书，前端设计和开发人员也值得一读。书中讲了一些原先令很多人忽视的网站设计要素，例如“信息架构”一章，阐述了“标签”（元数据）是组织信息的基础，让我对Tags的作用有了新的认识，而在“导航之道”一章，阐述了一个简单的道理：好的页面导航能让用户找到自己想要的东西。关于导航的设计，让我想到
nofollow标签的作用主要是告诉搜索引擎不要跟进某个链接。最初，它的主要目的是阻止链接操纵，这是一种非法的搜索引擎优化技术，通过在许多网站中添加低质量或垃圾链接来提高目标网站的排名。但是，随着时间的推移，nofollow标签已经被广泛应用于其他目的，例如： 1. 防止广告链接滥用：使用nofollow标签告诉搜索引擎某个链接是广告链接，这有助于避免被视为违反搜索引擎的广告政策。 2. 控制
1. 银行和金融机构的网站，因为这些网站可能包含敏感信息，例如客户的个人和财务信息。 2. 医疗保健机构的网站，因为这些网站可能包含个人医疗信息。 3. 艺术、音乐和影片网站，因为这些网站可能包含受版权法保护的内容。 4. 政府网站，特别是警察局和情报机构的网站，因为这些机构的网站可能包含安全敏感信息。 5. 搜索引擎的漏洞报告网站，因为这些网站可能敏感地显示诸如数据库配置、文件位置等敏感
控制页面的抓取、索引是SEO优化网站结构时经常需要用到的技术。常见的工具包括：robots文件页面的noindex标签链接的nofollow属性页面的301转向页面的canonical标签等这几个工具各有各的特定应用场景，但都是用于控制网站内部结构，之间容易混淆，还经常需要配合使用，SEO们必须准确理解这几个工具的机制和原理，不然很容易出错。这篇贴子讨论robots文件。Robots文件的作用ro
