为什么我的网站已经加了robots.txt，还能在百度搜索出来？
因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。
如果您的拒绝被收录需求非常急迫，也可以通过反馈中心反馈请求处理。
来源：百度搜索资源平台 百度搜索学堂
谈到网站优化，除了需要做好网站的内容优化建设、网站架构优化及网站外链优化建设等，还需要做好网站的内链优化建设。对于网站内链优化建设，杨子在以往的文章中曾多次提到，内链的优化建设相对于外部链接的优化建设更具有可控性，内链的优化建设能更好的引导用户走向提升用户体验、内链的优化建设可避免网站链接孤岛提升网站收录率、内链的优化建设也属于是给予相关页面的投票方式，提升页面权重及关键词排名。在今天，搜索引擎算
如某博客上有垃圾评论：<a href="URL">顶顶</a>以下操作，即进行了 nofollow：<a href="URL" rel="nofollow" >灌水</a>在网页的 <HEAD> 部分添加适当的 <META> 标签。拦截所有搜索引擎把网页收录：<
robots文件往往放置于根目录下，包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL, or NL作为结束符），每一条记录的格式如下所示："<field>:<optional space><value><optionalspace>"在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件中的记录通常
1. 银行和金融机构的网站，因为这些网站可能包含敏感信息，例如客户的个人和财务信息。 2. 医疗保健机构的网站，因为这些网站可能包含个人医疗信息。 3. 艺术、音乐和影片网站，因为这些网站可能包含受版权法保护的内容。 4. 政府网站，特别是警察局和情报机构的网站，因为这些机构的网站可能包含安全敏感信息。 5. 搜索引擎的漏洞报告网站，因为这些网站可能敏感地显示诸如数据库配置、文件位置等敏感
