robots.txt 是一个标准，它通过提供一些规则，告诉搜索引擎爬虫哪些网页可以被爬取，哪些网页不应该被爬取。但是，一些搜索引擎爬虫可能会忽略这些规则，直接抓取它们想要的网页。 此外， robots.txt 文件的存在只是一个建议而不是命令。在一些情况下，搜索引擎爬虫可能会收录被 robots.txt 文件所屏蔽的网页，这有可能是因为发布这个网页的人想要让它被收录，也有可能是因为机器人误解了 robots.txt 文件。 因此，网站所有者仍然需要使用其他策略，如更新网页的元标记和标题标签，以及在页面上指示搜索引擎不索引。
nofollow标签是一种发送信号给搜索引擎，表明某个链接并没有推荐价值或者仍然需要被确认，从而在搜索引擎收录索引中减少该链接的收录的技术。当引用链接的页面需要降低权重，或者是垃圾链接以及狗仔站点被引用时，采用 rel=”nofollow” 就能限制搜索引擎把这些链接当做收录的对象，达到抑制搜索结果质量下降的目的。
什么是302跳转？302跳转是用户浏览器或搜索引擎蜘蛛向网站务器发出访问网址A的请求时，服务器返回的头信息中状态码的一种，也称为302重定向，302跳转。301重定向与302跳转有什么区别?1、使用效果不同301重定向是永久的重定向，比较常用于场景是使用域名跳转。搜索引擎在抓取新内容的同时也将旧的网址替换为重定向之后的网址。例如：我们访问 http://www.baidu.com 会跳转到 htt
| 什么是robots文件？Robots是站点与spider沟通的重要渠道，是网站与搜索引擎爬虫之间的协议，告知哪些可抓取哪些不允许。| 为什么要做robots文件？网站上总有一些页面是禁止蜘蛛抓取的。例如：搜索页面、筛选页面、后台登录地址等。| 如何制作 robots文件？编写robots.txt文件并上传到网站根目录。| 制作 robots.txt注意事项● 所有搜索引擎则用星号表示● All
要防止所有搜索引擎显示您网站的快照，请将此元标记置入网页的 <HEAD> 部分：<meta name="robots" content="noarchive">要允许其他搜索引擎显示快照，但仅防止搜索引擎显示，请使用以下标记：<meta name="Baiduspider" content="noa
