Categories

Tags

360搜索对Robots协议的扩展

360搜索对Robots协议进行了扩展，增加了以下几个指令： 1. User-Agent：用于指定搜索引擎访问网站时使用的用户代理字符串，可以设置多个User-Agent。 2. Crawl-delay：用于指定搜索引擎访问网站时的延迟时间，单位为秒。可以设置针对不同的User-Agent的延迟时间。 3. Sitemap：用于指定网站的sitemap文件的地址，搜索引擎将通过该文件获取站点的所有URL。 4. Host：用于指定网站的主机名，可以避免因为DNS变化导致搜索引擎爬虫无法访问网站。 5. Clean-param：用于指定需要从URL中移除的参数，搜索引擎在访问网站时会忽略URL中包含的这些参数。 6. Noindex-nofollow：用于指定不需要被搜索引擎收录或链接的页面。 这些指令的使用可以让网站管理员更加灵活地控制搜索引擎爬虫的访问行为，以达到更好的SEO效果。

 Public @ 2023-05-29 17:00:21

能否利用canonical标签陷害竞争对手？

今天再介绍一个黑帽负面SEO的想法：利用canonical标签陷害竞争对手。聊黑帽SEO绝不是建议读者做黑帽，优化正规网站的还是尽量别尝试，风险很大。但了解黑帽SEO方法，一是开拓思路，第二更重要的是，防范别人用负面SEO方法陷害自己。站长们认真观察的话一定会发现，负面SEO的尝试是一直在发生的。我这个小小的、谁也不得罪的SEO博客都经常被人制造巨量垃圾链接、制造大量敏感词搜索页面、刷跳出率等等，

 Public @ 2019-01-30 16:11:18

浅谈404问题

今天为什么要说一下404问题呢,最近看case过程中发现个很有意思的网站，该网站被灌了大量的垃圾信息，被其发现后及时地进行了删除，这一点是值得肯定的。通常情况下，正常网站将自动返回404状态码，搜索引擎进行更新并删除，避免对网站用户及搜索引擎带来负面影响。但问题来了，该网站只删除了内容，没有任何主体内容的页面被保存了下来，未做404处理。当然，存在一类网站只删除内容后返回正常200状态码，提醒一句

 Public @ 2014-09-24 16:09:54

robots文件之前屏蔽了蜘蛛，现已开放，如何更新快照

一些域名之前通过robots.txt文件屏蔽了蜘蛛，后来对搜索引擎开放了，但搜索结果里，还是显示以下内容:“由于该网站的robots.txt文件存在限制指令（限制搜索引擎抓取），系统无法提供该页面的内容描述。”解决办法：在百度上搜索该域名，在搜索结果页面的末尾，点击用户反馈。来源：搜外网

 Public @ 2011-07-02 16:09:24

robots文件中屏蔽的为什么还可以收录？

robots.txt 是一个标准，它通过提供一些规则，告诉搜索引擎爬虫哪些网页可以被爬取，哪些网页不应该被爬取。但是，一些搜索引擎爬虫可能会忽略这些规则，直接抓取它们想要的网页。 此外， robots.txt 文件的存在只是一个建议而不是命令。在一些情况下，搜索引擎爬虫可能会收录被 robots.txt 文件所屏蔽的网页，这有可能是因为发布这个网页的人想要让它被收录，也有可能是因为机器人误解了

Public @ 2023-04-24 07:50:07

更多您感兴趣的搜索

0.430657s