Categories


Tags


网站误封Robots该如何处理

robots文件是搜索生态中很重要的一个环节,同时也是一个很细节的环节。很多站长同学在网站运营过程中,很容易忽视robots文件的存在,进行错误覆盖或者全部封禁robots,造成不必要损失!

那么如果误操作封禁了robots怎么办?今天我们请到了厦门258网站运营负责人——郑军伟,为我们分享网站robots误封禁后该如何操作?

【案例背景】

网站开发2.0版本,技术选择了在线开发,为了避免搜索引擎抓取开发版本,要求技术人员设置了Robots封禁处理。2.0版本开发周期1个月,1个月后网站版本迭代,直接覆盖了1.0版本,包括Robots封禁文件,2天后发现流量大幅下降,检查收录发现800万收录降至0条,关键词大量掉线。

【处理方式】

1.修改Robots封禁为允许,然后到百度站长后台检测并更新Robots。

2.在百度站长后台抓取检测,此时显示抓取失败,没关系,多点击抓取几次,触发蜘蛛抓取站点。

3.在百度站长后台抓取频次,申请抓取频次上调。

4.百度反馈中心,反馈是因为误操作导致了这种情况的发生。

5.百度站长后台链接提交处,设置数据主动推送(实时)。

6.更新sitemap网站地图,重新提交百度,每天手工提交一次。

以上处理完,接下来就是等待了,万幸,2天的时间数据开始慢慢回升,到第3天基本回升到正常状态!

【案例总结】

本次事故绝对是运营生涯的一次败笔,总结反思一下,希望大家避免类似问题。

1.产品开发一定要避免在线开发,不能为了省事不搭建开发环境。

2.产品迭代要有流程记录,开发时做了那些设置处理,那些是不需要放出来的,那些是必须放出来的,要非常清楚。

3.要经常关注百度站长后台,关注相关数据变化,从数据变化中及时发现问题

来源:百度搜索资源平台 百度搜索学堂


Public @ 2017-07-10 16:08:54

叨叨死链这回事儿

叨叨死链是指在互联网上的一种现象,即某个链接已经失效,无法正常访问或跳转到目标网页或资源。叨叨死链可能是由于目标网页删除、网页重构导致链接改变或输入错误等原因造成的。 叨叨死链在互联网上比较常见,特别是在一些较老的或不经常维护的网站上。这些死链会给用户带来不便,尤其当用户点击一个链接时,期望能够直接访问相关内容,却发现链接已经失效,无法打开目标页面。 对于网站所有者来说,及时修复死链是保持网站

Public @ 2023-07-21 00:50:23

站点地图是什么

站点地图是一个网站所有链接的容器。很多网站的连接层次比较深,爬虫很难抓取到,站点地图可以方便爬虫抓取网站页面,通过抓取网站页面,清晰了解网站的架构,网站地图一般存放在根目录下并命名sitemap,为爬虫指路,增加网站重要内容页面的收录。站点地图就是根据网站的结构、框架、内容,生成的导航网页文件。站点地图对于提高用户体验有好处,它们为网站访问者指明方向,并帮助迷失的访问者找到他们想看的页面。站点地图

Public @ 2013-03-27 16:11:51

robots.txt文件放在哪里?

robots.txt文件放在哪里?robots.txt文件应该放置在网站根目录下。举例来说,当spider访问一个网站(比如 http://www.abc.com)时,首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件,如果 Spider找到这个文件,它就会根据这个文件的内容,来确定它访问权限的范围。网站 URL相应的 robots.txt的 URLhtt

Public @ 2017-01-09 16:08:57

什么是robots文件

robots.txt是一个网站的根目录中的文件,用于告知搜索引擎哪些页面和文件可以被搜索引擎的爬虫访问,哪些不可以。该文件是遵循 robots协议的网站必不可少的一个文件,用于控制搜索引擎的爬虫访问网站的行为。通过robots.txt文件,网站管理员可以禁止搜索引擎爬虫访问一些无用或敏感的网站内容,或是避免搜素引擎爬虫访问较为频繁的API接口等。

Public @ 2023-05-30 08:00:08

更多您感兴趣的搜索

0.406071s