Categories


Tags


网站误封Robots该如何处理

robots文件是搜索生态中很重要的一个环节,同时也是一个很细节的环节。很多站长同学在网站运营过程中,很容易忽视robots文件的存在,进行错误覆盖或者全部封禁robots,造成不必要损失!

那么如果误操作封禁了robots怎么办?今天我们请到了厦门258网站运营负责人——郑军伟,为我们分享网站robots误封禁后该如何操作?

【案例背景】

网站开发2.0版本,技术选择了在线开发,为了避免搜索引擎抓取开发版本,要求技术人员设置了Robots封禁处理。2.0版本开发周期1个月,1个月后网站版本迭代,直接覆盖了1.0版本,包括Robots封禁文件,2天后发现流量大幅下降,检查收录发现800万收录降至0条,关键词大量掉线。

【处理方式】

1.修改Robots封禁为允许,然后到百度搜索资源后台检测并更新Robots。

2.在百度搜索资源后台抓取检测,此时显示抓取失败,没关系,多点击抓取几次,触发蜘蛛抓取站点。

3.在百度搜索资源后台抓取频次,申请抓取频次上调。

4.百度反馈中心,反馈是因为误操作导致了这种情况的发生。

5.百度搜索资源后台链接提交处,设置数据API推送(实时)。

6.更新sitemap网站地图,重新提交百度,每天手动提交一次。

以上处理完,接下来就是等待了,万幸,2天的时间数据开始慢慢回升,到第3天基本回升到正常状态!

【案例总结】

本次事故绝对是运营生涯的一次败笔,总结反思一下,希望大家避免类似问题。

1.产品开发一定要避免在线开发,不能为了省事不搭建开发环境。

2.产品迭代要有流程记录,开发时做了那些设置处理,那些是不需要放出来的,那些是必须放出来的,要非常清楚。

3.要经常关注百度搜索资源后台,关注相关数据变化,从数据变化中及时发现问题

百度搜索robots协议全新升级

9月11日,百度搜索robots全新升级。升级后robots将优化对网站视频URL收录抓取情况。仅当您的网站包含不希望被视频搜索引擎收录的内容时,才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容,请勿建立robots.txt文件。

如您的网站未设置robots协议,百度搜索对网站视频URL的收录将包含视频播放页URL,及页面中的视频文件、视频周边文本等信息,搜索对已收录的短视频资源将对用户呈现为视频极速体验页。此外,综艺影视类长视频,搜索引擎仅收录页面URL。

详情见:视频极速体验解决方案

来源:百度搜索资源平台 百度搜索学堂


Public @ 2009-10-29 16:08:56

新手如何掌握制作和提交网站地图?

制作网站地图: 1. 确定网站结构:确定网站的所需页面、页面之间的关系以及内容分布。 2. 确定信息架构:根据网站结构,制定信息架构,将各个页面的内容划分为不同的类别和子类别。 3. 绘制网站地图:使用绘图工具或专业的网站地图制作软件绘制网站地图,将页面之间的关系以树状结构展示。 4. 确认并完善:与网站设计师、开发人员合作,确认网站地图是否准确无误,并根据实际情况进行完善。 提交网站地图:

Public @ 2023-04-11 17:00:45

内部链接(站内链接)的优化

1. 使用有意义的链接文本:链接文本应该包含目标页面的主要关键词,同时尽量避免使用无意义的链接文本,比如“点击这里”或“了解更多”。 2. 建立链接深度:优化站点内部链接深度是提高网站排名和用户体验的关键。建立清晰的网站结构和层次,确保每个页面都可以通过几个点击以内到达。 3. 保证内部链接的稳定性:内部链接是网站的基础,因此要确保内部链接的持续稳定。当需要调整某些页面的链接时,尽量在网站上进

Public @ 2023-04-10 06:51:07

360搜索对Robots协议的支持

360搜索支持Robots协议的主要命令,以下为具体说明:1. user-agent360搜索各产品的爬虫user-agent为:- 网页搜索 360Spider- 图片搜索 360Spider-Image- 视频搜索 360Spider-Video2. Allow站长可通过Allow命令指定建议收录的文件、目录 。3. Disallow站长可通过Disallow命令指定不建议收录的文件、目录。

Public @ 2019-06-30 16:09:34

robots文件之前屏蔽了蜘蛛,现已开放,如何更新快照

一些域名之前通过robots.txt文件屏蔽了蜘蛛,后来对搜索引擎开放了,但搜索结果里,还是显示以下内容:“由于该网站的robots.txt文件存在限制指令(限制搜索引擎抓取),系统无法提供该页面的内容描述。”解决办法:在百度上搜索该域名,在搜索结果页面的末尾,点击用户反馈。来源:搜外网

Public @ 2011-07-02 16:09:24

更多您感兴趣的搜索

0.488550s