Categories


Tags


抓取异常的原因有哪些

一、网站异常

1、dns异常

当Baiduspider无法解析您网站的IP时,会出现DNS异常。可能是您的网站IP地址错误,或者域名服务商把Baiduspider封禁。请使用WHOIS或者host查询自己网站IP地址是否正确且可解析,如果不正确或无法解析,请与域名注册商联系,更新您的IP地址。

2、连接超时

抓取请求连接超时,可能原因服务器过载,网络不稳定

3、抓取超时

抓取请求连接建立后,下载页面速度过慢,导致超时,可能原因服务器过载,带宽不足

4、连接错误

无法连接或者连接建立后对方服务器拒绝

二、链接异常

1、访问被拒绝

爬虫发起抓取,httpcode返回码是403

2、找不到页面

爬虫发起抓取,httpcode返回码是404

3、服务器错误

爬虫发起抓取,httpcode返回码是5XX

4、其他错误

爬虫发起抓取,httpcode返回码是4XX,不包括403和404

来源:百度搜索资源平台 百度搜索学堂


Public @ 2018-09-22 16:02:23

百度搜索资源平台-死链提交工具增加功能公告

亲爱的网站管理员:百度站长平台在收集了广大网站管理员的需求后,请工程师对死链提交工具进行了升级,升级后的死链提交工具提供规则提交功能,极大减轻了网站管理员的收集汇总工作,同时提高了工具效率。以下便是本次死链工具此次升级的两大亮点:1.支持死链规则提交。若网站出现某一目录或规则下链接全部死链的情况,可以提交相应的规则,即pattern形式提交死链,无需再汇总全部死链。协议死链、内容死链、跳转死链都可

Public @ 2012-04-04 16:07:05

如何配置百度智能小程序适配规则?——示例详解

在介绍适配规范的文章中我们提到,保持H5 url与web化路径的样式尽可能一致,可以让搜索更好地识别规则、生效规则。现在,我们就来重点来看一下“样式一致性”要求。1、适配规则概况总体来看,小程序适配的基本原则遵循移动适配原则,开发者可以参考移动适配的相关介绍。小程序适配的不同之处在于,它没有移动适配中提到的同主域限制。另外,需要说明的是,百度搜索会综合资源、性能等要素的考量,并不百分之百按照开发者

Public @ 2009-04-12 15:44:34

《百度APP调起SDK详细设计标准文档》出台

相信AppLink调起项目早已被大家熟知,在2015年12月24日,百度又强力推出《百度APP调起SDK详细设计标准文档》,对SDK的必要性、功能和兼容性做了全面说明,并且详细介绍了Android和iOS系统SDK的接入方法。对AppLink调起项目感兴趣的站长朋友,一定要尽快阅读。来源:百度搜索资源平台

Public @ 2011-04-26 16:06:49

【移动红黑榜】APP虚假下载黑榜站点公布

亲爱的站长管理员:近日,百度站长平台发布了百度移动搜索将对欺诈下载行为进行清理和惩罚的公告,紧随其后,本期百度站长平台【移动红黑榜】,针对欺诈和诱导用户下载非目标 APP的网站行为,筛选出典型性案例,发布新一期黑榜如下:建议有相同作法的网站尽快进行整改!百度站长平台移动红黑榜上线5期以来,分别针对广告遮挡主体内容、阅读障碍、视频无法播放、版式错位等移动端影响用户体验的问题,推出了红榜、黑榜,以案例

Public @ 2014-02-06 16:06:29

更多您感兴趣的搜索

0.432207s