Categories


Tags


抓取异常的原因有哪些

一、网站异常

1、dns异常

当Baiduspider无法解析您网站的IP时,会出现DNS异常。可能是您的网站IP地址错误,或者域名服务商把Baiduspider封禁。请使用WHOIS或者host查询自己网站IP地址是否正确且可解析,如果不正确或无法解析,请与域名注册商联系,更新您的IP地址。

2、连接超时

抓取请求连接超时,可能原因服务器过载,网络不稳定

3、抓取超时

抓取请求连接建立后,下载页面速度过慢,导致超时,可能原因服务器过载,带宽不足

4、连接错误

无法连接或者连接建立后对方服务器拒绝

二、链接异常

1、访问被拒绝

爬虫发起抓取,httpcode返回码是403

2、找不到页面

爬虫发起抓取,httpcode返回码是404

3、服务器错误

爬虫发起抓取,httpcode返回码是5XX

4、其他错误

爬虫发起抓取,httpcode返回码是4XX,不包括403和404

来源:百度搜索资源平台 百度搜索学堂


Public @ 2018-09-22 16:02:23

2013中国网站运营发展趋势报告-中国低质网站泛滥

随着互联网的快速发展,中国网站数量不断增加,用户使用互联网的频率也在不断提高。但与此同时,低质量的网站也在迅速增多,给用户带来了不便和困扰。 2013年,中国网站运营发展趋势报告指出,中国的低质网站泛滥现象十分严重。这些低质网站存在着大量的广告和垃圾信息,严重影响了用户的体验和信任。此外,这些网站的安全性也较差,容易受到黑客攻击和恶意软件的侵袭,给用户的信息安全带来了威胁。 为了解决这一问题,

Public @ 2023-03-31 21:00:36

百度搜索资源平台-快速收录上线公告

尊敬的搜索合作伙伴:您好!由于搜索资源平台移动专区天级提交将于5月18日暂停使用,为继续支持移动站点提交优质资源,新增站点快速收录功能,即日起上线。1.    工具说明快速收录可用于提交站点新增的时效性资源进搜索,收录时间约48小时。2.    开通范围4月15日前在搜索资源平台完成熊掌ID站点绑定,且当前仍处于绑定状态的站点3.   

Public @ 2018-03-22 16:05:20

更多您感兴趣的搜索

0.518161s