抓取诊断工具常见错误类型解析
- 威海百度搜索资源平台 威海百度搜索资源平台
- 1039
【url规范】
百度支持抓取的url长度不超过1024，如果您的链接长度过长，请在保证正常访问的情况下，适当精简，保证链接能被百度正常抓取和收录。
【重定向错误】
重定向是指百度spider访问链接时发生了跳转，如果跳转后的链接超长或者连续跳转的次数超过5次，就会发生重定向错误而导致抓取失败。
【服务器连接错误】
这种情况是指，由于服务器响应过慢或您的网站屏蔽了百度spider，而导致百度无法访问您的网站。从而会导致百度无法正常收录或者更新您网站的内容。您可能看到以下具体错误：连接超时、连接失败、连接被拒、无响应、响应遭到截断、连接重置、标头遭到截断、超时。
*如何处理服务器连接错误？
减少动态网页请求的过多网页加载。如果网站为多个网址提供相同内容，则会被视为动态提供内容（例如，www.example.com/shoes.php?color=red&size=7与www.example.com/shoes.php?size=7&color=red提供的内容相同）。动态网页的响应时间可能会很长，并会因此导致超时问题。或者，服务器可能会返回超载状态，要求百度spider放慢抓取该网站的速度。一般来说，建议您尽量使用简短的参数并谨慎使用。
确保您网站的托管服务器没有停止运行、超载或配置不当。如果连接问题、超时问题或响应问题仍然存在，请与您的网站托管服务提供商联系，并考虑增强您的网站处理流量的能力。
检查网站是否不小心屏蔽了百度spider的IP。您可能会由于系统级问题而阻止了百度访问，例如DNS配置问题、配置不当的防火墙或DoS防护系统、内容管理系统配置问题。防御系统是保证托管服务正常运行的关键因素之一，并且这些系统通常会配置为自动阻止超量的服务器请求。由于百度spider发出的请求通常要比普通用户多，因此可能会触发这些防御系统，导致它们阻止百度spider访问并抓取您的网站。要解决此类问题，您需要确定网站基础架构中的哪个部分在阻止百度spider，然后取消该阻止。如果您没有控制防火墙的权限，就需要与您的托管服务提供商联系解决此问题。
来源：百度搜索资源平台 百度搜索学堂
