Categories

Tags

301跳转常见问题汇总

上周有站长朋友在百度站长平台社区提出了一些关于301跳转的问题，我们特别邀请Baiduspider技术专家对此做了解答。在后续与Baiduspider技术专家沟通时，我们又获得了一些信息，今天通过采访的形式将内容传递给更多的站长朋友。问：我设置了301跳转，多久可以生效？答：目前百度无法承诺301跳转的生效时间，因为站长感受到的生效时间会受多因素影响，比如Baiduspider再次抓取这个页面发现

 Public @ 2016-10-18 16:09:07

关于不带www的域名的问题

在做域名解析时，应该设置一个不带www的域名。这样，当用户使用不带www的域名时，可以正常访问你的网站。做SEO时需要正确处理带www和不带www域名的关系：我们讲过URL标准化的概念，在搜索引擎看来，带www和不带www的URL是不同的两个URL，当它们指向同一个网站时，会让搜索引擎不懂应该选择哪一个URL作为主要的。所以，我们建议部分符合条件的主机采用301重定向进行URL标准化设置。如果你的

 Public @ 2012-06-25 16:09:36

robots.txt文件有什么必要？

robots.txt文件是一个文本文件，用于向搜索引擎和其他机器人网站爬虫指定哪些页面或内容可以被爬取，哪些页面或内容不能被爬取。它的主要作用是为了控制搜索引擎和其他机器人网站爬虫访问和抓取网站内容，保护网站的隐私和安全。如果一个网站不想被某些搜索引擎或爬虫访问、爬取和索引，就可以通过robots.txt文件来禁止它们。另外，robots.txt文件还可以防止一些机器人抓取出现线上攻击或滥用等安全

 Public @ 2023-06-12 20:00:21

robots是什么？

robots是网站跟爬虫间的协议，用简单直接的txt格式文本方式告诉对应的爬虫被允许的权限，也就是说robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。当一个搜索蜘蛛访问一个站点时，它会首先检查该站点根目录下是否存在robots.txt，如果存在，搜索机器人就会按照该文件中的内容来确定访问的范围；如果该文件不存在，所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。搜索引擎通过一

 Public @ 2017-11-12 16:09:33

更多您感兴趣的搜索

4.254768s