Categories

Tags

URL网址规范化是什么？

网址规范化（URL canonicalization）是SEO工作中经常遇到，因而必须了解的一个重要步骤。就我检查过的网站来看，99%的网站有各种各样、程度不同的URL规范化问题。什么是网址规范化？网址规范化问题指的是网站上由于种种原因，同一个页面出现多个网址，搜索引擎挑选显示的URL有可能不是最恰当的、站长想要的那个URL网址。网址规范化就是通过一些SEO技术手段，帮助搜索引擎判断出真正的、站长

 Public @ 2022-12-16 16:11:21

robots使用误区

误区一:我的网站上的所有文件都需要蜘蛛抓取，那我就没必要在添加robots.txt文件了。反正如果该文件不存在，所有的搜索蜘蛛将默认能够访问网站上所有没有被口令保护的页面。每当用户试图访问某个不存在的URL时，服务器都会在日志中记录404错误(无法找到文件)。每当搜索蜘蛛来寻找并不存在的robots.txt文件时，服务器也将在日志中记录一条404错误，所以你应该做网站中添加一个robots.txt

 Public @ 2017-10-31 16:09:18

通过robots.txt文件屏蔽蜘蛛抓取不存在的后缀

通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。搜外网站后台日志分析结果如下图：image.搜外主站实际上不存在php后缀的URL地址。可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。在robots.txt文件填写屏蔽规则如下：Disallow: /*.asp$Disallow: /*.php$Disallo

 Public @ 2015-07-18 16:09:24

robots.txt概念和10条注意事项

robots.txt概念如果我们网站内有某些特殊的文件不让搜索引擎收录，那怎么办？答案是：使用一个叫做robots.txt的文件。robots.txt文件告诉搜索引擎本网站哪些文件是允许搜索引擎蜘蛛抓取，哪些不允许抓取。搜索引擎蜘蛛访问网站任何文件之前，需先访问robots.txt文件，然后抓取robots.txt文件允许的路径，跳过其禁止的路径。总结：robots.txt是一个简单的.txt文件

 Public @ 2019-12-20 16:09:22

更多您感兴趣的搜索

0.534745s