通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。
搜外网站后台日志分析结果如下图：
image.
搜外主站实际上不存在php后缀的URL地址。
可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。
在robots.txt文件填写屏蔽规则如下：
Disallow: /*.asp$
Disallow: /*.php$
Disallow: /*.aspx$
注意前面一个*，后面一个$，代表后缀。
参考搜外的robots.txt文件写法，点击这里
来源：搜外网
今天再介绍一个黑帽负面SEO的想法：利用canonical标签陷害竞争对手。聊黑帽SEO绝不是建议读者做黑帽，优化正规网站的还是尽量别尝试，风险很大。但了解黑帽SEO方法，一是开拓思路，第二更重要的是，防范别人用负面SEO方法陷害自己。站长们认真观察的话一定会发现，负面SEO的尝试是一直在发生的。我这个小小的、谁也不得罪的SEO博客都经常被人制造巨量垃圾链接、制造大量敏感词搜索页面、刷跳出率等等，
除了解决网址规范化问题，还有很多需要做301转向的情形。比如，为保护版权，公司拥有不同TLD的多个域名：?seowhy.com?seowhy.net?seowhy.org?seowhy.com.cn?seowhy.cn为避免造成大量复制内容，应该选定一个为主域名，如seowhy.com，其他域名做301转向到seowhy.com。网站改版经常需要用到301转向，如页面删除、改变地址、URL命名系统
robots文件是搜索生态中很重要的一个环节，同时也是一个很细节的环节。很多站长同学在网站运营过程中，很容易忽视robots文件的存在，进行错误覆盖或者全部封禁robots，造成不必要损失！那么如果误操作封禁了robots怎么办？今天我们请到了厦门258网站运营负责人——郑军伟，为我们分享网站robots误封禁后该如何操作？【案例背景】网站开发2.0版本，技术选择了在线开发，为了避免搜索引擎抓取开
robots.txt 是一个文本文件，用于指示搜索引擎爬虫哪些页面可以被抓取，哪些页面不应该被抓取。在建立一个网站时，可以通过 robots.txt 控制搜索引擎爬虫对网站的访问，以达到更好的SEO效果。以下是robots.txt的使用教程。 步骤1：新建 robots.txt 文件 在网站的根目录下，新建一个名为 robots.txt 的文本文件。 步骤2：编辑 robots.txt 文件
