通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。
搜外网站后台日志分析结果如下图：
image.
搜外主站实际上不存在php后缀的URL地址。
可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。
在robots.txt文件填写屏蔽规则如下：
Disallow: /*.asp$
Disallow: /*.php$
Disallow: /*.aspx$
注意前面一个*，后面一个$，代表后缀。
参考搜外的robots.txt文件写法，点击这里
来源：搜外网
robots文件是搜索生态中很重要的一个环节，同时也是一个很细节的环节。很多站长同学在网站运营过程中，很容易忽视robots文件的存在，进行错误覆盖或者全部封禁robots，造成不必要损失！那么如果误操作封禁了robots怎么办？今天我们请到了厦门258网站运营负责人——郑军伟，为我们分享网站robots误封禁后该如何操作？【案例背景】网站开发2.0版本，技术选择了在线开发，为了避免搜索引擎抓取开
a：使用<nofollow>属性的链接不会被搜索引擎跟踪，更不会给链接传递权重。避免权重不必要的丢失，从而达到权重集中的目的。
头条搜索Robots匹配说明是指在头条搜索过程中，搜索引擎会先根据用户的搜索关键词和搜索历史等信息，匹配出相关内容并展示给用户。而在这个过程中，搜索引擎会使用一种名为Robots的自动化程序来对网站进行定期的抓取和索引，以保持搜索结果的实时性和准确性。Robots程序会自动遵循搜索引擎协议和规则，对网站进行扫描和抓取，同时遵循相关网站的robots.txt文件中的规则来限制抓取行为。因此，网站发布
"robots.txt"文件包含一条或更多的记录，这些记录通过空行分开（以CR,CR/NL, or NL作为结束符），每一条记录的格式如下所示："<field>:<optionalspace><value><optionalspace>"。在该文件中可以使用#进行注解，具体使用方法和UNIX中的惯例一样。该文件
