通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。
搜外网站后台日志分析结果如下图：
image.
搜外主站实际上不存在php后缀的URL地址。
可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。
在robots.txt文件填写屏蔽规则如下：
Disallow: /*.asp$
Disallow: /*.php$
Disallow: /*.aspx$
注意前面一个*，后面一个$，代表后缀。
参考搜外的robots.txt文件写法，点击这里
来源：搜外网
HTML版本网站地图指的是一种包含网站所有页面的列表，可以直接在网站上进行访问和浏览的网页。它以HTML标记语言格式编写，被搜索引擎和爬虫程序识别，方便这些程序对网站内部链接结构的探索和索引。 网站地图主要有以下作用： 1.帮助搜索引擎和爬虫程序更好地索引网站，提高网站在搜索引擎中的排名； 2.方便用户快速找到需要的信息，提高用户体验； 3.展示网站的结构和内容，提升网站的可视性和可访问性
1. 相关性优化：内部链接应该将相关的页面和文章链接起来，帮助搜索引擎理解网站结构和页面之间的关系，提高网站整体的相关性。 2. 锚文本优化：内部链接的锚文本应该使用有意义的关键词，避免使用无意义的词语或重复关键词，同时要注意使用恰当的关键词密度，避免过度优化。 3. 页面深度优化：内部链接的页面深度应该合理，不要让页面深度过深或过浅，要让搜索引擎和用户能够轻松地找到页面和内容。 4. 外部
1)、图像目录图像是构成网站的首要组成元素。跟着现在建站越来越便利，许多cms的呈现，真实做到了会打字就会建网站，而正是由于如此便利，网上呈现了许多的同质化模板网站，被重复运用，这样的网站查找引擎是必定不喜爱的，就算是你的网站被录入了，那你的作用也是很差的。若是你非要用这种网站的话，主张你大概在robots.txt文件中进行屏蔽，一般的网站图像目录是：imags 或许 img;2)、网站模板目录如
用几个最常见的情况，直接举例说明:1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录:User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度:User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
