Categories


Tags


Robots META标签的写法

Robots META标签中没有大小写之分,name=”Robots”表示所有的搜索引擎,可以针对某个具体搜索引擎写为name=”BaiduSpider”。 content部分有四个指令选项:index、noindex、follow、nofollow,指令间以“,”分隔。

INDEX 指令告诉搜索机器人抓取该页面;

FOLLOW 指令表示搜索机器人可以沿着该页面上的链接继续抓取下去;

Robots Meta标签的缺省值是INDEX和FOLLOW,只有inktomi除外,对于它,缺省值是INDEX,NOFOLLOW。

这样,一共有四种组合:

<META NAME=”ROBOTS” CONTENT=”INDEX,FOLLOW”>

<META NAME=”ROBOTS” CONTENT=”NOINDEX,FOLLOW”>

<META NAME=”ROBOTS” CONTENT=”INDEX,NOFOLLOW”>

<META NAME=”ROBOTS” CONTENT=”NOINDEX,NOFOLLOW”>

其中

<META NAME=”ROBOTS” CONTENT=”INDEX,FOLLOW”>可以写成<META NAME=”ROBOTS” CONTENT=”ALL”>;

<META NAME=”ROBOTS” CONTENT=”NOINDEX,NOFOLLOW”>可以写成<META NAME=”ROBOTS” CONTENT=”NONE”>

绝大多数的搜索引擎机器人都遵守robots.txt的规则,而对于Robots META标签,目前支持的并不多,但是正在逐渐增加,如著名搜索引擎GOOGLE就完全支持,而且GOOGLE还增加了一个指令“archive”,可以限制GOOGLE是否保留网页快照。例如:

<META NAME=”googlebot” CONTENT=”index,follow,noarchive”>

表示抓取该站点中页面并沿着页面中链接抓取,但是不在GOOLGE上保留该页面的网页快照。


Public @ 2019-08-04 16:09:30

网站结构优化:所谓F型结构是指什么

F型结构是一种网页布局方式,顾名思义,它的布局和字母“F”类似。网页中的主要内容通常位于页面的顶部和左侧,而次要内容则位于页面的中部和右侧。这种布局方式可以使用户更容易地扫描和阅读网页,并快速了解主要内容。F型结构也可以帮助网站优化,将重要信息放在用户最容易看到的位置,提升网站的用户体验和转化率。

Public @ 2023-06-27 21:00:32

绝对路径与相对路径有什么区别?

绝对路径与相对路径有什么区别?在Html的应用中经常会涉及到绝对路径与相对路径的概念(如超级链接、图片等),这两种路径所表达的意义在于绝对路径可以精确引用,而相对路径则是模糊应用概念,只是在目标目录下找到引用,所以大多数Html工作者都会选择使用相对路径。绝对路径与相对路径有什么区别?相对路径的三种写法介绍  一、绝对路径  绝对路径是指文件在硬盘上真正存在的路径。例如“bg.jpg”这个图片是存

Public @ 2020-01-09 16:11:48

通过robots.txt文件屏蔽蜘蛛抓取不存在的后缀

通过网站日志分析,会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀,如:.php、.asp、.aspx等。搜外网站后台日志分析结果如下图:image.搜外主站实际上不存在php后缀的URL地址。可通过robots.txt文件禁止蜘蛛抓取不存在的后缀,减少出现404返回值。在robots.txt文件填写屏蔽规则如下:Disallow: /*.asp$Disallow: /*.php$Disallo

Public @ 2015-07-18 16:09:24

更多您感兴趣的搜索

0.463969s