Categories


Tags


ETag助力站点提交Sitemap——ETag简介与作用

一、ETag简介

ETag(EntityTags)是URL的tag,用来标示URL对象是否改变,这样可利用客户端(例如浏览器)的缓存。由服务器首先产生ETag,客户端通过将该记号传回服务器要求服务器验证其(客户端)缓存。服务器使用它来判断页面是否已经被修改,如果未修改返回304,而不必重新传输整个对象。

二、现在站点Sitemap存在的问题

1.发现更新不及时

当站点或其Sitemap发生更新时,百度难以及时发现并响应,因为百度难以无时无刻地持续检查站点内容和Sitemap是否更新。

2.全量抓取,消耗带宽

现在百度对站点Sitemap的抓取会将Sitemap文件完整下载下来,鉴于Sitemap文件一般较大,而这种下载可能存在多次,故比较消耗网站的流量和带宽。

三、ETag作用

HTTP1.1用ag来判断请求的文件是否被修改,主要为了解决Last-Modified无法解决的一些问题

1、一些文件也许会周期性的更改,但是他的内容并不改变(仅仅改变的修改时间),这个时候并不希望客户端认为这个文件被修改了重新GET;

2、某些文件修改非常频繁, 1秒内修改了N次,If-Modified-Since能检查到的粒度是秒级的,这种修改无法判断

3、某些服务器不能精确的得到文件的最后修改时间;

为此,HTTP1.1引入了ETag.但标准并没有规定ETag的内容是什么或者说要怎么实现,唯一规定的是ETag需要放在双引号内。ETag由服务器端生成,客户端通过If-Match或者说If-None-Match这个条件判断请求来验证资源是否修改。我们常见的是使用If-None-Match.请求一个文件的流程可能如下:

第一次请求:

1.客户端发起HTTP GET请求一个文件;

2.服务器处理请求,返回文件内容和一堆Header,当然包括ETag(例如"1ec5-502264e2ae4c0")(假设服务器支持ETag生成和已经开启了ETag).状态码200,如下图所示,首次请求百度首页时,成功得到百度logo图片文件bd_logo1.png,状态码200,大小8.1KB,返回的Header中包括ETag(“1ec5-502264e2ae4c0”)。

第二次请求:

1.客户端发起HTTP GET请求一个文件,这个时候客户端同时发送一个If-None-Match头,这个头的内容就是我们第一次请求时服务器返回的ETag:1ec5-502264e2ae4c0

2.服务器判断发送过来的ETag和计算出来的ETag是匹配的,不返回200,返回304,让客户端继续使用本地缓存。如图所示这次对bd_logo1.png的请求,服务器只返回了Header没有返回内容,大小仅为349B。

四、站点启用ETag的好处

1.对Sitemap启用ETag后,百度可以更快速地响应Sitemap的更新,没有更改内容的情况下,服务器只发回304应答头,对流量的消耗极小,在每个head平均227B大小的通常情形下,一整天二十四小时每秒都回应的流量消耗仅为18.7M。

2.现在站长平台对每个站点的Sitemap主动抓取次数设有上限,且这项功能没有对所有站开放,如果您的站点Sitemap启用了ETag,并通过了测试,那么就可以用很小的流量享受百度及时更新您的Sitemap的功能,以便于百度更好地收录您网站的内容。

如果大家对ETag还有任何的疑问可以到站长社区[站长工具]ETag助力Sitemap讨论帖中进行讨论。

来源:百度搜索资源平台 百度搜索学堂


Public @ 2021-07-08 16:09:45

静态URL是什么?静态URL优点和缺点

静态URL是指URL中完全由字符和字母组成的静态地址,不包含任何动态参数。 静态URL的优点: 1.优化搜索引擎结果:静态URL对搜索引擎更友好,搜索引擎更容易通过静态URL来了解页面内容并进行排名。 2.篡改困难:静态URL一般不包含动态参数,因此不容易被篡改和操纵。 3.可读性强:静态URL直观易懂,很容易让人了解其中的内容。 静态URL的缺点: 1.不利于动态内容更新:如果内容

Public @ 2023-06-25 14:50:20

robots文件中屏蔽的为什么还可以收录?

robots.txt 是一个标准,它通过提供一些规则,告诉搜索引擎爬虫哪些网页可以被爬取,哪些网页不应该被爬取。但是,一些搜索引擎爬虫可能会忽略这些规则,直接抓取它们想要的网页。 此外, robots.txt 文件的存在只是一个建议而不是命令。在一些情况下,搜索引擎爬虫可能会收录被 robots.txt 文件所屏蔽的网页,这有可能是因为发布这个网页的人想要让它被收录,也有可能是因为机器人误解了

Public @ 2023-04-24 07:50:07

sitemap里有大量的转码链接,是否有影响?

问sitemap里爬出了心中链接,要将它改成静态的吗?使用sitemap工具,生成了sitemap,里面有大量的转码链接,这些链接都是tag页的。11-8.应该是TAG和html之间的这个应该是调用的什么东西,在浏览器里会变成中文。sitemap里不用改,这个可以吗?像这样 html结尾的,就是静态页面。在sitemap里,就是这个地址。  浏览器里是显示为中文E6%AF%8D%E5%A

Public @ 2020-06-01 16:09:51

站点地图创建方法

要创建站点地图,请遵循以下步骤: 1. 定义您的网站结构:确定您的网站有哪些页面和区域,以及它们之间的层次结构。这将有助于您确定要在站点地图中包括哪些页面和它们之间的关系。 2. 创建一个XML文件:使用XML语言创建一个文件,该文件将包含您的站点地图信息。您可以使用一个在线工具或者手动创建该文件。 3. 添加标记:向XML文件添加标记,以指示每个页面的URL和重要性。您还可以指定最后更新时

Public @ 2023-05-27 10:50:19

更多您感兴趣的搜索

0.568488s