Categories

Tags

网址规范化问题

网站出现多个不规范网址会给搜索引擎收录和排名带来很多麻烦。网址规范化造成的几个问题：?CMS系统在不同地方链接到不同的URL，分散了页面权重，不利于排名。?复制内容过多，搜索引擎可能认为有作弊嫌疑。?外部链接也可能指向不同URL，分散权重。?搜索引擎把资源花在收录不规范的网址上，留下给独特内容的资源就减少了。?搜索引擎判断的规范化网址不是站长想要的那个网址。来源：搜外网

 Public @ 2013-03-06 16:11:22

URL为什么静态化

现在的网站绝大多数是数据库驱动，页面由程序实时生成，而不是真的在服务器上有一个静态HTML文件存在。当用户访问一个网址时，程序根据URL中的参数调用数据库数据，实时生成页面内容。因此动态页面相对应的URL原始状态也是动态的，包含问号、等号及参数。更麻烦的是有时某些参数可以是任意值，服务器都能正常返回页面，虽然内容全是一样或非常相似的。例如，URL中的参数1234改为5678或其他数字，服务器很可能

 Public @ 2022-02-17 16:11:07

360搜索对Robots协议的扩展

360搜索根据站长们的反馈，会陆续推出扩展的Robots协议命令。这些命令将能帮助站长们提高和360搜索爬虫沟通的效率，减少站长们维护Robots协议文件的技术成本。360搜索首个扩展命令是：indexpage，站长们可以使用此命令告知360搜索哪些网页经常更新。360搜索会根据站长的指示以及自己的算法，智能调整爬虫抓取频率，实现对您网站新内容的更高频率抓取。在命令中可以使用*、$等通配符。示例：

 Public @ 2019-02-15 16:09:33

搜索引擎的Robots协议

robots.txt是一种存放于网站根目录下的文本文件，用于告诉搜索引擎的爬虫（spider），此网站中的哪些内容是不应被搜索引擎的索引，哪些是可以被索引。通常认为，robots.txt文件用来搜索引擎对目标网页的抓取。robots.txt协议并不是一个规范，而只是约定俗成的，通常搜索引擎会识别这个文件，但也有一些特殊情况。对于Google来说，使用robots也未必能阻止Google将网址编入索

 Public @ 2018-04-08 16:09:21

更多您感兴趣的搜索

0.442398s