Categories

Tags

robots.txt语法教程

用几个最常见的情况，直接举例说明:

1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。

2. 禁止所有SE收录网站的某些目录:

User-agent: *

Disallow: /目录名1/

Disallow: /目录名2/

Disallow: /目录名3/

3. 禁止某个SE收录本站，例如禁止百度:

User-agent: Baiduspider

Disallow: /

4. 禁止所有SE收录本站:

User-agent: *

Disallow: /

5. 加入sitemap.xml路径,例如:

来源：360站长平台


 Public @ 2017-12-16 16:09:16

站点地图创建方法

要创建站点地图，请遵循以下步骤： 1. 定义您的网站结构：确定您的网站有哪些页面和区域，以及它们之间的层次结构。这将有助于您确定要在站点地图中包括哪些页面和它们之间的关系。 2. 创建一个XML文件：使用XML语言创建一个文件，该文件将包含您的站点地图信息。您可以使用一个在线工具或者手动创建该文件。 3. 添加标记：向XML文件添加标记，以指示每个页面的URL和重要性。您还可以指定最后更新时

 Public @ 2023-05-27 10:50:19

为什么我的网站已经加了robots.txt，还能在百度搜索出来？

为什么我的网站已经加了robots.txt，还能在百度搜索出来？因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页，但百度搜索引擎数据库中已经建立的网页索引信息，可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。如果您的拒绝被收录需求非常急迫，也可以通过反馈中心反馈请求处理。来源：百度搜索资源平台 百度搜索学堂

 Public @ 2015-11-18 16:08:58

更多您感兴趣的搜索

0.457389s