Categories


Tags


robots.txt语法教程

用几个最常见的情况,直接举例说明:

1. 允许所有SE收录本站:robots.txt为空就可以,什么都不要写。

2. 禁止所有SE收录网站的某些目录:

User-agent: *

Disallow: /目录名1/

Disallow: /目录名2/

Disallow: /目录名3/

3. 禁止某个SE收录本站,例如禁止百度:

User-agent: Baiduspider

Disallow: /

4. 禁止所有SE收录本站:

User-agent: *

Disallow: /

5. 加入sitemap.xml路径,例如:

来源:360站长平台


Public @ 2017-12-16 16:09:16

定向锚文本如何解决SEO问题?定向锚文本案例展示

我们创造“定向锚文本”这个概念主要是解释以下的问题:搜索引擎如何判断一个网站原创度高低?1、如果搜索引擎收录这个页面时,他的数据库里都没这篇内容,则说明是原创的;2、如果某个网站,曾经发的绝大部分内容都是原创的,则新发的内容也很容易被认为是原创的;另外一点,也是咱们今天要讲的,如果这个网站上的内容,都做好了非常细致的定向锚文本,则这个网站容易被认为是原创的。如果只是简单转载或采集的内容,一定不会做

Public @ 2013-02-22 16:11:31

网站设置301重定向怎么操作?301设置需要注意的事项

操作步骤: 1. 确定需要重定向的URL,例如http://www.oldwebsite.com/oldpage.html。 2. 在网站的控制面板中找到网站设置或更改网站选项。 3. 在重定向设置选项中选择301重定向。 4. 输入旧URL,例如http://www.oldwebsite.com/oldpage.html,并指定新URL,例如http://www.newwebsite.c

Public @ 2023-04-23 01:00:16

Robots META标签的写法

Robots META标签中没有大小写之分,name=”Robots”表示所有的搜索引擎,可以针对某个具体搜索引擎写为name=”BaiduSpider”。 content部分有四个指令选项:index、noindex、follow、nofollow,指令间以“,”分隔。INDEX 指令告诉搜索机器人抓取该页面;FOLLOW 指令表示搜索机器人可以沿着该页面上的链接继续抓取下去;Robots Me

Public @ 2019-08-04 16:09:30

360搜索对Robots协议的扩展

360搜索对Robots协议进行了扩展,增加了以下几个指令: 1. User-Agent:用于指定搜索引擎访问网站时使用的用户代理字符串,可以设置多个User-Agent。 2. Crawl-delay:用于指定搜索引擎访问网站时的延迟时间,单位为秒。可以设置针对不同的User-Agent的延迟时间。 3. Sitemap:用于指定网站的sitemap文件的地址,搜索引擎将通过该文件获取站点

Public @ 2023-05-29 17:00:21

更多您感兴趣的搜索

0.399118s