用几个最常见的情况，直接举例说明:
1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录:
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度:
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站:
User-agent: *
Disallow: /
5. 加入sitemap.xml路径,例如:
来源：360站长平台
作者：师旭（世界工厂网SEO）相信站长朋友们都对301跳转有一定的了解，知道在网站优化中可以帮助自己，但是有些站长朋友却对如何合理使用301跳转不太清楚，也不太了解301跳转究竟能帮助到我们什么？今天在这里，我们分享一些301跳转在SEO方面的应用，希望可以用来解决网站优化中比较难解决的问题。一、揭开301跳转的面纱301跳转(也被称为301重定向)，指的是根据HTTP协议，当用户或搜索引擎爬虫向
301转向是SEO人员经常使用的必备技术，对301转向的原理、作用、实现方法等需要清楚了解。什么是301转向？301转向(或叫301重定向、301跳转)是当用户或搜索引擎向网站服务器发出浏览请求时，服务器返回的HTTP数据流中头信息(header)中的状态码的一种，表示本网页永久性转移到另一个地址，也就是永久性转向。其它最常见的状态码还包括：200：表示一切正常404：网页找不到302：暂时转向/
用几个最常见的情况，直接举例说明:1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录:User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度:User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
尊敬的用户： 为了更好地保护您的隐私和内容权益，百度搜索已经全新升级了robots协议。该协议将更加严格地限制搜索引擎爬取您的网站内容，以保障您的权益。 更新后的robots协议针对以下内容进行了调整： 1.增加禁止搜索引擎爬取的网页类型，如登录页、支付页、个人信息页等。 2.增加网站所有者对搜索引擎爬取的细节设置，包括最大爬取频率、爬取深度、爬取延时等。 3.优化 robots.txt
