| 什么是robots文件？
Robots是站点与spider沟通的重要渠道，是网站与搜索引擎爬虫之间的协议，告知哪些可抓取哪些不允许。
| 为什么要做robots文件？
网站上总有一些页面是禁止蜘蛛抓取的。例如：搜索页面、筛选页面、后台登录地址等。
| 如何制作 robots文件？
编写robots.txt文件并上传到网站根目录。
| 制作 robots.txt注意事项
● 所有搜索引擎则用星号表示
● Allow（允许）和Disallow（不允许）优先级
● 至少屏蔽一个，可以屏蔽：搜索结果页面/404页面
● 记得将sitemap放到Robots文件中
● 可以陆续放入更多，而不是一次性决定所有
● 网站后台地址/图片地址/下载文件地址/错误链接（搜外网）
要提交Sitemap到360搜索站长平台，您可以按照以下流程操作： 1. 登录360搜索站长平台。如果您还没有账号，可以直接使用360账号登录。 2. 在站长平台首页，点击左侧菜单栏的“网站管理”。 3. 在网站管理页面，找到您需要提交Sitemap的网站，点击网站名称进入网站详情页面。 4. 在网站详情页面，点击左侧菜单栏的“站点地图”。 5. 在站点地图页面，点击“新建地图”按钮。
一句话次导航是什么次导航：在网站的页脚，用首页的目标关键词打上锚文本指向给首页。目的是增加目标关键词的内链，提高URL的权重。一句话次导航：编辑一句完整话语，在里面出现多个关键词，给每个关键词添上首页链接，这个就是一句话次导航。为什么要做一句话次导航每个网站首页可以做3-5个目标关键词，栏目页面可以做1-3个关键词。但往往首页上的几个关键词，还有栏目上的关键词无法都放到主导航上，甚至可能主导航上的
我robots这样写是不是就能避免蜘蛛爬这个“index.htm”这个首页？User-agent: *Disallow: /index.htm11-30.我的index.htm是现在默认的首页，想屏蔽蜘蛛抓取。让蜘蛛爬另一个文档，主要是规避备案巡查我的网站和我备案的不一样，服务器那边要求改，我就整了个htm文档来规避下。写法没有问题。但正常的不建议屏蔽首页地址，，“index.htm”这个后缀地址
常见的robots.txt文件用法实例：1、禁止所有搜索引擎抓取网站的任何部分User-agent: *Disallow: /这是禁止所有目录和文件被所有搜索引擎收录。网站还没上线时，有的会先屏蔽所有蜘蛛抓取。2、允许所有的spider抓取（或者也可以建一个空的robots.txt文件）User-agent: *Allow: /这是允许所有搜索引擎抓取网站的任何部分，既然是允许所有文件被抓取，可以
