许多年前，让网站被搜索引擎选中包括填写表格，注册该网站，并手动编辑希望该网站被搜索的关键词，这个过程随着搜索引擎网络爬虫或网络蜘蛛的出现而改变。本文就robots相关内容，做详细的介绍。什么是搜索引擎蜘蛛？搜索引擎蜘蛛是一种自动程序，它沿着从一个网页到另一个网页的链接在互联网上爬行，为内容编制索引并将其添加到数据库中。这意味着，只要网站有一个来自其他网站且搜索引擎已经知道的链接，然后它会找到随着时
很多的网站由于不懂SEO的优化，乱定义URL链接，或者更改URL链接，最终造成了‘一个页面多条URL的情况是非常常见的。最常见的是：伪静态链接、动态链接这样的。如果搜索引擎收录了非常多的‘混合’类型的链接，这样网站的评分就会被大幅度的降低了，这个时候最正确的方式：查看排名，如果排名中两个类型的链接都存在，那么就使用canonical标签来做权威链接的定义。如果只存在某一种类型的链接，那么就把另外一
有些时候，站长并不希望某些页面被抓取和收录，如付费内容、测试阶段的页面、复制内容页面等。网站上不出现链接，或者使用JavaScript、Flash链接，使用nofollow等方法都不能保证页面一定不会被收录。站长自己虽然没有链接到不想被收录的页面，其他网站可能由于某种原因出现导入链接，导致页面被收录。要确保页面不被收录，需要使用robots文件或Meta Robots标签。来源：搜外网
