Meta robots标签是一种HTML头部元数据标签，用于指示搜索引擎如何处理指定页面的内容。它告诉网络爬虫如何爬取索引优化。这些标签是在
和之间添加的，旨在为“robots（搜索引擎蜘蛛）”提供有关如何索引和缓存页面内容的指令。 以下是meta robots标签的写法： - - - - 其中，“content”属性指定一组用逗号分隔的值，可以是以下之一： - index：告诉爬虫允许索引该页面； - noindex：告诉爬虫不允许索引该页面； - follow：告诉爬虫允许跟随页面上的链接； - nofollow：告诉爬虫不允许跟随页面上的链接。优化URL是做SEO的第一步，一个好的URL有这些特点：1、层次越少越好有的URL很深很长层次很多，这种URL就对SEO不是很友好，一个适合SEO的URL应该是3层：第一层域名、第二层定义当前页面属于什么性质、第三层是当前页面的ID。2、分类页采用目录形式，内容页采用内页形式网站的栏目页面、分类页面，采用目录形式的URL，如www.xxx.com/abc；网站的产品页面、新闻页面、内容页面，采用内
Google网站地图(sitemap)是Google提供给网站管理员的一个工具，来提高网站被收录的网页数目。一般来说，搜索引擎蜘蛛会跟着链接爬行到你网站的所有网页。但很多时候，由于种种原因，并不是所有网页都能被收录进搜索引擎数据库。比如说，你的网站是数据库动态生成的，URL中带有参数，一些网页离主页太远，你的网站PR值太低，新的网页可能过很长时间才有机会被抓取等等。Google Sitemap就允
360搜索支持Robots协议的主要命令，以下为具体说明：1. user-agent360搜索各产品的爬虫user-agent为：- 网页搜索 360Spider- 图片搜索 360Spider-Image- 视频搜索 360Spider-Video2. Allow站长可通过Allow命令指定建议收录的文件、目录 。3. Disallow站长可通过Disallow命令指定不建议收录的文件、目录。
对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态URL ，就像一个无限循环的“黑洞”将spider困住，Baiduspider浪费了大量资源抓取的却是无效网页。比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，
