绝对路径的优点是：
1.网站有RSS输出时，内容会被一些Feed聚合网站抓取显示。同样，页面里指向原网站的链接会被保留。
2.如果有人抄袭、采集你的文章，抄袭者比较懒，连页面里面的链接一起原封不动抄过去，绝对路径链接还会指向你的网站，增加网站外链权重。
3.就算网页移动位置，里面链接还是指向正确URL。
4.有助于预防和解决网址规范化问题。
绝对路径的缺点是：
1.代码比较多。
2.除非链接是动态插入的，不然不好在测试服务器上进行测试。因为里面的链接将直接指向真正域名的URL，而不是测试服务器上的URL。
3.除非链接是动态插入的，不然移动页面将比较困难。因为页面位置发生变化，其他页面连向本页面的链接却可能无法跟着变化，还指向原来的已经硬编码的绝对路径。
来源：搜外网
robots.txt概念如果我们网站内有某些特殊的文件不让搜索引擎收录，那怎么办？答案是：使用一个叫做robots.txt的文件。robots.txt文件告诉搜索引擎本网站哪些文件是允许搜索引擎蜘蛛抓取，哪些不允许抓取。搜索引擎蜘蛛访问网站任何文件之前，需先访问robots.txt文件，然后抓取robots.txt文件允许的路径，跳过其禁止的路径。总结：robots.txt是一个简单的.txt文件
蜘蛛黑洞：蜘蛛黑洞指的是网站通过极低的成本运营，制造出大量和内容相识但参数不同的动态URL ，像一个无限循环的“黑洞”将蜘蛛困住，蜘蛛花费太多的时间在网站，浪费了大量资源抓取的网页为无效网页。如果你的网站存在蜘蛛黑洞现象，尽快的处理好，蜘蛛黑洞不利于网站的收录，也会影响搜索引擎对网站的评分。如何使用Robots避免蜘蛛黑洞？如何利用Robots避免蜘蛛黑洞操作：普通的筛选结果页基本都是使用静态链接
绝对路径的优点是：1.网站有RSS输出时，内容会被一些Feed聚合网站抓取显示。同样，页面里指向原网站的链接会被保留。2.如果有人抄袭、采集你的文章，抄袭者比较懒，连页面里面的链接一起原封不动抄过去，绝对路径链接还会指向你的网站，增加网站外链权重。3.就算网页移动位置，里面链接还是指向正确URL。4.有助于预防和解决网址规范化问题。绝对路径的缺点是：1.代码比较多。2.除非链接是动态插入的，不然不
