1. Robots.txt是一个协议，用于控制搜索引擎爬虫的访问范围。 2. Robots.txt文件位于网站的根目录下，包含了一些指令告诉爬虫哪些页面可以访问，哪些页面需要限制访问。 3. Robots.txt文件并不会阻止所有爬虫的访问，只有支持Robots.txt协议的爬虫才会遵守文件中的指令。 4. Robots.txt文件中的指令可以根据不同的爬虫进行个性化设置，可以控制不同爬虫访问不同的页面。 5. Robots.txt文件中可以使用通配符设置规则，如“*”代表任意字符，“$”代表结尾等。 6. 一些常见的搜索引擎会读取Robots.txt文件，如Google、Baidu、Bing等。 7. Robots.txt文件可以更改，如果需要让某些页面对所有爬虫开放或限制访问，可以通过修改文件来实现。 8. 另外，Robots.txt文件是公开的，任何人都可以访问，因此需要慎重处理敏感信息的指令。
面包屑导航来源很久很久以前，在大森林的边上住着一个贫穷的樵夫，他与妻子和两个孩子相依为命。他的儿子名叫汉赛尔，女儿名叫格莱特。后来樵夫的妻子去世了，他又给孩子们娶了一个后母。后母计划把两个孩子带到森林的深处，然后趁他们睡着的时候跑掉。汉赛尔无意中知道了后母的计划，于是偷偷地把一块面包藏在了口袋里。在去森林的路上，汉赛尔悄悄地捏碎了他的面包，并不时地停下脚步，把碎面包屑撒在路上。后母顺利地趁孩子们睡
站内链接的合理建设是SEO的重要技术之一，它的优化能使网站整体获得搜素引擎的价值认可，特别是百度。如何网站把站内链接做得足够好，能大大提升关键词在百度中的排名。下面卢松松讲从5个方面来说明如何建立站内链接。一：制作网站导航制作网站导航栏的注意事项有：第一，尽量使用文字链接；第二，不要使用JS调用方式，尽量使用CSS特效方式；第三，图片导航的ALT一定要加入说明；第四，导航名称一定要通俗易懂。关于网
用几个最常见的情况，直接举例说明：1. 允许所有SE收录本站：robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录：User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度：User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态URL ，就像一个无限循环的“黑洞”将spider困住，Baiduspider浪费了大量资源抓取的却是无效网页。比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，
