名称 搜索引擎
google蜘蛛: googlebot
百度蜘蛛:baiduspider
yahoo蜘蛛:slurp
alexa蜘蛛:ia_archiver
msn蜘蛛:msnbot
altavista蜘蛛:scooter
lycos蜘蛛: lycos_spider_(t-rex)
alltheweb蜘蛛: fast-webcrawler/
inktomi蜘蛛: slurp
一个在线写robots.txt的工具。
最后需要注意，robots.txt文件名必须是小写，而且放在网站根目录
来源：360站长平台
URL的优化可以通过以下几方面来实现： 1. 简洁明了：URL应该尽量简短，清晰地描述页面的内容。避免使用过长的URL，可使用关键词来描述页面的主题。 2. 使用关键词：在URL中使用关键词可以帮助搜索引擎更好地理解页面的内容。关键词应该与页面的主题相关，但不要过度堆砌关键词。 3. 使用连字符：在URL中使用连字符（-）来分割单词，而不要使用下划线或者空格。连字符可以提高URL的可读性，同
功能说明提交sitemap工具可以向头条搜索提交网站的sitemap文件，帮助头条spider更好的抓取您的网站。您可以在此工具下选择已经验证的站点，进行验证站点的sitemap文件提交。sitemap提交后，头条搜索会根据sitemap了解网站中数据情况。sitemap要求sitemapindex文件要求sitemapindex文件根节点必须是<sitemapindex>。sitem
robots.txt概念如果我们网站内有某些特殊的文件不让搜索引擎收录，那怎么办？答案是：使用一个叫做robots.txt的文件。robots.txt文件告诉搜索引擎本网站哪些文件是允许搜索引擎蜘蛛抓取，哪些不允许抓取。搜索引擎蜘蛛访问网站任何文件之前，需先访问robots.txt文件，然后抓取robots.txt文件允许的路径，跳过其禁止的路径。总结：robots.txt是一个简单的.txt文件
1. 不需要在每个页面都添加robots.txt文件：robots.txt文件只是一份给搜索引擎看的指令，如果不希望搜索引擎从该页面抓取数据，那么每一页都是可以不用添加robots.txt文件的。 2. 不能用于移动设备：robots.txt文件可用于搜索引擎爬虫，但也可以在部分机型的移动设备上进行yu处理，可以用于控制移动设备的蜘蛛爬行进行内容抓取。 3. 不应该将robots保存到公用
