名称 搜索引擎
google蜘蛛: googlebot
百度蜘蛛:baiduspider
yahoo蜘蛛:slurp
alexa蜘蛛:ia_archiver
msn蜘蛛:msnbot
altavista蜘蛛:scooter
lycos蜘蛛: lycos_spider_(t-rex)
alltheweb蜘蛛: fast-webcrawler/
inktomi蜘蛛: slurp
一个在线写robots.txt的工具。
最后需要注意，robots.txt文件名必须是小写，而且放在网站根目录
来源：360站长平台
动态URL是什么动态URL就是动态页面，动态链接，即指在URL中出现“?” 这样的参数符号，并以aspx、asp、jsp、php、perl、cgi为后缀的url。动态URL有什么特点1、在建设反向链接过程中，因为动态URL的非永久性，所以它不如静态URL有优势。2、动态URL较之静态的URL不利于搜索引擎抓取。3、动态网址的生成是采集数据库的内容，所以不能保证网页内容的稳定性和链接的永久性，所以很
要提交Sitemap到360搜索站长平台，您可以按照以下流程操作： 1. 登录360搜索站长平台。如果您还没有账号，可以直接使用360账号登录。 2. 在站长平台首页，点击左侧菜单栏的“网站管理”。 3. 在网站管理页面，找到您需要提交Sitemap的网站，点击网站名称进入网站详情页面。 4. 在网站详情页面，点击左侧菜单栏的“站点地图”。 5. 在站点地图页面，点击“新建地图”按钮。
robots.txt 是一个文件，它位于网站的根目录下，用于告诉搜索引擎和机器人哪些页面可以被访问或哪些不应该被访问。以下是 robots.txt 语法教程。 1. User-agent User-agent 表示搜索引擎或机器人的名称。当网站管理员想要禁止某个搜索引擎或机器人访问网站时，可以使用 User-agent 指定名称。 例如： User-agent: Googlebot Dis
User-agent: *Disallow: .jpg$jpg可以代替为gif，png 等等...
