优化？ 1、精简URL：URL尽量精简，易读易懂，例如使用简短的关键字说明页面内容； 2、不使用动态参数：尽量避免使用动态参数或者复杂的URL参数； 3、去除多余的词汇：尽量删除不必要的词，保证URL精简，易读； 4、尽量使用短语汇：URL尽量采用短而且表明词汇类别，如名词、动词等； 5、构建层次：当有一系列相关的页面时，尽量将相关的页面构建成层次关系，这样势必对SEO搜索排名优化有一定的作用； 6、分类标识：在URL中尽量添加一个类别字段来标识，这样爬虫会更加清晰的知道这个页面的内容； 7、小写字母：尽量采用小写字母来构建URL； 8、精准关键字：URL中尽量加入精准的关键字，使搜索引擎能够更好的划分分类找到您的页面； 9、减少参数：尽量减少GET参数，使得每个URL都能被重用，以增加权重的效果。
非标准扩展协议是指为特定需求而开发的协议，它们不是由标准化组织或工作组所制定的，并且通常只在特定的应用程序或系统内部使用。 在机器人领域，非标准扩展协议可以用于实现特殊的功能或针对特定的应用需求。例如，某些机器人可能需要与其他设备进行协同工作，因此可能需要使用非标准的协议来实现通信和控制。 在开发机器人或机器人应用程序时，非标准扩展协议也可用于灵活地实现自定义的功能和控制。例如，一些机器人应用
用几个最常见的情况，直接举例说明：1. 允许所有SE收录本站：robots.txt为空就可以，什么都不要写。2. 禁止所有SE收录网站的某些目录：User-agent: *Disallow: /目录名1/Disallow: /目录名2/Disallow: /目录名3/3. 禁止某个SE收录本站，例如禁止百度：User-agent: BaiduspiderDisallow: /4. 禁止所有SE收录
URL是什么URL是统一资源定位符，对可以从互联网上得到的资源的位置和访问方法的一种简洁的表示，是互联网上标准资源的地址。互联网上的每个文件都有一个唯一的URL，它包含的信息指出文件的位置以及浏览器应该怎么处理它URL结构由两部分组成，第一部分是协议，就是大家在网址前边看到的一串字母，最常见的就是HTTP和HTTps，一般在下图所示的位置。第二部分就是大家最常见的服务器名称或者IP地址，通俗点来说
开始之前我需要给大家强调一个思路，每个关键词应该对应一个URL而不是多个。（但一个URL可以对应多个关键词。）一个网站的首页，往往通过几个不同的URL可以访问到，举个例子：https://www.seowhy.com/https://seowhy.comhttps://www.seowhy.com/index.htmlhttps://www.seowhy.com/index.php搜外首页的关键词
