360搜索对Robots协议进行了扩展，增加了以下几个指令： 1. User-Agent：用于指定搜索引擎访问网站时使用的用户代理字符串，可以设置多个User-Agent。 2. Crawl-delay：用于指定搜索引擎访问网站时的延迟时间，单位为秒。可以设置针对不同的User-Agent的延迟时间。 3. Sitemap：用于指定网站的sitemap文件的地址，搜索引擎将通过该文件获取站点的所有URL。 4. Host：用于指定网站的主机名，可以避免因为DNS变化导致搜索引擎爬虫无法访问网站。 5. Clean-param：用于指定需要从URL中移除的参数，搜索引擎在访问网站时会忽略URL中包含的这些参数。 6. Noindex-nofollow：用于指定不需要被搜索引擎收录或链接的页面。 这些指令的使用可以让网站管理员更加灵活地控制搜索引擎爬虫的访问行为，以达到更好的SEO效果。
要在网站URL中显示品牌名称，您需要使用自定义域名。这意味着您需要注册一个与您的品牌名称相匹配的域名，并将其设置为您的网站的主要域名。 如果您正在使用WordPress等内容管理系统，您可以在设置中更改您的域名，并使用插件来确保您的品牌名称在URL中显示。 如果您正在使用自定义开发的网站，则可以在代码中指定您的品牌名称，以便在URL中使用。您可以将品牌名称添加到URL的开头、结尾或中间，具体取
360搜索站长平台Sitemap提交流程如下： 1. 登录360搜索站长平台，进入站长工具页面。 2. 在左侧菜单栏中选择“站点管理”，然后点击页面中央的“添加站点”按钮。 3. 在弹出的新页面中，填写您的网站信息，包括网站名称、网站地址、网站分类等内容，然后点击“立即添加”按钮。 4. 成功添加站点后，返回站长工具页面，点击左侧菜单栏中的“站点管理”，找到您刚刚添加的网站，点击“管理”，
我robots这样写是不是就能避免蜘蛛爬这个“index.htm”这个首页？User-agent: *Disallow: /index.htm11-30.我的index.htm是现在默认的首页，想屏蔽蜘蛛抓取。让蜘蛛爬另一个文档，主要是规避备案巡查我的网站和我备案的不一样，服务器那边要求改，我就整了个htm文档来规避下。写法没有问题。但正常的不建议屏蔽首页地址，，“index.htm”这个后缀地址
百度各个产品使用不同的user-agent:无线搜索Baiduspider-mobile图片搜索Baiduspider-image视频搜索Baiduspider-video新闻搜索Baiduspider-news百度搜藏Baiduspider-favo百度联盟Baiduspider-cpro商务搜索Baiduspider-ads网页以及其他搜索Baiduspider来源：360站长平台
