索引擎百度各个产品使用不同的user-agent:
产品名称 | 对应user-agent | |
网页搜索 | Baiduspider | |
移动搜索 | Baiduspider | |
图片搜索 | Baiduspider-image | |
视频搜索 | Baiduspider-video | |
新闻搜索 | Baiduspider-news | |
百度搜藏 | Baiduspider-favo | |
百度联盟 | Baiduspider-cpro | |
商务搜索 | Baiduspider-ads | |
sogou spider 支持 robots 协议，您可以在网站的根目录放置 robots.txt。robots.txt 的规则请参阅 http://www.robotstxt.org/。需要注意的是，最新更新的 robots.txt 可能需要几个星期才能体现出效果来，另外，被您禁止 sogou spider 收录的网页将不能在搜狗搜索引擎上检索到。
有以下几种方式可以让 sogou spider 不抓取你的网站： 1. 使用 robots.txt 文件。在网站根目录下添加 robots.txt 文件，并加入以下代码： User-agent: Sogou Disallow: / 这将告诉 Sogou 爬虫不要访问网站的任何页面和文件。 2. 使用 meta 标签。在网站的头部添加以下 meta 标签： 这将告诉所有的搜索引擎爬虫不
百度各个产品使用不同的user-agent：产品名称对应user-agent网页搜索Baiduspider无线搜索Baiduspider图片搜索Baiduspider-image视频搜索Baiduspider-video新闻搜索Baiduspider-news百度搜藏Baiduspider-favo百度联盟Baiduspider-cpro商务搜索Baiduspider-ads来源：百度搜索资源平台
铛铛铛铛！好久不见，平小雕带着最新一期搜索问答剧场又双叒回来啦！第五集【搜索问答剧场】，为大家带来“百度蜘蛛”的全面解析，帮助大家清楚的了解“百度蜘蛛”在各种场景发挥的作用，为网站整体运营打下基础。【抓取篇】1、什么是Baiduspider？A：Baiduspider也叫百度蜘蛛，是百度搜索引擎的一个自动程序，它的作用是访问互联网上的网页，建立索引数据库，使用户能在百度搜索引擎中搜索到网站相关内容
