百度各个产品使用不同的user-agent：
无线搜索
Baiduspider-mobile
图片搜索
Baiduspider-image
视频搜索
Baiduspider-video
新闻搜索
Baiduspider-news
百度搜藏
Baiduspider-favo
百度联盟
Baiduspider-cpro
商务搜索
Baiduspider-ads
网页以及其他搜索
Baiduspider
下面这几个问题可能造成复制内容。1.代理商和零售商从产品生产商那里转载产品信息。2.网页内容由RSS生成。3.转载及抄袭。4.镜像网站。5.URL任意加字符还是返回200状态码。6.打印版本。7.产品或服务类型之间的区别比较小。8.使用Session ID。9.网站结构造成的各种页面版本。10.网页实质内容太少。来源：搜外网
经常会碰到这样的情况，其他网站链接你的站点时，会用下面的链接：www.example.comexample.com/www.example.com/index.htmlexample.com/index.php而这样导致：你站点主域名的PR值分散到其他几个URL上。如果你用301重定向把其他三个URL转到www.example.comPR也就集中在主域名：www.example.com 了。301
Robots是站点与spider沟通的重要渠道，站点通过robots文件声明本网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。9月11日，百度搜索robots全新升级。升级后robots将优化对网站视频URL收录抓取情况。仅当您的网站包含不希望被视频搜索引擎收录的内容时，才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容，请勿建立robots.txt文件。如您
1. 下面是一个拒绝所有机器人访问的robots.txt： ``` User-agent: * Disallow: / ``` 2. 下面的robots.txt用于阻止百度搜索引擎访问整个站点： ``` User-agent: Baiduspider Disallow: / ``` 3. 下面的robots.txt文件用于阻止所有搜索引擎访问以private开头的任何URL： ```
