Categories


Tags


我不想我的网站被Baiduspider访问,我该怎么做?

Baiduspider遵守互联网robots协议。您可以利用robots.txt文件完全禁止Baiduspider访问您的网站,或者禁止 Baiduspider访问您网站上的部分文件。 注意:禁止Baiduspider访问您的网站,将使您的网站上的网页,在百度搜索引擎以及所有百度提供搜索引擎服务的搜索引擎中无法被搜索到。关于 robots.txt的写作方法,请参看我们的介绍:robots.txt写作方法

您可以根据各产品不同的user-agent设置不同的抓取规则,如果您想完全禁止百度所有的产品收录,可以直接对Baiduspider设置禁止抓取。

以下robots实现禁止所有来自百度的抓取:

User-agent: Baiduspider

Disallow: /

以下robots实现禁止所有来自百度的抓取但允许图片搜索抓取/image/目录:

User-agent: Baiduspider

Disallow: /

User-agent: Baiduspider-image

Allow: /image/

请注意:Baiduspider-cpro抓取的网页并不会建入索引,只是执行与客户约定的操作,所以不遵守robots协议,如果Baiduspider-cpro给您造成了困扰,请联系union1@baidu.com。

Baiduspider-ads抓取的网页并不会建入索引,只是执行与客户约定的操作,所以不遵守robots协议,如果Baiduspider-ads给您造成了困扰,请联系您的客户服务专员。

来源:百度搜索资源平台 百度搜索学堂


Public @ 2017-02-03 15:38:41

蜘蛛程序(spider)

蜘蛛程序(spider)是一种自动化的网络爬虫,也称为网络蜘蛛、网络机器人、网络爬虫等。蜘蛛程序通过搜索引擎的搜索引擎结果页面自动地爬取网络上的信息,并将爬取的数据保存在数据库中。 蜘蛛程序通常会根据特定的算法和规则,自动地遍历网页,将网页上的内容、链接、图片等数据提取出来,然后整理、分类、存储和建立索引,使得用户能够更方便地获取网络信息。蜘蛛程序也可以通过采用机器学习和自然语言处理等技术,不断

Public @ 2023-06-20 06:50:23

抢先式多线程网络蜘蛛

Win32 API 支持抢先式多线程网络,这是编写MFC网络蜘蛛非常有用的地方。SPIDER工程(程序)是一个如何用抢先式多线程技术实现在网上用网络蜘蛛/机器人聚集信息的程序。该工程产生一个象蜘蛛一样行动的程序,该程序为断开的URL链接检查WEB站点。链接验证仅在href指定的链接上进行。它在一列表视图CListView中显示不断更新的URL列表,以反映超链接的状态。本工程能用作收集、索引信息的模

Public @ 2022-07-19 16:22:28

【干货】简单两步,教你识别百度蜘蛛

”近期,小编经常收到开发者关于“哪些蜘蛛是百度搜索的”、“如何才能正确识别百度蜘蛛”的提问。今日干货带你简单两步即可识别百度蜘蛛一、查看UA信息如果UA信息不对,可以直接判断该蜘蛛为非百度搜索的蜘蛛。目前UA分为移动、PC、和小程序三个应用场景,分别如下:【移动UA】1、Mozilla/5.0(Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KH

Public @ 2019-09-16 15:38:37

更多您感兴趣的搜索

0.432231s