一、死链介绍什么是死链几乎所有的智能小程序或站点都会遇到内容失效、过期，页面不需要再展现的情况，这些无法对用户提供任何有价值信息的页面就是死链接，它包括协议死链和内容死链两种形式。为什么要及时处理死链？当站点/小程序死链数据累积过多并且被展示到搜索结果页时，会影响百度搜索对站点/小程序的评价，对站点/小程序的访问体验和用户转化都会起到负面影响。另一方面，百度检查死链的流程也会为站点/小程序带来额外
网站上有些页面不希望被搜索引擎收录，我们可以使用robots的文件或者meta robots 标签。什么是meta robots 标签？meta robots 标签是页面head部分meta标签的一种，用于指令搜索引擎禁止索引（收录）本页内容。meta robots 标签的写法：<meta name=”robots”content=”noindex,nofollow”>标签的意义：禁止
百度各个产品使用不同的user-agent：无线搜索Baiduspider-mobile图片搜索Baiduspider-image视频搜索Baiduspider-video新闻搜索Baiduspider-news百度搜藏Baiduspider-favo百度联盟Baiduspider-cpro商务搜索Baiduspider-ads网页以及其他搜索Baiduspider
可以在Robot协议文件中添加"User-agent:*"以及"Disallow: /images/"，这样Robot就会禁止抓取图片。
