robots.txt是一个网站的根目录中的文件，用于告知搜索引擎哪些页面和文件可以被搜索引擎的爬虫访问，哪些不可以。该文件是遵循 robots协议的网站必不可少的一个文件，用于控制搜索引擎的爬虫访问网站的行为。通过robots.txt文件，网站管理员可以禁止搜索引擎爬虫访问一些无用或敏感的网站内容，或是避免搜素引擎爬虫访问较为频繁的API接口等。
作者：百度站长平台 发布时间：2013年5月10日为了更好处理用户提交反馈的问题，百度站长平台站长反馈中心全新改版，包含网页搜索、百度站长平台及百度分享三类产品的问题的反馈地址，并在这三类产品问题反馈页面增加了问题的分类和说明，辅助您更好的判断问题，快速方便的完成反馈。4月29日-5月5日一周共收到2691例站长投诉，其中网页搜索相关问题占比92
百度搜索资源平台（RSP）上线“鸿雁计划”，为生态开发者提供服务，可以更好地了解搜索用户的需求，分析用户的语义、搜索变化，更好地调整开发者的业务。此次上线的“鸿雁计划”，将百度搜索引擎的热门、新式搜索关键词，以及用户搜索高度、比较特定的信息，汇总分类，以此来作为全网各行业用户搜索需求的综合反映，进而提炼调整开发者业务服务响应具体用户搜索需求。
哈喽大家好！【搜索问答剧场】最新一集如期而至，平小雕又带着满满的知识干货回来啦！准备好迎接知识的洗礼了嘛？第五集【搜索问答剧场】中，跟大家提到了【Robots】工具。本期就来详细教大家如何灵活地使用【Robots】工具，以及如何正确设置网站整体的抓取范围。一、了解robots文件1、Q：什么是robots文件？A：robots文件用于指定spider在网站上的抓取范围，在文件中可以声明网站中不想被
对于百度搜索引擎来说，蜘蛛黑洞特指网站通过极低的成本制造出大量参数过多，及内容雷同但具体参数不同的动态URL ，就像一个无限循环的“黑洞”将spider困住，Baiduspider浪费了大量资源抓取的却是无效网页。比如很多网站都有筛选功能，通过筛选功能产生的网页经常会被搜索引擎大量抓取，而这其中很大一部分检索价值不高，如“500-1000之间价格的租房”，首先网站（包括现实中）上基本没有相关资源，
