Robots.txt 是一个网站管理员可通过在站点根目录中放置一个名为robots.txt的文件来让搜索引擎（及其爬虫）知道该如何来收录并处理某些目录或页面，并使索引过程更加有效更加规范。 Robots.txt 的作用是向搜索引擎解释网站中哪些目录和文件希望被搜索引擎收录、哪些不希望收录，以避免搜索引擎抓取到网站误差的内容。如果 robots.txt 被恰当地设置，可以有效提高收录质量和网站索引效率，从而表现出良好的搜索引擎优化效果。
二级域名如何绑定一级目录1、在 DNS 域名管理后台域名转发里，设置二级域名转发至你的目标一级目录。2、提交后，在主机记录列表会添加一个你刚才提交的二级域名，其指向的IP地址与主域名不同。比如，新网互联指向的是：124.42.122.46。这个是正确的。3、不管你使用的虚拟主机，还是独立服务器。只要主域名可以正常访问即可，不需要在虚拟主机或独立服务器上再设置二级域名。二级域名如何绑定一级目录基础知
URL是一个网站标识符，它由多个组成部分组成。下面是有关每个URL组成部分的指南： 1. 协议：URL使用的网络协议。常用的协议是HTTP、HTTPS、FTP、SSH、TELNET等。 2. 主机名：URL指向的主机的名称或IP地址。例如，www.example.com或192.168.1.1。 3. 端口号：指定与主机通信的端口号。如果没有指定端口号，则使用默认端口号。 HTTP的默认端口
设置搜索robots协议的后果针对短视频类内容，视频搜索将不再索引、展现网站的视频资源，历史已索引部分会从搜索中屏蔽。若设置部分目录不希望被收录 ，该目录下内容将从搜索中屏蔽，其余内容在搜索中则以正常结果展示。来源：百度搜索资源平台
网站上有些页面不希望被搜索引擎收录，我们可以使用robots的文件或者meta robots 标签。什么是meta robots 标签？meta robots 标签是页面head部分meta标签的一种，用于指令搜索引擎禁止索引（收录）本页内容。meta robots 标签的写法：<meta name=”robots”content=”noindex,nofollow”>标签的意义：禁止
