Robots.txt 文件应放在哪里?
Robots.txt文件应放在网站的根目录下。
Public @ 2023-06-23 19:50:03
Robots.txt文件应放在网站的根目录下。
这两天研究Discuz 4.1,并成功地将原来一个Discuz 2.5的论坛升级到了最新版本,个人感觉这个论坛实在不错。我的Discuz 4.1是在Apache+Php+Mysql下运行的,并开启了Url Rewrite,之后我发现整个论坛的大部分页面都可以使用html的静态地址方式来访问,感觉真不错,Apache实在太强大了,难怪现在用Apache的站点那么多。IIS下能否也实现这种静态化功能呢
1. 下面是一个拒绝所有机器人访问的robots.txt: ``` User-agent: * Disallow: / ``` 2. 下面的robots.txt用于阻止百度搜索引擎访问整个站点: ``` User-agent: Baiduspider Disallow: / ``` 3. 下面的robots.txt文件用于阻止所有搜索引擎访问以private开头的任何URL: ```