Categories


Tags


apache、iis6、ii7独立ip主机屏蔽拦截蜘蛛抓取(适用vps云主机服务器)

  apache、iis6、ii7独立ip主机屏蔽拦截蜘蛛抓取(适用vps云主机服务器)

整理自网络ChatGPT产生之内容,文本内容不具备参考意义,程序内容及代码片段有且仅有借鉴意义。

  在VPS云主机服务器上,可以通过以下方式屏蔽拦截蜘蛛抓取:

1. Apache服务器:

在Apache配置文件(httpd.conf或apache2.conf)中添加以下代码:

```
SetEnvIfNoCase User-Agent ".*((Googlebot)|(Baiduspider)|(Yahoo! Slurp)|(bingbot)|(YandexBot)).*" bad_bot

Order Allow,Deny
Allow from all
Deny from env=bad_bot
```

这段代码的作用是对于User-Agent中包含Googlebot、Baiduspider、Yahoo! Slurp、bingbot、YandexBot的蜘蛛,禁止访问网站内容。

2. IIS6服务器:

在IIS6中,可以通过ISAPI筛选器的方式进行屏蔽拦截。具体操作方法如下:

(1) 打开IIS管理器,选中要设置ISAPI筛选器的站点。

(2) 右键单击该站点,选择“属性”选项,在“本地站点”选项卡中找到“编辑属性”按钮。

(3) 在“ISAPI筛选器”选项卡中找到“添加”按钮,添加ISAPI筛选器“UrlScan”(或其他第三方筛选器)。

(4) 在“UrlScan.ini”(或其他筛选器的配置文件)中,添加以下代码:

```
[DenyHeaders]
User-Agent: Googlebot
User-Agent: Baiduspider
User-Agent: Yahoo! Slurp
User-Agent: bingbot
User-Agent: YandexBot
```

这段代码的作用是对于User-Agent中包含Googlebot、Baiduspider、Yahoo! Slurp、bingbot、YandexBot的蜘蛛,禁止访问网站内容。

3. IIS7服务器:

在IIS7中,可以通过动态IP限制功能进行屏蔽拦截。具体操作方法如下:

(1) 打开IIS管理器,选中要设置IP限制的站点。

(2) 在“配置”选项卡中找到“IP限制”功能,配置“动态IP限制”。

(3) 在“动态IP限制设置”中找到“添加/编辑限制”按钮,添加以下IP地址:

```
66.249.64.0/19
180.76.0.0/16
202.108.0.0/16
157.55.0.0/16
```

这些IP地址代表Googlebot、Baiduspider、Yahoo! Slurp、bingbot等蜘蛛的IP地址段,通过限制这些IP地址,可以禁止访问网站内容。

Public @ 2023-06-20 14:00:02 整理自网络ChatGPT产生之内容,文本内容不具备参考意义,程序内容有且仅有借鉴意义。

apache、iis6、ii7独立ip主机屏蔽拦截蜘蛛抓取(适用vps云主机服务器)

如果是正常的搜索引擎蜘蛛访问,不建议对蜘蛛进行禁止,否则网站在百度等搜索引擎中的收录和排名将会丢失,造成客户流失等损失。可以优先考虑升级虚拟主机型号以获得更多的流量或升级为云服务器(不限流量)。更多详情请访问: http://www.west.cn/faq/list.asp?unid=6261. 使用网站管理助手环境:http://www.west.cn/faq/list.asp?unid=650

Public @ 2018-06-02 16:22:26

百度蜘蛛IP段地址大全

做网站优化的过程中很重要的一点,就是网站日志的分析。通过来访记录的日志文件我们能了解到网站出现的很多问题。以网站日志上的百度蜘蛛IP为例:123.125.68.*这个蜘蛛每每来,另外来的少,示意网站大概要进入沙盒了,或被者降权。220.181.68.*天天这个IP段只增不减很有大概进沙盒或K站。220.181.7.*、123.125.66.*代表百度蜘蛛IP拜访,预备抓取你工具。121.14.89

Public @ 2022-12-06 16:22:30

apache、iis6、ii7独立ip主机屏蔽拦截蜘蛛抓取(适用vps云主机服务器)

如果是正常的搜索引擎蜘蛛访问,不建议对蜘蛛进行禁止,否则网站在百度等搜索引擎中的收录和排名将会丢失,造成客户流失等损失。可以优先考虑升级虚拟主机型号以获得更多的流量或升级为云服务器(不限流量)。更多详情请访问: http://www.west.cn/faq/list.asp?unid=6261. 使用网站管理助手环境:http://www.west.cn/faq/list.asp?unid=650

Public @ 2018-06-02 16:22:26

如何提高spider抓取网站?提高spider抓取策略(2)

上一篇文章中,给大家简单介绍了提高spider抓取网站策略的两大方法,另外还有五个策略接着给分享给大家。如果没有浏览上篇文章,可以通过以下链接查看:【如何提高spider抓取网站?提高spider抓取策略(1)】提高spider抓取策略有哪些?三、多种URL重定向的识别为了让spider能够对多种URL重定向的识别,重定向分别有三类:HTTP 30x重定向、Meta refresh重定向和JS重定

Public @ 2013-03-16 16:22:34

更多您感兴趣的搜索

0.439415s