Categories


Tags


apache、iis6、ii7独立ip主机屏蔽拦截蜘蛛抓取(适用vps云主机服务器)

针对apache、iis6、iis7独立ip主机屏蔽拦截蜘蛛抓取的方法如下: 1. 在网站根目录下新建一个robots.txt文件,添加以下代码: User-agent: * Disallow: / 这样可以禁止所有蜘蛛抓取你的网站。 2. 在服务器端安装mod_security模块并配置,可以使用以下命令: sudo apt-get install libapache-mod-security 在apache配置文件中添加以下内容: SecRuleEngine on SecRule REMOTE_ADDR "@pmFromFile /etc/apache2/spiderlist.txt" "block,chain" SecRule REQUEST_HEADERS:User-Agent "(.*)Googlebot" "allow" 其中,第一行启用mod_security模块,第二行将IP地址与spiderlist.txt中的内容进行匹配,如果匹配到则进行阻拦,第三行匹配Googlebot的user-agent,允许其抓取网站。 3. 在hosts文件中将搜索引擎的域名指向本地IP地址,可以使用以下命令: sudo echo "127.0.0.1 googlebot.com" >> /etc/hosts 这样搜索引擎的抓取请求就会被定向到本地,从而无法正常抓取网站。 总结: 以上三种方法都可以有效防止蜘蛛抓取网站内容,但要注意的是,如果屏蔽了所有蜘蛛,可能会影响SEO收录和排名,建议根据具体情况酌情使用。同时,应该经常更新spiderlist.txt文件,及时更新搜索引擎的IP地址和user-agent,以免错杀正常访问。

Public @ 2023-03-30 01:00:40

apache、iis6、ii7独立ip主机屏蔽拦截蜘蛛抓取(适用vps云主机服务器)

* Apache:通过在网站主机的.htaccess文件中添加下面一行代码即可实现: `SetEnvIfNoCase User-Agent "bot|crawl|spider|Yahoo|ia_archiver| other_spider|Googlebot" bad_bot` * IIS6:打开IIS管理器,右键点击网站,点击“属性”,然后选择“文件夹”,点击高级,在高级属性中勾选

Public @ 2023-03-04 13:00:19

360搜索蜘蛛IP段及蜘蛛ip被拦截的问题解决方法

1. 360搜索蜘蛛的IP段可以通过搜索引擎或者防火墙等工具查询获得,一般包括以下几个IP段: 101.226.68.0/24 101.227.0.0/16 39.156.66.0/24 111.30.132.0/24 2. 如果发现360搜索蜘蛛的IP被拦截了,可以考虑以下几个解决方法: - 在防火墙或者网站安全设置中将360搜索蜘蛛的IP加入白名单; - 通过robots.txt文件进行

Public @ 2023-03-28 17:00:26

apache、iis6、ii7独立ip主机屏蔽拦截蜘蛛抓取(适用vps云主机服务器)

* Apache:通过在网站主机的.htaccess文件中添加下面一行代码即可实现: `SetEnvIfNoCase User-Agent "bot|crawl|spider|Yahoo|ia_archiver| other_spider|Googlebot" bad_bot` * IIS6:打开IIS管理器,右键点击网站,点击“属性”,然后选择“文件夹”,点击高级,在高级属性中勾选

Public @ 2023-03-04 13:00:19

导致搜索引擎蜘蛛不能顺利爬行的因素

一、服务器连接异常服务器连接异常会有两种情况,一种是站点不稳定,搜索引擎尝试连接您的网站的服务器时出现暂时无法连接的情况;另一种是搜索引擎一直无法连接上您网站的服务器。造成服务器连接异常的原因通常是您的网站服务器过大,超负荷运转。也有能是您的网站运行不正常,请检查网站的web服务器(如Apache、IIS)是否安装且正常运行,并使用浏览器检查主要页面能否正常访问。您的网站和主机还可能阻止了蜘蛛的访

Public @ 2013-04-30 16:22:37

更多您感兴趣的搜索

0.424172s