我的网站显示的蜘蛛抓取，有好多动态链接是否有影响？是否需要处理。该如何处理?
11-29.123.
如果不是自己网站本身实际存在的url，很可能是网站由于被人刷，导致的。
对应这些动态链接，可以在robots文件中，写一个屏蔽抓取动态链接的语法。
User-agent: *
Disallow: /*?*
更详细的robots设置方法，可以看下面链接课程
https://ke.seowhy.com/play/9492.html
来源：搜外网
建议您使用DNS反查方式来确定抓取来源的ip是否属于百度，根据平台不同验证方法不同，如linux/windows/os三种平台下的验证方法分别如下：5.1 在linux平台下，您可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名，非 *.baidu.com 或 *.b
亲爱的网站管理员：近日 ，Baiduspider针对移动抓取user agent（以下简称ua）进行了升级，与PC端的抓取ua做到版本统一，均称为Baiduspider/2.0。移动ua和pc ua详情如下：新版移动UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/
我的网站显示的蜘蛛抓取，有好多动态链接是否有影响？是否需要处理。该如何处理?11-29.123.如果不是自己网站本身实际存在的url，很可能是网站由于被人刷，导致的。对应这些动态链接，可以在robots文件中，写一个屏蔽抓取动态链接的语法。User-agent: *Disallow: /*?*更详细的robots设置方法，可以看下面链接课程https://ke.seowhy.com/play/94
蜘蛛抓取动态链接不会有太大影响，但是可能会增加抓取时间和资源消耗。为了减少浪费，可以采取以下措施： 1.使用静态链接：将动态链接转换为静态链接，使用URL Rewrite等工具来实现。 2.限制抓取：通过robots.txt文件限制蜘蛛抓取动态链接，只允许抓取静态链接。 3.使用nofollow属性：在动态链接中添加nofollow属性，告诉蜘蛛不要抓取该链接。 4.使用canonical
