IP代理软件,http代理,API提取-黑洞HTTP

黑洞HTTP

您的位置: 首页 > 新闻资讯 > HTTP代理 > 正文

用代理IP应对爬虫被源网站流量监控封杀IP

发布时间:2019年05月21日 来源:互联网

  用代理IP应对爬虫被源网站流量监控封杀IP!爬虫经常需要配合代理IP,但并不是所有网站都会监控流量来源,一些运行良好的网站需要考虑数据安全性和核心竞争力,才会对流量进行监控,防止爬虫的高频率抓取导致核心数据外泄。


用代理IP应对爬虫被源网站流量监控封杀IP


  这部分网站一般是通过IP来识别爬虫,当同个IP在一段时间内请求明显高于人访问网页的速度时,会判定为爬虫请求从而对该请求的IP进行短期或长期封杀。


  那这时候就需要使用代理来绕过对IP的监控或封杀。在网上能找到一些提供免费代理IP的平台,不过亲测极其不稳定,通常100个里只有个别能用。


  所以真正的想用代理IP来做爬虫,还是找付费的比较好。通常爬虫用途可以买动态IP:平台提供一个API,每次刷新请求会得到一个或一堆有效期比较短的IP,然后从这些IP里挑选来代理请求,失效时重新生成可用的IP即可。


  我写的爬虫是node里跑的,这里不得不提的是,在js里非常流行的axios请求库亲测并不能实现代理请求(也许是我姿势不对),参考网上教程需要使用request这个请求库(然而并不好用,API并不是流行的Promise方式)


  所以我在逻辑代码里是这样实现的,首先封装一个请求函数,封装过后的请求函数就暴露了一个统一的request方法,使用时候只需要request(url)即可。


  从代码里也可以看到:当代理有效时会用代理,当代理无效、超时或其他任何错误时会返回正常的请求,这也是降级保障了爬虫代码的健壮性。


  在使用拨号服务器获取的代理IP时,超时时间是个需要不断调整的设置。超时太短了会导致代理不可用的概率提高,而超时太长则会影响整个爬虫的速度。


  比如我给客户跑的这个爬虫,不使用代理时跑完需要4个小时,而如果使用代理,每次请求的时间就加长了,在设置2000毫秒的超时下,整个任务跑下来需要翻2倍的时间。


相关文章内容简介

1 用代理IP应对爬虫被源网站流量监控封杀IP

  用代理IP应对爬虫被源网站流量监控封杀IP!爬虫经常需要配合代理IP,但并不是所有网站都会监控流量来源,一些运行良好的网站需要考虑数据安全性和核心竞争力,才会对流量进行监控,防止爬虫的高频率抓取导致核心数据外泄。  这部分网站一般是通过IP来识别爬虫,当同个IP在一段时间内请求明显高于人访问网页的速度时,会判定为爬虫请求从而对该请求的IP进行短期或长期封杀。  那这时候就需要使用代理来绕过对IP的监控或封杀。在网上能找到一些提供免费代理IP的平台,不过亲测极其不稳定,通常100个里只有个别能用。  所以真正的想用代理IP来做爬虫,还是找付费的比较好。通常爬虫用途可以买动态IP:平台提供一个API,每次刷新请求会得到一个或一堆有效期比较短的IP,然后从这些IP里挑选来代理请求,失效时重新生成可用的IP即可。  我写的爬虫是node里跑的,这里不得不提的是,在js里非常流行的axios请求 [阅读全文]

热门标签

最新标签

推荐阅读

  1. 31

    2019-05

    如何使用IP代理服务器软件来批量注册账号?

    在我们做一些网络项目时,经常要用到大量的账号,比如微信投票,需要大量的微信账号;比如论坛发帖,由于论坛限制每天每账号只能发限定数量的帖子,就需要用到大量的账号;比如人气补

  2. 15

    2019-05

    哪里可以找到代理IP地软件?

    发现最近很多小伙伴都在烦恼究竟哪里有实用的IP地址切换工具,网上很多的IP地址切换器操作起来都是非常麻烦,并且代理IP的数量也是非常少,如果找到的下载平台不好还可能带病毒。那么小

  3. 29

    2019-05

    代理IP经常遇到哪些错误?

    在使用代理IP的过程中,经常会遇到一些问题,可能一夜醒来,发现代理IP全都不能用了,也有可能就吃了个中午饭,下午的代理IP就大面积失效了,这是为什么呢,是代理IP的质量突然下降了吗

  4. 04

    2019-07

    如何控制爬虫的采集速度以防被封?

    我们都知道,如果爬虫一直快速的访问一个网站,会给网站服务器带来比较大的压力,这么明显的异常访问,网站人员肯定会检测到问题的。因此,为了能够持续的采集数据,这速度肯定是要控

  5. 02

    2019-07

    IP代理软件为什么可以保护个人隐私?

    如果说斯诺登的棱镜门事件不过是美国的自编自导的一场闹剧,荒唐程度不亚于希拉里此前自爆丑闻,但从另外一个方面点燃了人们对于个人隐私信息泄露的关注。其实,在我们平常的生活尤其

  6. 25

    2019-07

    哪里有一手http代理IP?

    网络市场营销的人员都知道代理IP的用处,一些注册,抢购,投票,数据采集和效果补量等业务都可以使用代理IP来完成。代理IP因其有别于真实IP的优越性而受到广大用户的欢迎。