IP代理软件,http代理,API提取-黑洞HTTP

黑洞HTTP

您的位置: 首页 > 新闻资讯 > HTTP代理 > 正文

通过代理ip进行分布式爬虫的几种方案

发布时间:2019年04月11日 来源:互联网

通过代理ip进行分布式爬虫的几种方案!假如不用代理ip,爬虫业务必定无路可行,因此大部分爬虫工作者都会去购买安全稳定的代理ip。使用了高质量的代理ip后,会不会就能够无后顾之忧了呢?这个可不会这么容易,还要改进方案,有效分配资源,提升工作效率,又快速又稳定又高效的完成爬虫。


通过代理ip进行分布式爬虫的几种方案


方案一、每个进程从接口API中随机取一个IP列表来反复使用,失效后再调用API获取,大致逻辑是这样:


1、每个进程,从接口随机取回一批ip回来,反复试着ip目录去抓取数据;


2、要是访问成功,则继续抓取下一条。


3、要是失败了,再从接口取一批IP,继续尝试。


方案弊端:每个IP都是有期限的,要是提取了一百个,用到第二十个时,或许剩下的大多数都无法使用了。要是设置HTTP请求时连接时间超时是3秒,读取时间超时是5秒,那么或许会耗费3-8秒的时间,在这3-8秒内可能抓取了几百次了。


方案二:每个进程从接口API中随机取一个IP来使用,失败则再调用API获取一个IP,大致逻辑如下:


1、每个进程,从接口随机取回一个ip来,用这个ip来浏览资源,


2、要是访问成功,则继续抓下一条。


3、要是失败了,再从接口随机取一个IP,继续尝试。


方案缺点:调用API获取IP的行为非常频繁,会对代理服务器造成特别大的压力,影响API接口稳定,可能会被限制提取。这类方案也不适合,无法持久稳定的运行。


方案三:先提取大量IP导入本地数据库,从数据库里面取IP,大致逻辑如下:


1、在数据库里面建一个表,写一个导入脚本,每分钟请求多少次API(咨询代理IP服务商建议),把IP列表导入到数据库里面。


2、在数据库里面记录好 导入时间、IP、Port、过期时间、IP可用状态 等字段;


3、写一个抓取脚本,抓取脚本从数据库里面读取可用IP,每个进程从数据库获取一个IP进行使用。


4、执行抓取,对结果进行判断,处理cookie等,只要出现验证码或者失败就放弃这个IP,重新换一个IP。


这种方案有效的避开了代理服务器资源的消耗,有效的分配代理IP的使用,更加的高效和稳定,保障了爬虫工作的持久性和稳定性。


相关文章内容简介

1 通过代理ip进行分布式爬虫的几种方案

通过代理ip进行分布式爬虫的几种方案!假如不用代理ip,爬虫业务必定无路可行,因此大部分爬虫工作者都会去购买安全稳定的代理ip。使用了高质量的代理ip后,会不会就能够无后顾之忧了呢?这个可不会这么容易,还要改进方案,有效分配资源,提升工作效率,又快速又稳定又高效的完成爬虫。方案一、每个进程从接口API中随机取一个IP列表来反复使用,失效后再调用API获取,大致逻辑是这样:1、每个进程,从接口随机取回一批ip回来,反复试着ip目录去抓取数据;2、要是访问成功,则继续抓取下一条。3、要是失败了,再从接口取一批IP,继续尝试。方案弊端:每个IP都是有期限的,要是提取了一百个,用到第二十个时,或许剩下的大多数都无法使用了。要是设置HTTP请求时连接时间超时是3秒,读取时间超时是5秒,那么或许会耗费3-8秒的时间,在这3-8秒内可能抓取了几百次了。方案二:每个进程从接口API中随机取一个IP来使用, [阅读全文]

热门标签

最新标签

推荐阅读

  1. 25

    2019-09

    怎么使用手机ip代理软件?

    随着科技的发展,各种各式各样功能迥异的手机APP也不断开发上线,手机已逐渐方便人们的生活学习,同时手机也逐渐呈现超过了电脑趋势。这期间很值得探讨的是,那么多的用户在移动端进

  2. 21

    2019-09

    代理ip对营销好处

    如今,为用户提供的免费代理ip服务使用人数在不断的增高,而且用户对提供的 http代理 服务赞不绝口。这不仅是提供的免费代理ip服务得到大众的认可,更是免费代理ip逐渐被用户认可和接受的

  3. 21

    2019-06

    HTTP代理IP的使用需谨慎

    在互联网中使用HTTP代理IP确实给我们的日常生活带来很多便利,也正因为如此,市面上的同款产品越来越多,很多用户在选择的时候难免陷入困境,不知道该如何下手才好。

  4. 02

    2019-08

    网络IP限制可以用代理ip

    网络IP限制大家应该都遇见过,随着使用网络的人增多,平台都会有一些限制,来规范使用,当出现限制就无法再继续访问该网站,只有换IP才能解决。

  5. 20

    2019-11

    工作中常用到的代理ip是哪些?

    代理在功能和协议上分为很多种,根据各个人的需求不同分为不同,,其中ip代理其实也是代理的一种,ip加速器是通过IP服务器代理的形式达到全球服网游加速,公司内部系统的访问连接,及

  6. 14

    2019-01

    http代理的概念和主要功能是什么?

    ​随着互联网时代不断进步越来越快,出现了很多很多的代理http,可是很多人都不明白,什么是代理http,其实就是的网络信息的中转站。就是将信息以栈驿的形式进行传递的过程。小编今日为