黑洞HTTP代理

黑洞HTTP

您的位置: 首页 > 新闻资讯 > HTTP代理 > 正文

Python简易实现IP代理池及其维护

发布时间:2019年03月21日 来源:http://http.hunbovps.com/News/getList/catid/8/id/170.html

Python简易实现IP代理池及其维护

用处

通过自己购买或爬取到的ip,在程序中使用这些ip进行代理,达到绕过反爬虫机制的效果以及其他用途。


思路

从各大免费的ip网站抓取ip,存入数据库,使用时按序取出使用。注:存入及使用前先验证ip是否可用


我们在这里使用 西刺 这里网站里的免费ip,数据库使用mongodb


使用到的库

request 


re 


json


结构

IpPool


__init__.py


panel


config.py


main.py


Code

init.py

我们在这个文件中写一个爬虫的基类,方便我们拓展不同的网站

Python简易实现IP代理池及其维护

Python简易实现IP代理池及其维护

config.py

在这里我们放一些参数,方便我们配置程序


Python简易实现IP代理池及其维护


mian.py

Python简易实现IP代理池及其维护上面就是这个ip爬取的主要框架,接下来开始接入西刺这个网站,在panel文件夹中新建文件 XICI.py

Python简易实现IP代理池及其维护Python简易实现IP代理池及其维护

再回到 main.py 使用process()函数开始爬虫


main.py

Python简易实现IP代理池及其维护

ip池的使用


我们可以在使用时先从数据库中将所有 ip 取出,安装队列的形式或者列表随机抽取的形式进行维护,当ip不可用时,从数据库中删除该ip,当出现ip被封时放回队列或者列表,这里不做过多的介绍


相关文章内容简介

1 Python简易实现IP代理池及其维护

Python简易实现IP代理池及其维护用处通过自己购买或爬取到的ip,在程序中使用这些ip进行代理,达到绕过反爬虫机制的效果以及其他用途。思路从各大免费的ip网站抓取ip,存入数据库,使用时按序取出使用。注:存入及使用前先验证ip是否可用我们在这里使用 西刺 这里网站里的免费ip,数据库使用mongodb使用到的库request re json结构IpPool__init__.pypanelconfig.pymain.pyCodeinit.py我们在这个文件中写一个爬虫的基类,方便我们拓展不同的网站config.py在这里我们放一些参数,方便我们配置程序mian.py上面就是这个ip爬取的主要框架,接下来开始接入西刺这个网站,在panel文件夹中新建文件 XICI.py再回到 main.py 使用process()函数开始爬虫main.pyip池的使用我们可以在使用时先 [阅读全文]

热门标签

最新标签

推荐阅读

  1. 14

    2019-08

    VPN和代理ip服务器之间的区别?

    代理将您连接到远程计算机,VPN将您连接到远程计算机,因此它们或多或少都是相同的,对吧?不完全是。让我们来看看你何时想要使用它们,以及为什么代理是VPN的不良替代品。

  2. 22

    2019-08

    免费的ip代理服务器能不能够用?

    虽然很多人都比较喜欢贪小便宜,但是涉及到网络技术安全问题的时候,大家还是会显得尤其的小心谨慎,尤其是大家在听说了一些免费的ip代理服务器的时候就会觉得非常的不安。

  3. 26

    2019-07

    服务器设置http代理服务器

    浏览网页网上购物的时候经常会使用到http代理,关于代理IP的用途大家都知道,也知道怎么去找http代理,那么找到合适的http代理之后,服务器将怎样设置才能使用http代理呢,这里为大家讲一下

  4. 26

    2019-06

    动态代理ip工具可以解决哪些问题?

    动态IP用得比较多,主要是因为IP资源比较少,而且一些项目使用动态IP效果会更好的,比如做一些网站测试、网站功能搭建的时候常常会需要用到一些动态代理IP工具,这样不仅有助于我们搭建

  5. 03

    2019-06

    如何使用IP代理服务器软件进行爬虫工作

    我们知道,一些网站会有相应的反爬虫措施,比如检测某些IP的访问次数或者访问频率,有些反人类的访问速度就会收到限制甚至封禁,所以在进行爬虫工作时也要讲究策略,比如使用代理IP,

  6. 21

    2019-09

    代理ip对营销好处

    如今,为用户提供的免费代理ip服务使用人数在不断的增高,而且用户对提供的 http代理 服务赞不绝口。这不仅是提供的免费代理ip服务得到大众的认可,更是免费代理ip逐渐被用户认可和接受的