IP代理软件,http代理,API提取-黑洞HTTP

黑洞HTTP

您的位置: 首页 > 新闻资讯 > HTTP代理 > 正文

网络爬虫之用python获取免费代理IP

发布时间:2019年03月25日 来源:互联网

对我们一般用户而言, 爬虫是个很好的工具, 利用它可以方便的快速的获取想要的信息。 但对于网站而言, 网络爬虫占用了太多的资源, 也没可能从这些爬虫获取点击量增加广告收入, 所以很多网站痛恨爬虫, 对爬虫采取了一系列的反爬虫措施, 其中最主要的一条措施就是会封禁频繁快速访问大量网页的ip。 而通过代理ip网络爬虫可绕过这一限制。 要使用代理ip, 我们首先要获取大量代理ip并构建一个代理ip池。 一下示例用python的scrapy框架实现了通过爬虫自动获取免费代理ip的功能。


首先创建scrapy项目, 运行一下命令:


$ scrapy startproject getProxy kuaidaili.com


$ scrapy genspider proxyKdlSpider kuaidaili.com


百度搜索免费代理ip, 我进的是快代理, 页面通过列表显示代理ip及其相关信息的。


网络爬虫之用python获取免费代理IP


3. 通过以上的界面, 改写items.py, 增加如下项, 用来保存代理ip的相关信息


网络爬虫之用python获取免费代理IP


4. 通过观察页面源码, 发现我们需要的代理ip信息可用xpath轻易获取。


网络爬虫之用python获取免费代理IP


5. 通过上图观察到的规律改写proxyKdlSpider.py文件, 通过如下xpath可获取代理ip信息。


网络爬虫之用python获取免费代理IP


6. 改写pipelines.py, 将解析提取出来的代理ip信息保存到文件proxy.txt中。


网络爬虫之用python获取免费代理IP


7. 改写settings.py, 增加以下行:


网络爬虫之用python获取免费代理IP


其中USER_AGENT会改写请求headers。 因快代理网站会通过USER_AGENT来判断访问者是否爬虫, 不这样设置会导致运行爬虫的ip被封禁。


设置DOWNLOAD_DELAY=5含义是爬虫每5s请求一个网页, 这样设置的目的是为了避免快速访问大量网页触发网站的反爬虫机制


设置ITEM_PIPELINES是告诉爬虫在过滤完需要的信息后如何保存。


8 运行编写的爬虫:


$ scrapy crawl proxyKdlSpider


由于我们限制了采集速度, 过程会有点长。 运行完毕后采集结果如下:

网络爬虫之用python获取免费代理IP


相关文章内容简介

1 网络爬虫之用python获取免费代理IP

对我们一般用户而言, 爬虫是个很好的工具, 利用它可以方便的快速的获取想要的信息。 但对于网站而言, 网络爬虫占用了太多的资源, 也没可能从这些爬虫获取点击量增加广告收入, 所以很多网站痛恨爬虫, 对爬虫采取了一系列的反爬虫措施, 其中最主要的一条措施就是会封禁频繁快速访问大量网页的ip。 而通过代理ip网络爬虫可绕过这一限制。 要使用代理ip, 我们首先要获取大量代理ip并构建一个代理ip池。 一下示例用python的scrapy框架实现了通过爬虫自动获取免费代理ip的功能。首先创建scrapy项目, 运行一下命令:$ scrapy startproject getProxy kuaidaili.com$ scrapy genspider proxyKdlSpider kuaidaili.com百度搜索免费代理ip, 我进的是快代理, 页面通过列表显示代理ip及其相关信息的。3. 通过以 [阅读全文]

热门标签

最新标签

推荐阅读

  1. 14

    2019-11

    如何解决代理ip的反爬策略问题?

    代理ip出现问题,其中反爬策略问题是老生常谈的问题,也是让用户头疼的问题,因为反爬策略会不断的升级,这就需要爬虫策略也要跟着不断的升级,才能可持续的工作。那么,该怎么解决呢

  2. 13

    2019-06

    代理ip如何隐藏ip地址?

    在利用网络的时候,大家将它们的匿名算作天经地义。显然真实情况并不是这样。在网上冲浪时,电脑使用公共IP地址,可用以确立相关计算机的很多数据。此数据包括国家,州,区域和城市等

  3. 13

    2019-08

    什么是HTTP和HTTP代理?

    HTTP(超文本传输??协议)是用于在因特网上发送和显示文件(文本,图形图像,声音,视频和其他多媒体文件)的协议。HTTP代理是一种高性能内容过滤器。它检查Web流量以识别可疑内容,可能

  4. 20

    2019-03

    代理IP爬虫怎么采集网页源码中看不到的数据

    如何从网页源码中抓取自己想要的数据,可是还有很多数据是源码中看不到的。

  5. 27

    2019-07

    免费ip代理最主要的功能有哪些?

    近几年来免费ip代理的推出,其实吸引了非常多人的关注,但其实大家对于什么是免费ip代理,并不是非常的了解,因为对于市场当中一些新推出的热门产品,人们即使有着非常多的关注度,但

  6. 26

    2019-04

    如何分类代理IP?

    在爬取某些网站时,我们经常会设置代理 IP 来避免爬虫程序被封。