黑洞HTTP

黑洞HTTP

您的位置: 首页 > 新闻资讯 > HTTP代理 > 正文

python爬虫http代理

发布时间:2019年09月02日 来源:互联网

  1,代理类别


  1,FTP代理服务器:主要用于访问FTP服务器,一般有上传、下载以及缓存功能,端口一般为21、2121等。


python爬虫http代理


  2,HTTP代理服务器:主要用于访问网页,一般有内容过滤和缓存功能,端口一般为80、8080、3128等。


  3,SSL/TLS代理:主要用于访问加密网站,一般有SSL或TLS加密功能(最高支持128位加密强度),端口一般为443。


  4,RTSP代理:主要用于访问Real流媒体服务器,一般有缓存功能,端口一般为554。


  5,Telnet代理:主要用于telnet远程控制(黑客入侵计算机时常用于隐藏身份),端口一般为23。


  6,POP3/SMTP代理:主要用于POP3/SMTP方式收发邮件,一般有缓存功能,端口一般为110/25。


  7,SOCKS代理:只是单纯传递数据包,不关心具体协议和用法,所以速度快很多,一般有缓存功能,端口一般为1080。SOCKS代理协议又分为SOCKS4和SOCKS5,前者只支持TCP,而后者支持TCP和UDP,还支持各种身份验证机制、服务器端域名解析等。简单来说,SOCK4能做到的SOCKS5都可以做到,但SOCKS5能做到的SOCK4不一定能做到。


  2,爬虫代理


  对于爬虫来说,由于爬虫爬取速度过快,在爬取过程中可能遇到同一个IP访问过于频繁的问题,此时网站就会让我们输入验证码登录或者直接封锁IP,这样会给爬取带来极大的不便。


  使用代理隐藏真实的IP,让服务器误以为是代理服务器在请求自己。这样在爬取过程中通过不断更换代理,就不会被封锁,可以达到很好的爬取效果。


  3,什么是HTTP代理


  ,HTTP代理本质上是一个Web应用,它和其他普通Web应用没有根本区别。HTTP代理收到请求后,根据Header中Host字段的主机名和Get/POST请求地址综合判断目标主机,建立新的HTTP请求并转发请求数据,并将收到的响应数据转发给客户端。


  4,python使用代理访问服务器


  python使用代理访问服务器主要有一下3个步骤:


  1.创建一个代理处理器ProxyHandler:


  proxy_support = urllib.request.ProxyHandler(),ProxyHandler是一个类,其参数是一个字典:{ '类型':'代理ip:端口号'}


  什么是Handler?Handler也叫作处理器,每个handlers知道如何通过特定协议打开URLs,或者如何处理URL打开时的各个方面,例如HTTP重定向或者HTTP cookies。


  2.定制、创建一个opener:


  opener = urllib.request.build_opener(proxy_support)


  什么是opener?python在打开一个url链接时,就会使用opener。其实,urllib.request.urlopen()函数实际上是使用的是默认的opener,只不过在这里我们需要定制一个opener来指定handler。


  3a.安装opener


  urllib.request.install_opener(opener)


  install_opener 用来创建(全局)默认opener,这个表示调用urlopen将使用你安装的opener。


  3b.调用opener


  opener.open(url)


  该方法可以像urlopen函数那样直接用来获取urls:通常不必调用install_opener,除了为了方便。


  proxy = {u'https':u'14.118.253.99:6666'}


  proxy_support = urllib2.ProxyHandler(proxy)# 注册代理


  opener = urllib2.build_opener(proxy_support)


  urllib2.install_opener(opener)


  opener.open(url)    #url 是你要访问的地址


  5,从代理ip列表中随机使用某ip去访问URL的例子


  import urllib.request


  import random


  url = 'http://www.whatismyip.com.tw'


  iplist = ['115.32.41.100:80','58.30.231.36:80','123.56.90.175:3128']


  proxy_support = urllib.request.ProxyHandler({'http':random.choice(iplist)})


  opener = urllib.request.build_opener(proxy_support)


  opener.addheaders = [('User-Agent','Test_Proxy_Python3.5_maminyao')]


  urllib.request.install_opener(opener)


  response = urllib.request.urlopen(url)


  html = response.read().decode('utf-8')


  print(html)


相关文章内容简介

1 python爬虫http代理

  1,代理类别  1,FTP代理服务器:主要用于访问FTP服务器,一般有上传、下载以及缓存功能,端口一般为21、2121等。  2,HTTP代理服务器:主要用于访问网页,一般有内容过滤和缓存功能,端口一般为80、8080、3128等。  3,SSL/TLS代理:主要用于访问加密网站,一般有SSL或TLS加密功能(最高支持128位加密强度),端口一般为443。  4,RTSP代理:主要用于访问Real流媒体服务器,一般有缓存功能,端口一般为554。  5,Telnet代理:主要用于telnet远程控制(黑客入侵计算机时常用于隐藏身份),端口一般为23。  6,POP3/SMTP代理:主要用于POP3/SMTP方式收发邮件,一般有缓存功能,端口一般为110/25。  7,SOCKS代理:只是单纯传递数据包,不关心具体协议和用法,所以速度快很多,一般有缓存功能,端口一般为1080。SOCKS代 [阅读全文]

热门标签

最新标签

推荐阅读

  1. 24

    2019-04

    HTTP代理IP在网络兼职有什么作用?

    互联网高速发展之下,网络兼职也成了很多人赚钱的一种方式。现如今,越来越多的人士纷纷加入到网赚行业中,一来可以增加收入,二来兼顾一些处于特定阶段的人群,例如孕妇、在职人员、

  2. 08

    2019-07

    免费高速http代理ip安全可用吗?

    HTTP代理IP是最普遍的一种代理形式,能够代理客户机的HTTP访问,例如我们平时上网浏览页面使用的都是HTTP协议。如果你的业务是在浏览器操作,那么HTTP代理IP在适合不过。

  3. 15

    2019-06

    便宜稳定的ip代理软件推荐

    ip代理软件的价格是用户比较看重的,很多时候价格还是决定性的因素,今天黑洞http就为大家介绍下一些便宜稳定的ip代理软件的。

  4. 13

    2019-11

    采集数据不用代理IP会怎么样?

    采集数据不用代理IP会怎么样?很多做个人网站的人几乎都离不开一种工具那就是采集软件。因为个人的经历有限无法自己写出几千几万,甚至几十万字的文章,而如果花钱请人写,那代价又比

  5. 13

    2019-05

    ip代理软件香港

      ip代理软件香港,黑洞HTTP是一款专门针对国内各地IP地址改变的产品,暂时还没有香港、韩国、美国等全球各地的IP代理。黑洞HTTP可以让电脑中的浏览器的IP地址随心改变,适用于IP地址变更

  6. 30

    2019-03

    爬虫过程中的代理ip使用

    在实际的爬虫抓取的过程中,由于会存在恶意采集或者恶意攻击的情况,很多网站都会设置相应的防爬取机制,通常防爬程序都是通过ip来识别机器人用户的,因此充足可用的ip信息可以为我们