IP代理软件,http代理,API提取-黑洞HTTP

黑洞HTTP

您的位置: 首页 > 新闻资讯 > HTTP代理 > 正文

Python如何设置User-Agent和代理IP

发布时间:2019年06月03日 来源:http://http.hunbovps.com/News/getList/catid/8/id/669.html

  Python如何设置User-Agent和代理IP?爬虫为了对抗反爬虫策略,设置User-Agent和代理IP是必须的一项工作,常见的一些User-Agent这里就不再赘述了,之前写过一篇《


Python如何设置User-Agent和代理IP


  收集一些常见浏览器的User Agent》,可以参考一下,那么Python如何设置User-Agent和代理IP呢?


  一、设置User-Agent


  1、创建Request对象时指定headers


  url = 'http://ip.zdaye.com/'


  head = {}


  head['User-Agent'] = 'Mozilla/5.0 (Linux; Android 4.1.1; Nexus 7 Build/JRO03D) AppleWebKit/535.19 (KHTML,  like Gecko) Chrome/18.0.1025.166  Safari/535.19'


  req = request.Request(url, headers=head)


  #传入创建好的Request对象


  response = request.urlopen(req)


  html = response.read().decode('utf-8')


  print(html)


  2、创建Request对象后使用add_header


  req.add_header('User-Agent', 'Mozilla/5.0 (Linux; Android 4.1.1; Nexus 7 Build/JRO03D) AppleWebKit/535.19 (KHTML, like Gecko) Chrome/18.0.1025.166  Safari/535.19')


  # 参数为 (key, value)


  二、设置代理IP


  使用install_opener方法之后,会将程序默认的urlopen方法替换掉。也就是说,如果使用install_opener之后,在该文件中,再次调用urlopen会使用自己创建好的opener。如果不想替换掉,只是想临时使用一下,可以使用opener.open(url),这样就不会对程序默认的urlopen有影响。


  from urllib import request


  if __name__ == "__main__":


  url = 'http://ip.zdaye.com/'


  #这是代理IP


  proxy = {'http':'168.68.8.88:66666'}


  #创建ProxyHandler


  proxy_support = request.ProxyHandler(proxy)


  #创建Opener


  opener = request.build_opener(proxy_support)


  #添加User Angent


  opener.addheaders = [('User-Agent','Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36')]


  #安装OPener


  request.install_opener(opener)


  #使用自己安装好的Opener


  response = request.urlopen(url)


  html = response.read().decode("utf-8")


  print(html)


相关文章内容简介

1 Python如何设置User-Agent和代理IP

  Python如何设置User-Agent和代理IP?爬虫为了对抗反爬虫策略,设置User-Agent和代理IP是必须的一项工作,常见的一些User-Agent这里就不再赘述了,之前写过一篇《  收集一些常见浏览器的User Agent》,可以参考一下,那么Python如何设置User-Agent和代理IP呢?  一、设置User-Agent  1、创建Request对象时指定headers  url = 'http://ip.zdaye.com/'  head = {}  head['User-Agent'] = 'Mozilla/5.0 (Linux; Android 4.1.1; Nexus 7 Build/JRO03D) AppleWebKit/535.19 (KHTML,  like Gecko) Chrome/18.0.102 [阅读全文]

热门标签

最新标签

推荐阅读

  1. 11

    2019-11

    http代理ip协议有几个版本?

    现在使用的http代理ip协议有几个版本,HTTP应用程序要尽量强健地处理各种不同的HTTP协议变体。目前仍在使用的版本如下;

  2. 05

    2019-05

    如何测试代理IP的有效性?

    通常我们用的IP代理都是付费购买的,因为免费的IP代理有效性特别低,可用率也不高,而且使用之前需要检查IP地址是否可用,因此要如何检查IP代理是否有效呢?下面介绍几种检查IP代理有效

  3. 05

    2019-05

    怎么用代理IP刷优酷等视频播放量?

    随着4G的普及,高速的网络给消费者提供了内容丰富、极致的体验的视频服务,无论是短视频还是直播亦或是像腾讯视频、爱奇艺、优酷等视频平台,但是随着内容作者们的竞争激烈,就会出现

  4. 01

    2019-07

    国内高匿免费代理IP资源怎么样?

    不知道你是否发现,代理IP在现实生活中的应用越来越频繁,在网络信息化高速运转的今天,代理IP已成为一种不错的上网方式,它可以满足很多人不同的上网诉求。但必须要明白的是,选择代

  5. 27

    2019-06

    国内免费代理IP可靠吗

    伴随着互联网的发展,人们对于代理服务器的也越来越认可,市面上可以提供HTTP代理IP资源的服务商也与日俱增。

  6. 21

    2019-05

    单独定制高质量的代理IP贵吗?

    现在的网络在给人们带来便利高效的同时,也带来了一些负面的影响,比如某些需要注册很多网站账号的时候就容易丢失密码或者注册不成功。这时候你就要想到代理ip,这是一个主要针对互联