IP代理软件,http代理,API提取-黑洞HTTP

黑洞HTTP

您的位置: 首页 > 新闻资讯 > HTTP代理 > 正文

爬取猫眼top100、淘宝美食、微信文章、ip代理池实现、scrapy入

发布时间:2019年03月19日 来源:互联网

python3爬虫教程

爬取猫眼top100电影

爬取猫眼top100、淘宝美食、微信文章、ip代理池实现、scrapy入

简述:


利用requests和简单的正则表达式进行数据的爬取,并利用multiprocessing.Pool线程池加快速度

爬取头条街拍图片


简述:


利用requests的session特性进行爬取,同时添加headers防止网站反爬,并把数据存储进mongoDB

问题1:


爬取返回数据`<html><body></body></html>`, 并不是正确的数据

解决:


利用requests.session(), 添加头信息headers的user-Agent, 替换之前的直接的requests请求

问题2:


头条图片的js格式出现改变

解决:


图片正则表达式:

```

images_pattern = re.compile('gallery: JSON.parse("(.*?)"),', re.S)

result = re.search(images_pattern, html)

data = json.loads(result.group(1).replace('\', ''))

```

爬取淘宝美食


简述:


利用selenium+chrome自动爬取淘宝美食,并利用pyquery分析数据,存入mongodb

改进:


利用chrome新特性headless进行后台爬取

```

options = webdriver.ChromeOptions()

options.add_argument('headless')

browser = webdriver.Chrome(chrome_options=options)

```

代理池


简述:


ip代理池,防止网站反爬设置代理池

文件:


api.py: flask api 对外接口,获取proxy ip

conf.py: 代理设置文件

db.py: redis数据库操作

getter.py: 获取代理IP

spider.py: 代理handler设置

schedule.py: 调度器,调度getter和validator

utils.py: 工具函数

validator.py: 验证代理是否可用

爬取微信文章


错误:


Error Occurred

(MaxRetryError("HTTPConnectionPool(host='180.118.86.57', port=9000):

Max retries exceeded with url: http://weixin.sogou.com/weixin?query=%E9%A3%8E%E6%99%AF&page=1&type=2

(Caused by ProxyError('Cannot connect to proxy.', NewConnectionError('<urllib3.connection.HTTPConnection

object at 0x7f0040885470>: Failed to establish a new connection: [Errno 111] Connection refused',)))",),)

原因:


因为在每次数据传输前客户端要和服务器建立TCP连接,为节省传输消耗,

默认为keep-alive,即连接一次,传输多次,然而在多次访问后不能结束并回到连接池中,导致不能产生新的连接

解决:


headers中的Connection默认为keep-alive,

将header中的Connection一项置为close

```

headers = {

 'Connection': 'close',

}

r = requests.get(url, headers=headers)

```

scrapy 入门:


问题:


```

from quotetutrial.quotetutrial.items import QuoteItem

ImportError: No module named 'quotetutrial.quotetutrial'

```

解决:


需要从项目中引入,不是目录

```

 from quotetutrial.items import QuoteItem

```

scrapy 爬取知乎用户信息


相关文章内容简介

1 爬取猫眼top100、淘宝美食、微信文章、ip代理池实现、scrapy入

python3爬虫教程爬取猫眼top100电影简述:利用requests和简单的正则表达式进行数据的爬取,并利用multiprocessing.Pool线程池加快速度爬取头条街拍图片简述:利用requests的session特性进行爬取,同时添加headers防止网站反爬,并把数据存储进mongoDB问题1:爬取返回数据`<html><body></body></html>`, 并不是正确的数据解决:利用requests.session(), 添加头信息headers的user-Agent, 替换之前的直接的requests请求问题2:头条图片的js格式出现改变解决:图片正则表达式:```images_pattern = re.compile('gallery: JSON.parse("(.*?)"),', [阅读全文]

热门标签

最新标签

推荐阅读

  1. 10

    2019-07

    用代理IP注册怎么样?

    在互联网迅速发展的今天,一些新兴的词汇常以极快的速度占领着网络,比如说http代理,就是现在网络上比较火热的一个词,主要应用于网络业务方面,比如注册,投票,抢购,发帖。对于http

  2. 12

    2019-11

    免费ip代理是真正的免费吗?

    人有人名,地有地址,那么ip 是什么?ip其实就是个人在上网时的一个网上地址,当我们通过网站访问某个网站,我们的 ip地址 就会被那个网站的网络日志所记载。很多时候正常访问网站浏览信

  3. 29

    2019-10

    免费IP代理有实用的吗?

    免费代理ip和付费代理ip,在市面都有很多,免费和付费,相信很多人都会选择免费,但为什么会出现付费代理ip呢?现在我们所看到的网络世界其实并不是真实的网络世界,真实的网络世界要更

  4. 25

    2019-11

    HTTP协议和http代理ip有什么关联?

    http协议在网络中是一个重要的环节,它影响着浏览器、爬虫、代理服务器还对防火墙、CND、微服务等多方便有着不小的影响。

  5. 20

    2019-06

    免费代理ip和付费代理之间的差异体现在什么地方?

    现在有很多人或多或少都有使用过代理ip,那只要大家有使用过代理ip就会知道ip的代理它既有免费的,也有付费使用的,所谓的免费使用的代理ip,那么就代表着大家,根本就不需要花一分一毫

  6. 02

    2019-07

    为什么选择HTTP代理IP一定要谨慎?

    在日常生活中,我们平时上网可能会很少用到http代理IP,但在从事互联网工作中,用到http代理IP的机会就比较多了。HTTP代理IP确实给我们的工作带来很多便利,也正因为如此,市面上的代理IP越