IP代理软件,http代理,API提取-黑洞HTTP

黑洞HTTP

您的位置: 首页 > 新闻资讯 > HTTP代理 > 正文

遇到反爬时可以用代理IP吗?

发布时间:2019年04月11日 来源:互联网

遇到反爬时可以用代理IP吗?谈到反爬虫,或许你最先想起的是User-Agent+ Referer检测、验证码、ip访问速度、账号及cookie验证等,这类反爬虫对大家而言根本没有难度可言,完全能利用云立方动态vps所获得的代理ip加其它的一些措施实现完美的伪装,接近于真实用户浏览的,可是,别以为这样就没有后顾之忧了,一起来看下脑洞大开的前端工程师的反爬虫措施吧。


遇到反爬时可以用代理IP吗?


一、 FONT-FACE拼凑式


范例:猫眼电影


猫眼电影网站,针对票房信息等展示的并非纯粹的数字。


网页采用font-face定义了字符集,并利用unicode去映射呈现。换句话说,去掉图像识别,必须同时抓取字符集,才能分辨出数字。


而且,每次页面刷新,字符集的url都会发生改变的,显然更大强度地提高了爬取成本。


二、BACKGROUND拼凑式


范例:美团


与font的方式差不多,美团里采用的是background拼凑。数字其实是图片,按照不同的background偏移,显示出不一样的字符。


而且不同页面,图片的字符排序都是有差异的。不过理论上只需生成0-9与小数点,为什么有重复字符还没有搞明白。


三、字符穿插式


范例:微信公众号文章


一些微信公众平台的文章里,穿插了各类迷之字符,而且按照样式把这些字符隐藏掉。


这类方式尽管惨绝人寰…但我觉得找不到太大的识别与过滤难度,甚至能够做得更好,不过也算作一种脑洞吧。


四、伪元素隐藏式


范例:汽车之家


汽车之家网站里,将关键的厂商数据,做到了伪元素的content里。


这又是一种策略:爬取网页,一定得解析css,还要拿到伪元素的content,这就提高了爬取的难度。


五、元素定位覆盖式


范例:去哪儿


酷爱数学的去哪儿,针对一个4位数的票价,首先用4个i标签渲染,然后2个b标签去绝对定位偏移量,覆盖有意呈现错误的i标签,最终在视觉上建立正确的价格…


这就表明爬虫能解析css还不够,还要会做数学题。


六、IFRAME异步加载式


范例:网易云音乐


网易云音乐网页一打开,html源码里基本上只有一个iframe,而且它的src是空白的:about:blank。接着js开始运行,把整个页面的框架异步塞到了iframe里面…


不过这一方法造成的难度并不大,仅仅在异步与iframe处理上绕了个弯,不管你是用selenium还是phantom,都有API能够拿到iframe里面的content数据。


七、字符集替换式


范例:去哪儿移动版


一样会欺骗爬虫的还有去哪儿的移动版。


html里明明写的3211,视觉上呈现的却是1233。原来他们重新定义了字符集,3与1的顺序刚好调换得来的结果…


因此,进行数据爬取的时候,需要对将爬取的目标进行分析,使用对应的应对措施破解反爬,而其中动态IP正是必不可少的一种工具,它能帮助爬虫工程师解决IP限制问题,如爬虫抓取任务事半功倍。


相关文章内容简介

1 遇到反爬时可以用代理IP吗?

遇到反爬时可以用代理IP吗?谈到反爬虫,或许你最先想起的是User-Agent+ Referer检测、验证码、ip访问速度、账号及cookie验证等,这类反爬虫对大家而言根本没有难度可言,完全能利用云立方动态vps所获得的代理ip加其它的一些措施实现完美的伪装,接近于真实用户浏览的,可是,别以为这样就没有后顾之忧了,一起来看下脑洞大开的前端工程师的反爬虫措施吧。一、 FONT-FACE拼凑式范例:猫眼电影猫眼电影网站,针对票房信息等展示的并非纯粹的数字。网页采用font-face定义了字符集,并利用unicode去映射呈现。换句话说,去掉图像识别,必须同时抓取字符集,才能分辨出数字。而且,每次页面刷新,字符集的url都会发生改变的,显然更大强度地提高了爬取成本。二、BACKGROUND拼凑式范例:美团与font的方式差不多,美团里采用的是background拼凑。数字其实是图片,按照不同的 [阅读全文]

热门标签

最新标签

推荐阅读

  1. 12

    2019-08

    国内代理ip软件有哪些?哪个代理IP效果好呢?

    为什么要使用代理ip软件,因为ip频繁的爬取某个服务器,会对服务器造成巨大负载,因此大部分的网站都设有限制,ip限制是最常用的一种,因此想要频繁访问就需要更换ip,那么国内代理ip软

  2. 11

    2019-06

    如何用代理IP高效进行Python爬虫

    Python作为一门入门极易并容易上瘾的语言,相信已经成为了很多人“写着玩”的标配脚本语言。Python与其它语言(比如Java或者C++)相比有比较大的区别,其中最大的特点就是非常简洁,很多爬

  3. 23

    2019-04

    代理ip能做什么项目?

    现在很多网络工作者都需要换IP来进行操作业务,如爬虫、投票等等,那么具体用代理ip能做什么项目呢?

  4. 03

    2019-01

    找不同!HTTP代理和Socks代理有什么区别?

    代理服务器英语全名是Proxy Server,其基本功能就是代理互联网用户去获取信息网络,形象的说:这是网络服务的中转站。最常见的代理莫过于HTTP代理,还有一种代理用的也越来越多,那就是Socks

  5. 29

    2019-05

    如何获取到高质量的https代理ip资源?

    互联网的快速发展日新月异,人们对代理IP的需求也与日俱增,以前对代理的需求大都为HTTP代理,而如今,对https代理的需求越来越多,然而,好的https代理也并不是那么好找。

  6. 01

    2019-10

    高匿代理ip与普通匿名代理ip的差别

    同样作为匿名代理ip,http代理ip与普通匿名代理ip在使用过程中是有区别的,只是很多用户在使用过程中没有细致观察或者对二者的认识了解不多,因此才造成高匿代理ip与普通匿名代理ip没有区