爬与反爬

Posted tmmm

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了爬与反爬相关的知识,希望对你有一定的参考价值。

 

概念

 爬虫:   自动获取网站数据的程序
 反爬虫:使用技术手段防止爬虫程序爬取数据
 误伤:   反爬虫技术将普通用户识别为爬虫,这种情况多出现在封ip中,例如学校网络、小区网络再或者网络网络都是共享一个公共ip,                                         这个时候如果是封ip就会导致很多正常访问的用户也无法获取到数据。所以相对来说封ip的策略不是特别好,通常都是禁止某ip一段时间访问。
 成本:   反爬虫也是需要人力和机器成本
 拦截:   成功拦截爬虫,一般拦截率越高,误伤率也就越高

爬与反爬

技术图片

 

以上是关于爬与反爬的主要内容,如果未能解决你的问题,请参考以下文章

爬虫与反爬虫的较量-图片反爬

爬虫与反爬虫

那些年绕过的反爬手段

Python 网络爬虫与数据采集

爬虫基础总结

常见的反爬措施:UA反爬和Cookie反爬