爬虫技术成了大数据时代的“宠儿”

Posted 2021-04-30 数贝壳

大数据时代，一些看似微不足道的数据在收集、整理、提取、分析之后，会具有洪荒之力!

 1 

 政治角逐

前段时间我们被美国大选刷屏了。

2016年这场美国总统竞选被媒体称作“第一次数字化竞选”，希阿姨和川大大都组建了庞大的技术团队，将大量资金花在获取和使用投票者的信息上。民意调查结果，一直是总统大选时最倚重的数据来源。在长达半年的总统竞选活动中，会有许多组织或机构通过不同方式进行大量调查，并将结果汇总整理加工成民意调查数据。在更大的数据规模上，总统候选人们也采用了同样的策略，所依赖的数据来源也不仅仅是民意调查结果，还涵盖了诸多的如facebook这类的社交网站和公开及私有的数据库。

及时准确的收集这些数据，并且帮助制定策略以获得更多的选民支持。将美国超过2亿的选民资料，与大型网站与社交网络上的个人账号相互匹配起来，将网络行为对应到具体的个体，再和已经构成的、庞大的用户个人数据相结合，最终完全由准确数据来驱动竞选策略。

而以上这些就使得大数据分析技术成了两党候选人的重要武器。

 2 

电商分析

抓取天猫、京东、淘宝等电商网的评论及销量数据，对各种商品(颗粒度可到款式)沿时间序列的销量以及用户的消费场景进行分析。

甚至还可以根据用户评价做情感分析，实时监控产品在消费者心目中的形象，对新发布的产品及时监控，以便调整策略。

 3 

投资理财

雪球等财经类网站通过抓取雪球KOL或者高回报用户的行为，找出推荐股票。

 4 

消费习惯分析

在大众点评、美团网等餐饮及消费类网站抓取各种店面的开业情况以及用户消费和评价，了解周边变化的口味，所谓是“舌尖上的爬虫”。

以及各种变化的口味，比如：啤酒在衰退，重庆小面在崛起。

 5 

内部数据利用

企业在运营过程中产生的大量数据，其实是蕴含着巨大的价值，对企业未来的发展和创新商业模式都有着很大的帮助。充分的挖掘数据潜在价值，能帮助企业更好的细分市场，以助于公司能有针对性的为企业日后的发展提供数据支撑。更好的掌握市场动向，更好的对市场反应产生新的决策。

......

数据背后所隐藏的巨大商业价值正开始被越来越多的企业所重视，越来越多的企业开始进入大数据市场，建立各种大数据入口，以获得更多更大的海量数据。那么问题来了，数据从何而来?

• 政府或其它机构公开的数据 或 API

• 购买数据

• 企业自己产生的数据

• 组织技术团队来抓取数据

第1种 公开的数据目前少之又少，主要还是机制不成熟，而且担心安全及隐私问题。

第2种 途径对大多数企业来说意义也不大，一方面有价值且可以出售的数据不多，即使有的话价格也不是一般企业所能承受的;另一方面，企业需要的数据往往是多样化多渠道的，很难全部通过购买来解决。

第3种 不用说，有数据意识的企业一般都有所积累，即使没有也可以开始积累。

因此，对很多企业来说，如果想获取全面、有效、更多的数据，抓取是一种不二的明智之选。也正因如此，爬虫技术成了大数据时代的“宠儿”，光开源的爬虫框架就不下50个，这应该就是一个侧面反映。