Python爬虫实战,Scrapy实战,抓取并分析天气数据
Posted 楚_阳
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python爬虫实战,Scrapy实战,抓取并分析天气数据相关的知识,希望对你有一定的参考价值。
前言
利用Python“简单地”抓取并分析一下天气数据。补充一下之前数据可视化的空白。
开发工具**
Python版本:3.6.4
相关模块:
PIL模块;
requests模块;
pyecharts模块;
以及一些Python自带的模块。
环境搭建
主要思路
利用国家气象局和百度天气查询API接口来获取当前天气数据,主要包括温度、湿度、气压等。
获取相关数据之后利用pyecharts模块和PIL模块对数据进行可视化分析。
具体实现过程详见个人简介或私信获取源代码。
结果展示
使用:
在cmd窗口中运行analysis.py文件即可。
要画什么图把对应的函数调用注释去掉就好啦:
结果:
(打开相关文件中的html文件查看效果更佳,到处点一点有惊喜~~~)
(1)全国部分城市空气质量
(2)天气预报简图
(3)部分城市气温柱状图
(4)部分城市气温折线图
(5)部分城市相对气压饼图
(6)部分城市气温分布图
(7)北京城市湿度
(8)南京天气信息雷达图
有些是为了画图而画图了,所以看起来逻辑很怪
补充:中国地震网数据可视化
来可视化一波我们爬取到的数据吧!
首先,根据经纬度画下地震发生频次的热力图吧,为了方便统计,我们对经纬度进行了保留一位小数处理,然后再进行频次统计,因此热力图会存在误差。
**注:数据源于http://news.ceic.ac.cn/index.html,仅供参考。**
总体上效果是这样子的:
和Google搜到的世界地震带分布对比一下:
还行吧,就是为啥中国那片这么“出众”。不过想想也对,国内自己的地震数据肯定统计的更详细,级别非常低的地震也统计进去了,而国外的地震统计的就比较粗糙一点,所以漏了很多,这么一来一回,也就成这副鬼样子了。因此还不如仔细瞅瞅国内的呢。所以放大定位到中国瞅瞅咯,效果如下:
好吧,中国国土面积太大了,不太好展示,感兴趣的小伙伴自己下载相关文件看吧。T_T
然后再统计一下每年发生地震的频次?效果如下:
以及地震级别统计?效果如下:
最后再对所有发生过地震的地点画个词云吧:
文章到这里就结束了,感谢你的观看,关注我每天分享Python爬虫实战系列,下篇文章分享爬取房价信息并分析。
为了感谢读者们,我想把我最近收藏的一些编程干货分享给大家,回馈每一个读者,希望能帮到你们。
干货主要有:
① 2000多本Python电子书(主流和经典的书籍应该都有了)
② Python标准库资料(最全中文版)
③ 项目源码(四五十个有趣且经典的练手项目及源码)
④ Python基础入门、爬虫、web开发、大数据分析方面的视频(适合小白学习)
⑤ Python学习路线图(告别不入流的学习)
All done~完整源代码+干货详见个人简介或者私信获取相关文件。。
以上是关于Python爬虫实战,Scrapy实战,抓取并分析天气数据的主要内容,如果未能解决你的问题,请参考以下文章
Python爬虫实战,Scrapy实战,爬取并简单分析安居客租房信息