Python爬虫实战,Scrapy实战,抓取并分析天气数据

Posted 楚_阳

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python爬虫实战,Scrapy实战,抓取并分析天气数据相关的知识,希望对你有一定的参考价值。

前言

利用Python“简单地”抓取并分析一下天气数据。补充一下之前数据可视化的空白。

开发工具**

Python版本:3.6.4

相关模块:

PIL模块;

requests模块;

pyecharts模块;

以及一些Python自带的模块。

环境搭建

Python简单分析微信好友

主要思路

利用国家气象局百度天气查询API接口来获取当前天气数据,主要包括温度、湿度、气压等。

获取相关数据之后利用pyecharts模块和PIL模块对数据进行可视化分析。

具体实现过程详见个人简介或私信获取源代码。

结果展示

使用:

在cmd窗口中运行analysis.py文件即可。

要画什么图把对应的函数调用注释去掉就好啦:

结果:

(打开相关文件中的html文件查看效果更佳,到处点一点有惊喜~~~)

(1)全国部分城市空气质量

(2)天气预报简图

(3)部分城市气温柱状图

(4)部分城市气温折线图

(5)部分城市相对气压饼图

(6)部分城市气温分布图

(7)北京城市湿度

(8)南京天气信息雷达图

有些是为了画图而画图了,所以看起来逻辑很怪

补充:中国地震网数据可视化

来可视化一波我们爬取到的数据吧!

首先,根据经纬度画下地震发生频次的热力图吧,为了方便统计,我们对经纬度进行了保留一位小数处理,然后再进行频次统计,因此热力图会存在误差。

**注:数据源于http://news.ceic.ac.cn/index.html,仅供参考。**

总体上效果是这样子的:

和Google搜到的世界地震带分布对比一下:

还行吧,就是为啥中国那片这么“出众”。不过想想也对,国内自己的地震数据肯定统计的更详细,级别非常低的地震也统计进去了,而国外的地震统计的就比较粗糙一点,所以漏了很多,这么一来一回,也就成这副鬼样子了。因此还不如仔细瞅瞅国内的呢。所以放大定位到中国瞅瞅咯,效果如下:

好吧,中国国土面积太大了,不太好展示,感兴趣的小伙伴自己下载相关文件看吧。T_T

然后再统计一下每年发生地震的频次?效果如下:

以及地震级别统计?效果如下:

最后再对所有发生过地震的地点画个词云吧:

文章到这里就结束了,感谢你的观看,关注我每天分享Python爬虫实战系列,下篇文章分享爬取房价信息并分析。

为了感谢读者们,我想把我最近收藏的一些编程干货分享给大家,回馈每一个读者,希望能帮到你们。

干货主要有:

① 2000多本Python电子书(主流和经典的书籍应该都有了)

② Python标准库资料(最全中文版)

③ 项目源码(四五十个有趣且经典的练手项目及源码)

④ Python基础入门、爬虫、web开发、大数据分析方面的视频(适合小白学习)

⑤ Python学习路线图(告别不入流的学习)

All done~完整源代码+干货详见个人简介或者私信获取相关文件。。

以上是关于Python爬虫实战,Scrapy实战,抓取并分析天气数据的主要内容,如果未能解决你的问题,请参考以下文章

Python爬虫实战,Scrapy实战,爬取并简单分析安居客租房信息

Python爬虫实战,Scrapy实战,爬取并简单分析知网中国专利数据

Scrapy分布式爬虫实战:Scrapy基础知识

《python3网络爬虫开发实战》--Scrapy

Python爬虫实战,Scrapy实战,大众点评爬虫

scrapy实战4抓取ajax动态页面(以糗事百科APP为例子):