Python抓取2500份招聘需求，数据显示未来最吃香的岗位是这个

Posted 2021-12-24 Leo.yuan

随着各行各业都在进行数字化转型，数据方面的人才也成为了各家企业招聘的重点对象，不同数据类型的岗位提供的薪资待遇又是如何的？哪个城市最需要数据方面的人才、未来的发展前景与钱途又是怎么样的？今天小编抓取了某互联网招聘平台上面的招聘信息，来为大家分析分析。我们大致会讲

• 数据抓取的流程与步骤
• 数据清洗的流程与步骤
• 可视化的结果与分析

数据抓取的步骤

我们用Python当中的requests模块来发送与接收请求，然后用BeautifulSoup模块也解析返回的数据，代码如下

解析数据的代码如下

然后最后将收集到的数据导出到excel当中，代码如下

小编这次所抓取的岗位分别有“数据分析师”、“数据挖掘工程师”、“数据产品经理”、“大数据开发工程师”以及“数据运营助理”等等，接下来我们就针对所收集到的数据进行清洗与进一步的处理吧

数据的清洗与处理
我们用到的是Pandas模块，首先先导入所有收集到的数据

我们来看一下最终的数据集长什么样子

output

删除重复项
数据集当中或许存在重复的内容，我们用drop_duplicates()方法来进行重复项的去除

output

删除缺失值

output

对薪资数据的清洗

接下来为了方便对薪资数据进行统计分析，我们对此也需要进行相对应的处理

可视化分析结果
薪资的不同
我们先来看薪资上面的差距，根据不同的职位名称来看，例如我们来看“数据产品经理”这个岗位

output

较多的是集中在20K-40K这个范围当中，具体我们可以通过下面这个可视化的结果来看

我们可以发现的是整体的市场中“数据产品经理”这个岗位的整体待遇是相对更好一点的，其次便是“数据挖掘工程师”这个岗位，薪资一般也比较容易达到20K-40K之间的区间

哪个城市的需求最多
接下来我们来看一下哪些城市对数据方面的人才需求是最多的，

output

可以看到的是对于数据方面的人才需求最旺盛的仍然是北京，上海排在第二，与此同时呢，杭州在这方面的需求上面已经超过了广州，位列第四，同时在前十名当中成都、南京以及武汉与西安都纷纷上榜

哪个行业所需要的数据岗位最多呢？
接下来我们来看一下哪个行业所需要的数据方面的人才最多，

output

从上面的结果中看到，除了“数据服务”行业之外，还有“内容咨询、短视频”领域、“软件服务”、“科技金融”、“电商平台”、“IT技术服务”等领域对于数据方面的人才都有着相当旺盛的需求

对于学历的要求是什么样的呢？
我们来看一下各家公司对于数据方面的人才，在学历上又有何种要求呢？

output

一般来说仅仅是“本科”的学历就可以了，当然还有少数的公司对于学历的要求是局限在硕士之上

岗位的简短介绍
各家公司为了吸引越来越多的人才前往加入公司，也打出了各色各样的标语，小编做了汇总，并且做成词云图，首先我们用jieba模块对文本数据进行分词

接着我们使用stylecloud模块来进行词云图的绘制

源：关于数据分析与可视化

专注企业数据分析应用和数字化转型。关注公众号“商业智能研究”，回复“资料”，整理了6G的数仓、数据中台、数据治理、企业数据化管理案例，供免费领！