大数据工程师的必备技能

Posted 2020-09-09

一、数据可视化

R不仅是编程语言，同时也R具有强大的统计计算功能和便捷的数据可视化系统。在此，推荐大家看一本书，这本书叫做《R数据可视化手册》。《R数据可视化手册》重点讲解R的绘图系统，指导读者通过绘图系统实现数据可视化。书中提供了快速绘制高质量图形的150多种技巧，每个技巧用来解决一个特定的绘图需求。

Python 出现了很多新的Python数据可视化库，弥补了一些这方面的差距。matplotlib 已经成为事实上的数据可视化方面最主要的库，此外还有很多其他库，例如vispy，bokeh， seaborn， pyga， folium 和 networkx，这些库有些是构建在 matplotlib 之上，还有些有其他一些功能。

ECharts和D3.js 是基于html5 的两个纯javascript图表库，它们提供直观，生动，可交互，可个性化定制的数据可视化图表。创新的拖拽重计算、数据视图、值域漫游等特性大大增强了用户体验，赋予了用户对数据进行挖掘、整合的能力。其拥有混搭图表、拖拽重计算、制作数据视图、动态类型切换、图例开关、数据区域选择、值域漫游、多维度堆积等非常丰富的功能。

Excel中大量的公式函数可以应用选择，使用Microsoft Excel可以执行计算，分析信息并管理电子表格或网页中的数据信息列表与数据资料图表制作，可以实现许多方便的功能，带给使用者方便。事实上，Excel完全可以满足大家日常工作中图表制作和数据可视化的需求，所以，想要进入大数据行业，学好Excel是基础。

二、机器学习

机器学习的基础包括聚类、时间序列、推荐系统、回归分析、文本挖掘、决策树、支持向量机、贝叶斯分类和神经网络。这些基础知识光是听到名字就觉得深不可测，但是如果具备了统计学和概率学的基础知识，就能够轻松掌握这些高深莫测的名词。因此，建议在进行机器学习之前，先进行统计学和概率学的学习是非常有必要的。

完成了统计学和概率学的基础学习之后，之后就可以选择一两款机器学习工具来实战练习了，谷歌的TensorFlow和百度的百度大脑都是非常优秀的机器学习框架。

三、算法

对于程序员来说算法并不会太陌生，首先要了解什么是数据结构，它包括栈、队列、链表、散列表、二叉树、红黑树、B树。之后就要学习常用算法了，常用算法包括：排序（插入排序、桶排序、堆排序、快速排序）、最大子数组、最长公共子序列、最短路径和矩阵的存储运算。

最后，掌握几款常用的数据分析挖掘软件，比如MATLAB、SPSS和SAS。