大数据职位体系

Posted 2021-01-21 lietouwenl

我们接触过很多家互联网企业，目前最为普遍也是职位需要比较大的莫过于大数据方向的岗位，以下是我通过各位技术前辈对于大数据方向各个职位的整理，方便我们猎头朋友更好地理解职位需求，同时对大数据方向感兴趣的同学也可以参考，以下是详细的文档，其中脑图我也整理整理了一份，供大家参考，另外关于技术方向是不断进化和演变的过程，希望大家共同补充和提出不同的见解。
大数据职位体系
1.大数据涉及职位从技术趋势角度来来
大数据系统研发类人才
1>大数据应用开发类人才
2>大数据应用开发工程师
3>大数据分析类人才
4>大数据分析师
2.企业方向划分
1>产品市场分析---通过算法来测试新产品的有效性， 是一个相对较新的领域
2>安全和风险分析---数据科学家们知道需要收集哪些数据、 如何进行快速分析，并最终通过分析 信息来有效遏制网络入侵或抓住网络罪犯。
3>商业智能
3.热门岗位
1>ETL研发：ETL，是英文 Extract-Transform-Load 的缩写，用来描述将数据从来源端经过抽取（extract）、交互转换（transform）、加载（load）至目的端的过程。ETL一词较常用在数据仓库，但其对象并不限于数据仓库。
2>有不同的数据类型
随着数据种类的不断增加，企业对数据整合专业人才的需求越来越旺盛。ETL开发者与不同的数据来源和组织打交道，从不同的源头抽取数据，转换并导入数据仓库以满足企业的需要。
3>负责内容
ETL研发，主要负责将分散的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成，最后加载到数据仓库或数据集市中，成为联机分析处理、数据挖掘的基础。
4>应用领域
应用领域：商业智能领域，是构建数据仓库的底层基础技术
ETL行业相对成熟，相关岗位的工作生命周期比较长，通常由内部员工和外包合同商之间通力完成。ETL人才在大数据时代炙手可热的原因之一是：在企业大数据应用的早期阶段，Hadoop只是穷人的ETL
4.Hadoop开发:Hadoop是在分布式服务器集群上存储海量数据并运行分布式分析应用的一个平台，其核心部件是HDFS与MapReduce
1>核心思想
2>HDFS---HDFS负责Hadoop生态圈的数据存取工作
3>MapReduce---_MapReduce负责Hadoop生态圈的数据运算工作
4>hadoop生态圈----Hadoop生态圈使用HDFS文件系统进行存取数据，数据被分散的保存在集群的各个服务器上，在计算数据时使用MapReduce结合HDFS进行逻辑运算取出数据。
5>信息架构开发---- 大数据重新激发了主数据管理的热潮。充分开发利用企业数据并支持决策需要非常专业的技能。信息架构师必须了解如何定义和存档关键元素，确保以最有效的方式进行数据管理和利用。信息架构师的关键技能包括主数据管理、业务知识和数据建模等
6>可视化工具开发----量数据的分析是个大挑战，而新型数据可视化工具如Spotifre，Qlikview和Tableau可以直观高效地展示数据。
可视化开发就是在可视开发工具提供的图形用户界面上，通过操作界面元素，由可视开发工具自动生成应用软件。还可轻松跨越多个资源和层次连接您的所有数据，经过时间考验，完全可扩展的，功能丰富全面的可视化组件库为开发人员提供了功能完整并且简单易用的组件集合，以用来构建极其丰富的用户界面。
过去，数据可视化属于商业智能开发者类别，但是随着Hadoop的崛起，数据可视化已经成了一项独立的专业技能和岗位。
7>数据仓库研究---数据仓库是为企业所有级别的决策制定过程提供支持的所有类型数据的战略集合。它是单个数据存储，出于分析性报告和决策支持的目的而创建。为企业提供需要业务智能来指导业务流程改进和监视时间、成本、质量和控制。
数据仓库的专家熟悉Teradata、Neteeza和Exadata等公司的大数据一体机。能够在这些一体机上完成数据集成、管理和性能优化等工作。
9>数据科学研究---这一职位过去也被称为数据架构研究，数据科学家是一个全新的工种，能够将企业的数据和技术转化为企业的商业价值。随着数据学的进展，越来越多的实际工作将会直接针对数据进行，这将使人类认识数据，从而认识自然和行为。因此，数据科学家首先应当具备优秀的沟通技能，能够同时将数据分析结果解释给IT部门和业务部门领导。
总的来说，数据科学家是分析师、艺术家的合体，需要具备多种交叉科学和商业技能。
10>数据预测分析---营销部门经常使用预测分析预测用户行为或锁定目标用户。预测分析开发者有些场景看上有有些类似数据科学家，即在企业历史数据的基础上通过假设来测试阈值并预测未来的表现。
11>企业数据管理---企业要提高数据质量必须考虑进行数据管理，并需要为此设立数据管家职位，这一职位的人员需要能够利用各种技术工具汇集企业周围的大量数据，并将数据清洗和规范化，将数据导入数据仓库中，成为一个可用的版本。然后，通过报表和分析技术，数据被切片、切块，并交付给成千上万的人。担当数据管家的人，需要保证市场数据的完整性，准确性，唯一性，真实性和不冗余。
12>数据安全研究---数据安全这一职位，主要负责企业内部大型服务器、存储、数据安全管理工作，并对网络、信息安全项目进行规划、设计和实施。数据安全研究员还需要具有较强的管理经验，具备运维管理方面的知识和能力，对企业传统业务有较深刻的理解，才能确保企业数据安全做到一丝不漏。