数据分析与大数据分析的区别

Posted 2022-07-29

数据分析是指采用恰当的统计分析方法对收集来的大量数据进行分析，提取出有用信息同时形成结论，即对数据加以详细研究和概括总结的过程。
数据分析需要掌握数学知识和分析工具，数学知识包含统计学、概率论和数理统计、多元统计分析、时间序列、数据挖掘；工具一般应该掌握Excel、SQL、R、Python等。需要学习掌握基本数据处理及分析方法，掌握高级数据分析及数据挖掘方法（多元线性回归法，贝叶斯，神经网络，决策树，聚类分析法，关联规则，时间序列，支持向量机，集成学习等）和可视化技术。

大数据是无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。《大数据时代》一书中这样定义大数据分析：不用随机抽样调查分析这样的捷径，而采用对所有数据进行分析处理，不考虑数据的分布状态，因为抽样数据是需要考虑样本分布是否有偏，是否与总体一致的，也不用考虑假设检验，这点也是大数据分析与一般数据分析的一个区别。

数据分析与大数据分析最核心的区别是处理的数据规模不同，由此导致两个方向从业者的技能也是不同的。在CDA人才能力标准中从理论基础、软件工具、分析方法、业务分析、可视化五个方面对数据分析师与大数据分析师进行了定义。
积累经验，将业务目标转化为数据分析目标；熟悉常用算法和数据结构，熟悉企业数据库构架建设；针对不同分析主体，可以熟练的进行维度分析，能够从海量数据中搜集并提取信息；通过相关数据分析方法，结合一个或多个数据分析软件完成对海量数据的处理和分析。

撰写报告，报告体现数据挖掘的整体流程，层层阐述信息的收集、模型的构建、结果的验证和解读，对行业进行评估，优化和决策。