Spark学习

Posted lq13035130506

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark学习相关的知识,希望对你有一定的参考价值。

技术图片

 

 

Spark SQL:数据库

Spark Streaming:流计算框架

GraphX:图计算框架

技术图片

 

 

 使用语言开发:

技术图片

 

 

 技术图片

 

 

 技术图片

 

 

 技术图片

 

 

 技术图片

 

 

 SCALA语言学习(与Java完全兼容)

编程范式:

1,命令式语言:C,C++,Java...基于冯.诺依曼体系结构

2,函数式语言:充分利用多核CPU多线程并发能力 基于λ演算,并发性能非常好

 技术图片

 

 (并发度降低)

技术图片

 

 每个值都是一个对象

安装Scala:(版本对应)http://dblab.xmu.edu.cn/blog/929-2/

技术图片

 

 运行Scala程序:

进入scala,:load scala程序文件(当没有定义对象时)

技术图片

 技术图片

 

当定义对象时:

 技术图片

以上是关于Spark学习的主要内容,如果未能解决你的问题,请参考以下文章

Spark学习笔记—01 Spark集群的安装

学习笔记Spark—— Spark MLlib应用—— 机器学习简介Spark MLlib简介

学习笔记Spark—— Spark MLlib应用—— 机器学习简介Spark MLlib简介

手把手带你玩转Spark机器学习-使用Spark构建分类模型

Spark机器学习实战-使用Spark进行数据处理和数据转换

Spark大咖说:MLFlow和spark在机器学习方面的进展Project Hydrogen和spark在深度学习方面的进展