RDD和DataFrame和DataSet三者间的区别

Posted hgc-bky

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了RDD和DataFrame和DataSet三者间的区别相关的知识,希望对你有一定的参考价值。

技术图片

在SparkSQL中Spark为我们提供了两个新的抽象,分别是DataFrame和DataSet。他们和RDD有什么区别呢?首先从版本的产生上来看:
RDD (Spark1.0) —> Dataframe(Spark1.3) —> Dataset(Spark1.6)

如果同样的数据都给到这三个数据结构,他们分别计算之后,都会给出相同的结果。不同是的他们的执行效率和执行方式。

在后期的Spark版本中,DataSet会逐步取代RDD和DataFrame成为唯一的API接口。

网址:https://www.cnblogs.com/swordfall/p/9006088.html#auto_id_0

以上是关于RDD和DataFrame和DataSet三者间的区别的主要内容,如果未能解决你的问题,请参考以下文章

Spark——RDD和DataFrame和DataSet三者间的区别

SparkSQL 之旅

sparkSQL中RDD——DataFrame——DataSet的区别

RDDDataFrame与DataSet的相互转换

RDD, DataFrame,DataSet区别与相互转化

spark的数据结构 RDD——DataFrame——DataSet区别