04常用RDD操作
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了04常用RDD操作相关的知识,希望对你有一定的参考价值。
操作 | 介绍 |
map | 将RDD中的每个元素传入自定义函数,获取一个新的元素,然后用新的元素组成新的RDD |
filter | 对RDD中每个元素进行判断,如果返回true则保留,返回false则剔除。 |
flatMap | 与map类似,但是对每个元素都可以返回一个或多个新元素。 |
gropuByKey | 根据key进行分组,每个key对应一个Iterable<value> |
reduceByKey | 对每个key对应的value进行reduce操作。 |
sortByKey sortBy | 根据key进行排序操作。 sortBy,传入的是一个 |
join | 对两个包含<key,value>对的RDD进行join操作,每个key join上的pair,都会传入自定义函数进行处理。 |
cogroup | 同join,但是是每个key对应的Iterable<value>都会传入自定义函数进行处理。 |
2、常用action介绍
操作 | 介绍 |
reduce | 将RDD中的所有元素进行聚合操作。第一个和第二个元素聚合,值与第三个元素聚合,值与第四个元素聚合,以此类推。 |
collect | 将RDD中所有元素获取到本地客户端。 |
count | 获取RDD元素总数。 |
take(n) | 获取RDD中前n个元素。 |
saveAsTextFile | 将RDD元素保存到文件中,对每个元素调用toString方法 |
countByKey | 对每个key对应的值进行count计数。 |
foreach | 遍历RDD中的每个元素。 |
以上是关于04常用RDD操作的主要内容,如果未能解决你的问题,请参考以下文章
Spark RDD常用算子操作 键值对关联操作 subtractByKey, join,fullOuterJoin, rightOuterJoin, leftOuterJoin
pyspark3.0.0+spark3.0.0学习01(RDD的创建,RDD算子(常用Transformation算子 常用Action算子 分区操作算子)的学习及应用)