如何在文本文件中保存 rdd 操作?斯卡拉/火花

Posted

技术标签:

【中文标题】如何在文本文件中保存 rdd 操作?斯卡拉/火花【英文标题】:How to save rdd action in textfile? Scala/Spark 【发布时间】:2017-10-15 16:18:10 【问题描述】:

我有一个 rdd 字符串,如何在文本文件上存储 Rdd 操作?或者如何通过控制台、驱动程序查看?

【问题讨论】:

【参考方案1】:
yourRDD.saveAsTextFile("path")

.saveAsTextFile() 方法将数据写入简单的文本文件,其中每个 RDD 元素调用 .toString() 方法,每行写入一个元素。输出的文件数等于正在保存的RDD的分区数。

【讨论】:

以上是关于如何在文本文件中保存 rdd 操作?斯卡拉/火花的主要内容,如果未能解决你的问题,请参考以下文章

如何在火花中使用`saveATextFile`保存`wholeTextFile` RDD的结果?

如何加入 DataFrames 的地图?斯卡拉火花

如何将火花日志文件转换为一个 CSV 文件

火花斯卡拉数据帧错误

如何将csv文件转换为rdd

如何在火花中将rdd对象转换为数据框