windows上spark shell读取本地文件

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了windows上spark shell读取本地文件相关的知识,希望对你有一定的参考价值。

参考技术A 1、windows上spark shell读取本地文件时,需要在文件地址前加“file:///”
2、文本文件的后缀要有。
3、由于不知道默认读取位置,因此建议使用绝对路径。

如读取本地文件HelloSpark.txt:

练习记录--总结Spark基础操作常用的Shell命令

启动hadoop

技术图片

 

 

 

-ls:显示文件夹内容

-put:上传到hdfs

-cat:显示文件内容

技术图片

 

 

 

hdfs文件读取成功:三种方式

技术图片

 

 

 技术图片

 

 技术图片

 

以上是关于windows上spark shell读取本地文件的主要内容,如果未能解决你的问题,请参考以下文章

Spark Shell 无法读取有效路径的文件

sc.textFile()默认读取本地系统文件还是HDFS系统文件?

如何使用 spark-shell 读取 .csv 文件

如何使用 spark-avro 包从 spark-shell 读取 avro 文件?

在 Mac 上本地启动 spark-shell 时出错

无法从本地文件路径读取文本文件 - Spark CSV 阅读器