读取驱动程序 Hadoop 中的文件

Posted

技术标签:

【中文标题】读取驱动程序 Hadoop 中的文件【英文标题】:Reading file inside driver Hadoop 【发布时间】:2015-08-11 20:13:54 【问题描述】:

是否可以在 Hadoop 驱动程序内的分布式缓存中读取文件? 我已经实现了工具接口,并且正在使用 -files 将文件添加到分布式缓存中。

或者在我开始工作后这个文件会被复制到分布式缓存中?

【问题讨论】:

【参考方案1】:

我打开 hadoop 代码。作业提交后,文件将被复制到分布式缓存。所以在驱动中,分布式缓存中不存在该文件。

【讨论】:

以上是关于读取驱动程序 Hadoop 中的文件的主要内容,如果未能解决你的问题,请参考以下文章

在idea上运行hadoop程序

从 hdfs vs 本地目录读取文件

Hadoop必知必会——重要部分整理

Hadoop必知必会——重要部分整理

Hadoop 应用程序中的 Avro 用例

在运行时模拟用户进行 spring hadoop 配置