为啥hadoop没有将数据放在hdfs-site.xml中指定的目录中

Posted

技术标签:

【中文标题】为啥hadoop没有将数据放在hdfs-site.xml中指定的目录中【英文标题】:why is hadoop not placing the data in the directory specified in hdfs-site.xml为什么hadoop没有将数据放在hdfs-site.xml中指定的目录中 【发布时间】:2013-09-13 19:41:37 【问题描述】:

我已经使用 michael noll 教程 (http://www.michael-noll.com/tutorials/running-hadoop-on-ubuntu-linux-single-node-cluster/) 在多节点集群上配置了 hadoop。其中如何首先在各个节点上配置 hadoop,然后再连接它们。

我真正想要的是 hadoop 应该将数据放在 hdfs-site.xml 中指定 hadoop.data.dir 参数的目录中。

hadoop.data.dir /djhadoop/hadoop 数据目录 数据目录。

但它仍然将数据块放置在 core-site.xml 中给出的 tmp 目录中指定的目录中:-

hadoop.tmp.dir /djhadoop/hadoop-tmp

为什么hadoop不使用hdfs-site.xml文件中指定的数据目录,而是使用core-site.xml中指定的目录?

【问题讨论】:

【参考方案1】:

IIRC,属性是 dfs.data.dir 而不是 hadoop.data.dir。还要确保您已保存更改并重新启动守护程序以冻结修改。

【讨论】:

我对 hdfs-site.xml 中的 mapred.system.dir 有同样的问题,我想为 mapred 文件设置目录。你知道吗? 应该在 mapred-site.xml 我知道它在 mapred-site.xml 中,但我在其中指定的目录也没有用于存储与 mapred 相关的文件。格式是否像 hadoop.0.20 中 hadoop.name.dir 中的 dfs.name.dir 那样改变了? 你给出的路径是什么? 对不起,我从未见过 hadoop.name.dir。

以上是关于为啥hadoop没有将数据放在hdfs-site.xml中指定的目录中的主要内容,如果未能解决你的问题,请参考以下文章

Hadoop 配置 - hdfs-site.xml:我应该在 namenode 和 datanode 上使用相同的文件吗?

hdfs-site.xml 用于添加新的数据节点

hadoop1.2.1三种模式配置

Hadoop配置文件hdfs-site.xml

Hadoop没有启动datanodes

flume出现org.apache.hadoop.fs.UnsupportedFileSystemException: No FileSystem for scheme “hdfs“