将 Hadoop 块大小更改为小于最小块大小

Posted

技术标签:

【中文标题】将 Hadoop 块大小更改为小于最小块大小【英文标题】:Changing Hadoop Block Size lower than minimum block size 【发布时间】:2016-03-29 21:38:21 【问题描述】:

如何将 Hadoop 块大小更改为低于默认最小块大小。

本手册页 (https://hadoop.apache.org/docs/r2.6.0/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml) 指出默认情况下最小块大小或 dfs.namenode.fs-limits.min-block-size 设置为 1048576 (1 MB)。但是,当我在hdfs-site.xml 中将其更改为低于该值的任何值时,例如 100 KB,同时我将dfs.blocksize 更改为 200 KB(仍然大于修改后的最小块大小),我仍然收到错误消息,指出 dfs.blocksize 不能低于 1048576 的最小块大小。

另外,我使用的是 Hadoop 2.7.1,以防万一。

【问题讨论】:

【参考方案1】:

您应该在hdfs-site.xml 中添加属性,而不是在hdfs-default.xml 中。添加属性并重启namenode再试一次。

【讨论】:

我的错,我的意思是说我在 hdfs-site.xml 上尝试过,而不是 hdfs-default.xml。 你试过重启hadoop服务然后运行你的工作吗? 我尝试重新启动服务,它仍然显示 dfs.blocksize

以上是关于将 Hadoop 块大小更改为小于最小块大小的主要内容,如果未能解决你的问题,请参考以下文章

Hadoop块大小和文件大小问题?

将数组拆分为具有最小块大小的给定大小的块

磁盘块大小和 hadoop 块大小

Hadoop Block

Hadoop fs查找块大小?

HDFS中的数据块大小,为啥是64MB?