修改hadoop的jar包运行时候分配的jvm内存

Posted 诸葛小四

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了修改hadoop的jar包运行时候分配的jvm内存相关的知识,希望对你有一定的参考价值。

在hadoop-env.sh中修改参数添加

export HADOOP_HEAPSIZE="4096"

设置分配的最大jvm内存为4096,一般用于jar包里面除了执行map和reduce之外还要执行其他的后续代码,且后续代码所需要的内存占用大于1g。

当出现map或者reduce过程提示内存不足的时候可以修改etc/下面的mapred-site.xml文件中的参数:mapreduce.map.memory.mb数值到合适的参数即可。

以上是关于修改hadoop的jar包运行时候分配的jvm内存的主要内容,如果未能解决你的问题,请参考以下文章

hadoop运行 jar包的时候,怎么设置

编写hadoop程序并打成jar包上传到hadoop集群运行

Linux里面JVM内存怎么设置?

JVM内存分配

在本地上运行可以,将JAR包放在HADOOP平台上运行的时候执行失败是啥原因?

JVM内存调优