修改hadoop的jar包运行时候分配的jvm内存
Posted 诸葛小四
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了修改hadoop的jar包运行时候分配的jvm内存相关的知识,希望对你有一定的参考价值。
在hadoop-env.sh中修改参数添加
export HADOOP_HEAPSIZE="4096"
设置分配的最大jvm内存为4096,一般用于jar包里面除了执行map和reduce之外还要执行其他的后续代码,且后续代码所需要的内存占用大于1g。
当出现map或者reduce过程提示内存不足的时候可以修改etc/下面的mapred-site.xml文件中的参数:mapreduce.map.memory.mb数值到合适的参数即可。
以上是关于修改hadoop的jar包运行时候分配的jvm内存的主要内容,如果未能解决你的问题,请参考以下文章
编写hadoop程序并打成jar包上传到hadoop集群运行