关于MapReduce 执行卡住
Posted zuoandfuturegirl
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了关于MapReduce 执行卡住相关的知识,希望对你有一定的参考价值。
在执行一个demo程序的时候发现,数据量不大,但程序始终卡在
18/05/21 23:18:28 INFO mapreduce.Job: map 0% reduce 0%
解决步骤:
首先,查看日志。
如果是内存不足造成的。
在yarn的配置文件yarn-site.xml修改或添加,如下内容。
<property> <name>yarn.nodemanager.resource.memory-mb</name> <value>4096</value> </property> <property> <name>yarn.nodemanager.resource.cpu-vcores</name> <value>4</value> </property>
然后从新启动。
以上是关于关于MapReduce 执行卡住的主要内容,如果未能解决你的问题,请参考以下文章
EMR 上的 MapReduce 不联系 RMProxy 并卡住等待资源管理器?