zeppelin 使用 yarn-application 模式时如何设置适当的 jobmanager 内存大小

Posted

技术标签:

【中文标题】zeppelin 使用 yarn-application 模式时如何设置适当的 jobmanager 内存大小【英文标题】:How to set proper jobmanager memory size when zeppelin using yarn-application mode 【发布时间】:2021-10-13 00:09:31 【问题描述】:

zeppelin使用yarn-application模式时,如何设置合适的jobmanager内存大小?

例如,当我在 zeppelin-env.sh ZEPPELIN_INTP_MEM="-Xms1024m -Xmx1024m -XX:MaxMetaspaceSize=512m" 中使用默认设置时,这是否意味着我必须给 jobmanger 内存大小超过 1536M,例如 flink.jm.memory=2048

否则,我可能会陷入“杀死容器”的问题。

【问题讨论】:

【参考方案1】:

我假设你的意思是 flink 解释器的 yarn-application。如果是这样,只需使用标准的flink属性jobmanager.memory.process.size来设置jobmanager的内存

【讨论】:

flink.jm.memory一样吗?如果是,设置多少,2048?

以上是关于zeppelin 使用 yarn-application 模式时如何设置适当的 jobmanager 内存大小的主要内容,如果未能解决你的问题,请参考以下文章

Zeppelin:构建 zeppelin 时 Web 应用程序失败

在 Zeppelin 中如何使用 Hive

Zeppelin:如何使用 sql 读取 DataFrame

使用 zeppelin 在 kubernetes 上运行 Spark

如何在 Zeppelin 中使用 Plotly

如何在 Zeppelin 中的 Python Pyspark 中打印粗体 - 以及在 Zeppelin 中使用 python-print-function 的其他格式