zeppelin 使用 yarn-application 模式时如何设置适当的 jobmanager 内存大小
Posted
技术标签:
【中文标题】zeppelin 使用 yarn-application 模式时如何设置适当的 jobmanager 内存大小【英文标题】:How to set proper jobmanager memory size when zeppelin using yarn-application mode 【发布时间】:2021-10-13 00:09:31 【问题描述】:zeppelin使用yarn-application模式时,如何设置合适的jobmanager内存大小?
例如,当我在 zeppelin-env.sh ZEPPELIN_INTP_MEM="-Xms1024m -Xmx1024m -XX:MaxMetaspaceSize=512m"
中使用默认设置时,这是否意味着我必须给 jobmanger 内存大小超过 1536M,例如 flink.jm.memory=2048
?
否则,我可能会陷入“杀死容器”的问题。
【问题讨论】:
【参考方案1】:我假设你的意思是 flink 解释器的 yarn-application。如果是这样,只需使用标准的flink属性jobmanager.memory.process.size
来设置jobmanager的内存
【讨论】:
和flink.jm.memory
一样吗?如果是,设置多少,2048?以上是关于zeppelin 使用 yarn-application 模式时如何设置适当的 jobmanager 内存大小的主要内容,如果未能解决你的问题,请参考以下文章
Zeppelin:构建 zeppelin 时 Web 应用程序失败
Zeppelin:如何使用 sql 读取 DataFrame
使用 zeppelin 在 kubernetes 上运行 Spark
如何在 Zeppelin 中的 Python Pyspark 中打印粗体 - 以及在 Zeppelin 中使用 python-print-function 的其他格式