spark historyserver 页面反应很慢 jvm堆调参

Posted jiangxiaoxian

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark historyserver 页面反应很慢 jvm堆调参相关的知识,希望对你有一定的参考价值。

我们的spark historyserver 最近页面打开很慢

jstat -gcutil pid 1000 
发现full gc 相当严重

技术分享图片
查看堆大小,发现默认堆1G,打算修改到4G

jps -lvm |grep pid 
30283 org.apache.spark.deploy.history.HistoryServer -Xmx1g
步骤
vi spark-env.sh

# 加添
export SPARK_DAEMON_MEMORY=4096m

# 重启 historyserver服务
sbin/stop-history-server.sh
start-history-server.sh

技术分享图片

大功告成!!!

以上是关于spark historyserver 页面反应很慢 jvm堆调参的主要内容,如果未能解决你的问题,请参考以下文章

Hadoop pig 连接错误 - historyserver 不会启动

spark端口号

Spark Metrics

Spark history-server 配置 !运维人员的强大工具

部署Spark2.2集群(on Yarn模式)

Log server 找不到 historyserver