Hive LLAP调优:每个守护程序的内存和堆大小计算

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Hive LLAP调优:每个守护程序的内存和堆大小计算相关的知识,希望对你有一定的参考价值。

我正在调整我的具有Hive LLAP的集群,根据以下链接,https://community.hortonworks.com/articles/215868/hive-llap-deep-dive.html我需要计算heapsize的值,但不确定*的含义是什么?

我还有一个问题,关于如何计算hive.llap.daemon.yarn.container.mb的值,然后是ambari给出的默认值?

我已经尝试通过考虑这个(*为乘法)并将容器值设置为等于yarn.scheduler.maximum.allocation.mb来计算该值,但是HiveServer 2交互式在调优后不会启动。

答案

这是在HDP套件中设置hive llap的优秀wiki文章。 https://community.hortonworks.com/articles/149486/llap-sizing-and-setup.html

你对*的理解是正确的,它用于乘法。

这里的经验法则是将hive.llap.daemon.yarn.container.mb设置为yarn.scheduler.maximum-allocation-mb,但如果您的服务没有提供该值,那么我建议您将llap_heap_size更改为hive.llap.daemon.yarn.container.mb的80%。

以上是关于Hive LLAP调优:每个守护程序的内存和堆大小计算的主要内容,如果未能解决你的问题,请参考以下文章

Hive llap服务安装说明及测试

纯干货 | ES性能调优策略

如何hadoop 看hive执行日志

OutOfMemory 异常 - HDInsight LLAP 群集中的 Hive 多联接查询

堆栈和堆内存的大小[重复]

hive性能优化及参数调优