hive原理和调优

Posted hongfeng2019

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hive原理和调优相关的知识,希望对你有一定的参考价值。

参考:

hive参数:

https://www.cnblogs.com/yinzhengjie/articles/11065409.html

 

hive-site.xml
hive.async.log.enabled false #控制beeline跑时是否输出执行日志,默认是true

hive:
hive.exec.parallel.thread.number 50
hive.exec.reducers.bytes.per.reducer
该参数在0.14.0之前默认为1,000,000,000(约1GB),在0.14.0及以后默 认为256,000,000(约256MB)。该参数控制每个reducer平均处理的字节 数,默认值不一定适合所有的情况,应该根据企业内Hive作业通常处理的 数据量、集群节点数等参数来酌情配置
hive.exec.dynamic.partition

hive.exec.reducers.max 250
hive.server2.thrift.max.worker.threads 5000

以上是关于hive原理和调优的主要内容,如果未能解决你的问题,请参考以下文章

JVM原理和调优

JVM原理和调优

JVM原理讲解和调优

JVM原理讲解和调优

[大数据性能调优] 第一章:性能调优的本质Spark资源使用原理和调优要点分析

基于CDH 6.3.0 搭建 Hive on Spark 及相关配置和调优