关于hive中Map join 时大表left join小表的问题

Posted 孙中明

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了关于hive中Map join 时大表left join小表的问题相关的知识,希望对你有一定的参考价值。

关于hive中Map join 时大表left join小表的问题

hive中,(启用Map join时) 大表left join小表,加载从右向左,所以小表会加载进内存,存储成map键值对,通过大表驱动小表,来进行join,即大表中的join字段作为key 来获取value进行join

MySQL中,left join加载从左向右,即join左边的表会先加载进内存,与右边表进行join

mapjoin时要让小表进内存,大表进内存的话可能会因为过大的原因,导致mapjoin无法实现,从而转为reduce join

mysqlhive加载顺序不同。

最先加载的是驱动表,最好是小表。

以上是关于关于hive中Map join 时大表left join小表的问题的主要内容,如果未能解决你的问题,请参考以下文章

hive join 优化 --小表join大表

Hive Map Join

怎么知道任务开始mapjoin

Hive Join 分析和优化

HIVE优化和数据倾斜合并小文件

大数据面试题:Hive优化措施