hive 与mapreduce

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hive 与mapreduce相关的知识,希望对你有一定的参考价值。

参考技术A hive 不触发mapreduce的操作:

hive.fetch.task.conversion

这个参数与sql 触发mr操作有关:

取值一共有三个 none minimal more

默认的设置的值 是more

配置参数为more的时候。

select  * from  table [where]

简单的查询 不会出触发mr

desc table 不会触发mr

hive触发mapreduce转换过程:

hive通过客户端,接收到用户传来的sql语句,

使用自己的dirver ,结合元数据信息,将指令翻译称为mapreduce 然后提交到hadoop执行。

以上是关于hive 与mapreduce的主要内容,如果未能解决你的问题,请参考以下文章

大数据框架之Hadoop:MapReduceMapReduce框架原理——数据清洗(ETL)

大数据框架之Hadoop:MapReduceMapReduce框架原理——Join多种应用

大数据技术栈

Hive与优化方法

Hive与优化方法

Hive与HBase的区别与联系