求问怎么设置sparksql读取hive的数据库
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了求问怎么设置sparksql读取hive的数据库相关的知识,希望对你有一定的参考价值。
参考技术A 历史上存在的原理,以前都是使用hive来构建数据仓库,所以存在大量对hive所管理的数据查询的需求。而hive、shark、sparlsql都可以进行hive的数据查询。shark是使用了hive的sql语法解析器和优化器,修改了执行器,使之物理执行过程是跑在spark上;而sparksql是使用了自身的语法解析器、优化器和执行器,同时sparksql还扩展了接口,不单单支持hive数据的查询,可以进行多种数据源的数据查询。 参考技术B 求问怎么设置sparksql读取hive的数据库使用maven进行打包:
打包命令:
mvn -Pyarn -Dhadoop.version=2.3.0-cdh5.0.0 -Phive -Phive-thriftserver -DskipTests clean package
以上是关于求问怎么设置sparksql读取hive的数据库的主要内容,如果未能解决你的问题,请参考以下文章
spark sql怎么去获取hive 表一定日期范围内的数据
hive kerberos sparksql怎么创建hivecontext
sparksql读取hive数据报错:java.lang.RuntimeException: serious problem