问题解决系列:java运行HiveQL,报错:java.lang.NoClassDefFoundError_ org_apache_hadoop_conf_Configuration
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了问题解决系列:java运行HiveQL,报错:java.lang.NoClassDefFoundError_ org_apache_hadoop_conf_Configuration相关的知识,希望对你有一定的参考价值。
(文章目录)
问题场景
使用Java编写HiveQL语句,然后通过jdbc的方式远程连接hive集群,并执行。在执行过程中,报错,错误信息如下:
java.lang.NoClassDefFoundError: org/apache/hadoop/conf/Configuration
at org.apache.hive.jdbc.HiveConnection.createBinaryTransport(HiveConnection.java:393)
at org.apache.hive.jdbc.HiveConnection.openTransport(HiveConnection.java:187)
at org.apache.hive.jdbc.HiveConnection.<init>(HiveConnection.java:163)
at org.apache.hive.jdbc.HiveDriver.connect(HiveDriver.java:105)
at java.sql.DriverManager.getConnection(DriverManager.java:664)
at java.sql.DriverManager.getConnection(DriverManager.java:247)
。。。
at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
at java.lang.Thread.run(Thread.java:745)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.conf.Configuration
at java.net.URLClassLoader.findClass(URLClassLoader.java:381)
at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
at org.springframework.boot.loader.LaunchedURLClassLoader.loadClass(LaunchedURLClassLoader.java:93)
at java.lang.ClassLoader.loadClass(ClassLoader.java:357)
... 11 common frames omitted
问题环境
软件 | 版本 |
---|---|
JDK | 1.8 |
Hive | 1.1.0 |
hive-jdbc | 1.1.0 |
Hadoop | 2.6.5 |
问题原因
问题提示关键点在于:java.lang.NoClassDefFoundError: org/apache/hadoop/conf/Configuration
。而NoClassDefFoundError
错误的出现,主要是在编译过程中,没有出现问题;在运行过程中,发现缺失类或者有重复类就会导致这个报错。
我们首先在全局搜索这个类:org.apache.hadoop.conf.Configuration
,因为我这里是idea
,所以是直接双击shift
键,然后输入对应的类路径,结果如下:
很显然,我们本地是没有org.apache.hadoop.conf.Configuration
这个类的。
解决方案
既然是类缺失,那么就引入对应的jar包即可。如果大家是使用idea+maven进行开发的话,可以到pom.xml文件,点击alt+insert
快捷键,选择第一个Dependency
,如下图:
在Search for class
点击输入org.apache.hadoop.conf.Configuration
,结果如下:
这里,我们需要根据现网的Hadoop版本,选择对应的依赖包。因为博主这边的环境是Hadoop 2.6.5
,所以这里的hadoop-common
选择为2.6.5
版本。
结果
引入依赖之后,重跑没有报错,顺利执行完毕!!!
总结
在解决问题的过程中,阐述说明问题发生的原因,并给出解决方案。在学习的过程中中,可以学到很多知识点。即使知识点比较少,但是积少成多,技术就会慢慢精进!!!
随缘求赞
如果我的文章对大家产生了帮忙,可以在文章底部点个赞或者收藏; 如果有好的讨论,可以留言; 如果想继续查看我以后的文章,可以点击关注 可以扫描以下二维码,关注我的公众号:枫夜之求索阁,查看我最新的分享!
以上是关于问题解决系列:java运行HiveQL,报错:java.lang.NoClassDefFoundError_ org_apache_hadoop_conf_Configuration的主要内容,如果未能解决你的问题,请参考以下文章
oozie 作业失败并出现错误 JA009:错误的 conf 文件
Linux环境Tomcat运行报错java.lang.OutOfMemoryError
在解决selenium grid报错时出现tomcat启动不起来项目的问题:java.lang.UnsatisfiedLinkError: