问题解决系列:java运行HiveQL,报错:java.lang.NoClassDefFoundError_ org_apache_hadoop_conf_Configuration

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了问题解决系列:java运行HiveQL,报错:java.lang.NoClassDefFoundError_ org_apache_hadoop_conf_Configuration相关的知识,希望对你有一定的参考价值。

(文章目录)

问题场景

使用Java编写HiveQL语句,然后通过jdbc的方式远程连接hive集群,并执行。在执行过程中,报错,错误信息如下:

java.lang.NoClassDefFoundError: org/apache/hadoop/conf/Configuration
	at org.apache.hive.jdbc.HiveConnection.createBinaryTransport(HiveConnection.java:393)
	at org.apache.hive.jdbc.HiveConnection.openTransport(HiveConnection.java:187)
	at org.apache.hive.jdbc.HiveConnection.<init>(HiveConnection.java:163)
	at org.apache.hive.jdbc.HiveDriver.connect(HiveDriver.java:105)
	at java.sql.DriverManager.getConnection(DriverManager.java:664)
	at java.sql.DriverManager.getConnection(DriverManager.java:247)
	。。。
	at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
	at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
	at java.lang.Thread.run(Thread.java:745)
Caused by: java.lang.ClassNotFoundException: org.apache.hadoop.conf.Configuration
	at java.net.URLClassLoader.findClass(URLClassLoader.java:381)
	at java.lang.ClassLoader.loadClass(ClassLoader.java:424)
	at org.springframework.boot.loader.LaunchedURLClassLoader.loadClass(LaunchedURLClassLoader.java:93)
	at java.lang.ClassLoader.loadClass(ClassLoader.java:357)
	... 11 common frames omitted

问题环境

软件 版本
JDK 1.8
Hive 1.1.0
hive-jdbc 1.1.0
Hadoop 2.6.5

问题原因

问题提示关键点在于:java.lang.NoClassDefFoundError: org/apache/hadoop/conf/Configuration。而NoClassDefFoundError错误的出现,主要是在编译过程中,没有出现问题;在运行过程中,发现缺失类或者有重复类就会导致这个报错。 我们首先在全局搜索这个类:org.apache.hadoop.conf.Configuration,因为我这里是idea,所以是直接双击shift键,然后输入对应的类路径,结果如下: 很显然,我们本地是没有org.apache.hadoop.conf.Configuration这个类的。

解决方案

既然是类缺失,那么就引入对应的jar包即可。如果大家是使用idea+maven进行开发的话,可以到pom.xml文件,点击alt+insert快捷键,选择第一个Dependency,如下图: Search for class点击输入org.apache.hadoop.conf.Configuration,结果如下: 这里,我们需要根据现网的Hadoop版本,选择对应的依赖包。因为博主这边的环境是Hadoop 2.6.5,所以这里的hadoop-common选择为2.6.5版本。

结果

引入依赖之后,重跑没有报错,顺利执行完毕!!!

总结

在解决问题的过程中,阐述说明问题发生的原因,并给出解决方案。在学习的过程中中,可以学到很多知识点。即使知识点比较少,但是积少成多,技术就会慢慢精进!!!

随缘求赞

如果我的文章对大家产生了帮忙,可以在文章底部点个赞或者收藏; 如果有好的讨论,可以留言; 如果想继续查看我以后的文章,可以点击关注 可以扫描以下二维码,关注我的公众号:枫夜之求索阁,查看我最新的分享!

以上是关于问题解决系列:java运行HiveQL,报错:java.lang.NoClassDefFoundError_ org_apache_hadoop_conf_Configuration的主要内容,如果未能解决你的问题,请参考以下文章

oozie 作业失败并出现错误 JA009:错误的 conf 文件

Linux环境Tomcat运行报错java.lang.OutOfMemoryError

如何在Java中执行Hive命令或HiveQL

在解决selenium grid报错时出现tomcat启动不起来项目的问题:java.lang.UnsatisfiedLinkError:

通过JAVA从MQ读取消息的时候报错及解决

在scala代码中运行多个hiveQL语句[重复]