运行maven jar文件时出错

Posted

技术标签:

【中文标题】运行maven jar文件时出错【英文标题】:Error while running maven jar file 【发布时间】:2017-02-05 02:24:20 【问题描述】:

我从 Eclipse 创建了 maven jar 文件。运行 jar 时出现以下错误。

错误:

 A JNI error has occurred, please check your installation and try again

    Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/fs/FSDataOutputStream
    at java.lang.Class.getDeclaredMethods0(Native Method)
    at java.lang.Class.privateGetDeclaredMethods(Unknown Source) 
    at java.lang.Class.privateGetMethodRecursive(Unknown Source)

请指导是否需要在pom.xml中添加依赖

pom.xml

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
  <modelVersion>4.0.0</modelVersion>
  <groupId>utd.bigdata</groupId>
  <artifactId>hadoop1</artifactId>
  <version>0.0.1-SNAPSHOT</version>
  <name>hw1</name>
  <dependencies>
  <dependency>
        <groupId>org.apache.hadoop</groupId>
        <artifactId>hadoop-client</artifactId>
        <version>2.4.1</version>
  </dependency>
   <dependency>
     <groupId>org.apache.hadoop</groupId>
      <artifactId>hadoop-common</artifactId>
      <version>2.7.3</version>
        <scope>compile</scope>
       </dependency>
  <!--  <dependency>
    <groupId>org.apache.hadoop</groupId>
    <artifactId>hadoop-auth</artifactId>
    <version>2.4.1</version>
</dependency>-->
  </dependencies>
  <build>
    <plugins>
        <plugin>
            <!-- Build an executable JAR -->
            <groupId>org.apache.maven.plugins</groupId>
            <artifactId>maven-jar-plugin</artifactId>
            <version>2.4</version>
            <configuration>
                <archive>
                    <manifest>
                        <mainClass>bigdata.UploadHadoop</mainClass>
                        <classpathPrefix>classes/lib</classpathPrefix>
                    </manifest>
                </archive>
            </configuration>
        </plugin>
    </plugins>
</build>
</project>

还有 pom.xml 有什么错误吗?请提出任何代码更改

【问题讨论】:

您能否详细说明您是如何运行 jar 的?是通过 Eclipse 调试/运行时吗?是命令行吗?什么是命令行命令? 【参考方案1】:

常规 .jar 存档在运行时不包含其依赖项,为此您可以使用 maven-assembly-plugin 创建胖可执行 Jar:

https://maven.apache.org/plugins/maven-assembly-plugin/usage.html

<!-- Create a fat Jar -->
<plugin>
  <artifactId>maven-assembly-plugin</artifactId>
  <executions>
    <execution>
      <phase>package</phase>
      <goals>
        <goal>single</goal>
      </goals>
    </execution>
  </executions>
  <configuration>
    <archive>
      <manifest>
        <mainClass>bigdata.UploadHadoop</mainClass>
      </manifest>
    </archive>
    <descriptorRefs>
      <descriptorRef>jar-with-dependencies</descriptorRef>
    </descriptorRefs>
  </configuration>
</plugin>

【讨论】:

【参考方案2】:

作为“fat jar”的替代方案,hadoop jar runner 还支持“jar of jars”格式。值得注意的是它不是jar的标准,但是由于hadoop支持它,这里是:How do I put all required JAR files in a library folder inside the final JAR file with Maven?

这种格式是一个普通的 jar,但有一个 lib/ 文件夹包含所有依赖 jar。

【讨论】:

【参考方案3】:

如果你使用maven-jar-plugin构建可执行jar,请阅读文档。 http://maven.apache.org/shared/maven-archiver/examples/classpath.html#Make

首先,在 pom.xml 中添加 maven-jar-plugin

<build>
    <plugins>
      <plugin>
        <groupId>org.apache.maven.plugins</groupId>
        <artifactId>maven-jar-plugin</artifactId>
        ...
        <configuration>
          <archive>
            <manifest>
              <addClasspath>true</addClasspath>
              <mainClass>bigdata.UploadHadoop</mainClass>
              <classpathPrefix>classes/lib</classpathPrefix>
            </manifest>
          </archive>
        </configuration>
        ...
      </plugin>
    </plugins>
  </build>

其次,它不会将依赖 jar 附加到项目 jar。所以你必须确保依赖 jars(hadoop-client, hadoop-common) 自己在 classes/lib 中。

最后,我建议你使用 maven-shade-plugin 构建一个可执行的 jar(fat jar) http://maven.apache.org/plugins/maven-shade-plugin/examples/executable-jar.html 它会自行将依赖 jar 附加到结果 shade jar。 您还可以使用 maven-assembly-plugin 构建可执行 jar,但不推荐。

<build>
    <plugins>
      <plugin>
        <groupId>org.apache.maven.plugins</groupId>
        <artifactId>maven-shade-plugin</artifactId>
        <version>3.0.0</version>
        <executions>
          <execution>
            <phase>package</phase>
            <goals>
              <goal>shade</goal>
            </goals>
            <configuration>
              <transformers>
                <transformer implementation="org.apache.maven.plugins.shade.resource.ManifestResourceTransformer">
                  <mainClass>bigdata.UploadHadoop</mainClass>
                </transformer>
              </transformers>
            </configuration>
          </execution>
        </executions>
      </plugin>
    </plugins>
  </build>

【讨论】:

嗨,我有一个非常愚蠢的问题,我有存货。我在本地有一个简单的(只是打印 hello world).class 文件,我可以将它转换为 .jar 并在本地运行它,没有问题。但是,当我将它放在我的 hadoop 集群中时,我遇到了一个愚蠢的错误:JAR 不存在或不是普通文件:/usr/reihan/test.jar 我还应该提到我可以运行 hadoop-builtin-examples 之类wordcount 没有问题,但是当我想运行自己的 jar 时,我遇到了这个问题。有什么想法吗?

以上是关于运行maven jar文件时出错的主要内容,如果未能解决你的问题,请参考以下文章

在hadoop map-reduce中运行jar文件时出错

maven jar包报错问题

maven项目打成jar包 出错。

pom.xml文件project报错Failed to read artifact descriptor forXXX:jar:unknow,导致idea导入项目时maven依赖没有加载进项目的问题

Maven打包成Jar文件时依赖包的问题

ecilpse中maven项目、配置pom.xml添加依赖jar包出错