Spark的WordCount操作过程中出现Exception in thread “main“ java.lang.ArrayIndexOutOfBoundsException: 10582问题

Posted SoRA数据家

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark的WordCount操作过程中出现Exception in thread “main“ java.lang.ArrayIndexOutOfBoundsException: 10582问题相关的知识,希望对你有一定的参考价值。

目录

出现问题:

解决办法: 


出现问题:

在尚硅谷学习Spark过程中,第一个程序出现了以下问题:

Exception in thread "main" java.lang.ArrayIndexOutOfBoundsException: 10582
    at scala.collection.TraversableLike.$anonfun$flatMap$1(TraversableLike.scala:240)
    at scala.collection.Iterator.foreach(Iterator.scala:937)
    at scala.collection.Iterator.foreach$(Iterator.scala:937)
    at scala.collection.AbstractIterator.foreach(Iterator.scala:1425)
    at scala.collection.IterableLike.foreach(IterableLike.scala:70)
    at scala.collection.IterableLike.foreach$(IterableLike.scala:69)
    at scala.collection.AbstractIterable.foreach(Iterable.scala:54)
    at scala.collection.TraversableLike.flatMap(TraversableLike.scala:240)
    at scala.collection.TraversableLike.flatMap$(TraversableLike.scala:237)
    at scala.collection.AbstractTraversable.flatMap(Traversable.scala:104)

解决办法: 

paranamer版本的问题,Exception in thread "main" java.lang.ArrayIndexOutOfBoundsException: 10582_JHC_binge的博客-CSDN博客此文章一位评论的博友给出的解释是“因为jdk升级到了1.8 但是原本的paranamer不向上兼容了” 

添加以下代码到pom.xml文件中

<dependencies>
        <dependency>
            <groupId>com.thoughtworks.paranamer</groupId>
            <artifactId>paranamer</artifactId>
            <version>2.8</version>
        </dependency>
</dependencies>

 

问题解决!!

以上是关于Spark的WordCount操作过程中出现Exception in thread “main“ java.lang.ArrayIndexOutOfBoundsException: 10582问题的主要内容,如果未能解决你的问题,请参考以下文章

运行spark wordcount时候出现的错误 :Job aborted due to stage failure 请大神赐教啊!!!

在Spark shell中基于HDFS文件系统进行wordcount交互式分析

Spark的wordcount程序产生多少个RDD?

3.Spark 操作

3天掌握Spark--RDD概念及WordCount案例

Spark编程环境搭建及WordCount实例