Spark的WordCount操作过程中出现Exception in thread “main“ java.lang.ArrayIndexOutOfBoundsException: 10582问题
Posted SoRA数据家
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark的WordCount操作过程中出现Exception in thread “main“ java.lang.ArrayIndexOutOfBoundsException: 10582问题相关的知识,希望对你有一定的参考价值。
目录
出现问题:
在尚硅谷学习Spark过程中,第一个程序出现了以下问题:
Exception in thread "main" java.lang.ArrayIndexOutOfBoundsException: 10582
at scala.collection.TraversableLike.$anonfun$flatMap$1(TraversableLike.scala:240)
at scala.collection.Iterator.foreach(Iterator.scala:937)
at scala.collection.Iterator.foreach$(Iterator.scala:937)
at scala.collection.AbstractIterator.foreach(Iterator.scala:1425)
at scala.collection.IterableLike.foreach(IterableLike.scala:70)
at scala.collection.IterableLike.foreach$(IterableLike.scala:69)
at scala.collection.AbstractIterable.foreach(Iterable.scala:54)
at scala.collection.TraversableLike.flatMap(TraversableLike.scala:240)
at scala.collection.TraversableLike.flatMap$(TraversableLike.scala:237)
at scala.collection.AbstractTraversable.flatMap(Traversable.scala:104)
解决办法:
paranamer版本的问题,Exception in thread "main" java.lang.ArrayIndexOutOfBoundsException: 10582_JHC_binge的博客-CSDN博客此文章一位评论的博友给出的解释是“因为jdk升级到了1.8 但是原本的paranamer不向上兼容了”
添加以下代码到pom.xml文件中
<dependencies>
<dependency>
<groupId>com.thoughtworks.paranamer</groupId>
<artifactId>paranamer</artifactId>
<version>2.8</version>
</dependency>
</dependencies>
问题解决!!
以上是关于Spark的WordCount操作过程中出现Exception in thread “main“ java.lang.ArrayIndexOutOfBoundsException: 10582问题的主要内容,如果未能解决你的问题,请参考以下文章
运行spark wordcount时候出现的错误 :Job aborted due to stage failure 请大神赐教啊!!!