if (assertnotnull(input[0, org.apache.spark.sql.Row, true]).isNullAt) null else staticinvoke(class o
Posted water-green
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了if (assertnotnull(input[0, org.apache.spark.sql.Row, true]).isNullAt) null else staticinvoke(class o相关的知识,希望对你有一定的参考价值。
运行spark程序一直报错:
1 if (assertnotnull(input[0, org.apache.spark.sql.Row, true]).isNullAt) null else staticinvoke(class o
原因: 文件里有一行数据为垃圾数据, 这行数据的列数和列名的个数不一致.
解决办法: 过滤掉这样的数据
1 .filter(_.length == infoSchema.fieldNames.length)
以上是关于if (assertnotnull(input[0, org.apache.spark.sql.Row, true]).isNullAt) null else staticinvoke(class o的主要内容,如果未能解决你的问题,请参考以下文章