样条世系在创建火花上下文时失败

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了样条世系在创建火花上下文时失败相关的知识,希望对你有一定的参考价值。

我激活了管道的沿袭-我正在通过spark.jar参数提交所有必需的工件(JAR)。不过,我得到

sc._jvm.za.co.absa.spline.core.SparkLineageInitializer.enableLineageTracking(spark._jsparkSession)

spark._jsparkSession
TypeError: 'JavaPackage' object is not callable

我应该为此添加什么具体内容?

答案

[似乎与this post中解释的问题相同

这通常意味着jar文件设置不正确。传递它的方法是使用SPARK_CLASSPATH环境变量。

以上是关于样条世系在创建火花上下文时失败的主要内容,如果未能解决你的问题,请参考以下文章

在创建VSCode片段时,如何将变量转换为title-case(如TitleCase)?

Hivecontext.sql 返回空结果火花

火花中止火花作业中打开的文件太多

是否可以在单火花上下文中收听两个 dtsreams?

使用火花而不是使用动态框架(胶水上下文)从胶水目录中读取

AWS EMR 火花提交选项 - 失败