我可以使用java从spark UDF返回一个java对象吗

Posted

技术标签:

【中文标题】我可以使用java从spark UDF返回一个java对象吗【英文标题】:Can I return a java object from spark UDF using java 【发布时间】:2019-07-18 16:00:06 【问题描述】:

如何从 spark java udf 返回 java 对象。 我能够返回 spark 数据类型但无法返回任何 java 对象

【问题讨论】:

发布您尝试过的代码/示例数据并且您期待。单行被认为是 SO 中的低质量帖子 【参考方案1】:

您可以从 spark UDF 返回一个复杂的对象,但您需要在注册到 spark session 时定义自定义数据类型。检查这个...

How to return complex types using spark UDFs

【讨论】:

以上是关于我可以使用java从spark UDF返回一个java对象吗的主要内容,如果未能解决你的问题,请参考以下文章

如何使用反射从scala调用spark UDF?

如何将复杂的外部变量(例如映射值)从 Spark 与 Java 中的驱动程序传递给 UDF?

从 UDF 内的 Spark SQL 行中提取嵌套数组

尝试从 UDF 执行 spark sql 查询

Spark SQL:如何使用 JAVA 从 DataFrame 操作中调用 UDF

如果其他,Spark scala udf 错误