AWS Glue ETL 作业的 Scala 和 Java 版本是啥?

Posted

技术标签:

【中文标题】AWS Glue ETL 作业的 Scala 和 Java 版本是啥?【英文标题】:What is the Scala and Java version for AWS Glue ETL job?AWS Glue ETL 作业的 Scala 和 Java 版本是什么? 【发布时间】:2021-05-07 07:14:31 【问题描述】:

到目前为止,我正在使用带有 Java 8 的 scala 2.11 来构建 Glue ETL 作业使用的库。我们计划使用 Java 11 升级到 Scala 2.12,但不确定 Glue ETL 是否支持它们。

【问题讨论】:

【参考方案1】:

胶水版本列出here。最新版本支持Spark 2.4.3

在Spark 2.4.3 中,Scala 的默认版本是 2.11。

【讨论】:

感谢您的回答。我还向 AWS 确认了 Glue ETL 目前仅支持 Java 8。这是使用 Java 11 支持 Spark 3.x 的功能请求,但尚未实现。 @seiya 没问题。很高兴我的回答很有帮助:-)

以上是关于AWS Glue ETL 作业的 Scala 和 Java 版本是啥?的主要内容,如果未能解决你的问题,请参考以下文章

从 AWS Redshift 到 S3 的 AWS Glue ETL 作业失败

AWS Glue ETL作业缺少对爬网程序可见的字段

Python/Pyspark 迭代代码(用于 AWS Glue ETL 作业)

手动设置 AWS Glue ETL 书签

AWS Glue 抓取动态 S3 路径位置

AWS Glue ETL Spark- 字符串到时间戳