AWS Glue ETL 作业的 Scala 和 Java 版本是啥?
Posted
技术标签:
【中文标题】AWS Glue ETL 作业的 Scala 和 Java 版本是啥?【英文标题】:What is the Scala and Java version for AWS Glue ETL job?AWS Glue ETL 作业的 Scala 和 Java 版本是什么? 【发布时间】:2021-05-07 07:14:31 【问题描述】:到目前为止,我正在使用带有 Java 8 的 scala 2.11 来构建 Glue ETL 作业使用的库。我们计划使用 Java 11 升级到 Scala 2.12,但不确定 Glue ETL 是否支持它们。
【问题讨论】:
【参考方案1】:胶水版本列出here。最新版本支持Spark 2.4.3
。
在Spark 2.4.3 中,Scala 的默认版本是 2.11。
【讨论】:
感谢您的回答。我还向 AWS 确认了 Glue ETL 目前仅支持 Java 8。这是使用 Java 11 支持 Spark 3.x 的功能请求,但尚未实现。 @seiya 没问题。很高兴我的回答很有帮助:-)以上是关于AWS Glue ETL 作业的 Scala 和 Java 版本是啥?的主要内容,如果未能解决你的问题,请参考以下文章
从 AWS Redshift 到 S3 的 AWS Glue ETL 作业失败