我可以使用AWS Glue将S3上的json数据转换为柱状格式并将其推送到Redshift吗?

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了我可以使用AWS Glue将S3上的json数据转换为柱状格式并将其推送到Redshift吗?相关的知识,希望对你有一定的参考价值。

我在S3上有嵌套JSON格式的数据,不断更新。我希望数据在转换后定期将此数据推送到Redshift集群。 AWS Glue可以帮助您配置定期运行,将格式转换为columnar并将其推送到Redshift吗?

答案

AWS Glue ETL可以运行Python脚本,以任何方式转换数据。这里是an example,他们把它们放在一起,通过Relationalize变换展平JSON。

以上是关于我可以使用AWS Glue将S3上的json数据转换为柱状格式并将其推送到Redshift吗?的主要内容,如果未能解决你的问题,请参考以下文章

使用 AWS Glue 爬虫进行智能采样

使用 AWS Glue 从 S3 读取动态 DataTpes

AWS Glue输出文件名

AWS Glue 数据目录,具有 S3 文件上的分区表和分区中的不同架构

从aws glue pyspark作业中的s3加载JSON

AWS Glue 输出文件名