Airflow / MWAA 细节备忘
Posted bluishglc
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Airflow / MWAA 细节备忘相关的知识,希望对你有一定的参考价值。
1. 网络要求
MWAA要求其所处的VPC需要提供至少2个私有子网,否则无法在该VPC中创建MWAA环境。
2. 关闭DAG桶的公共访问
创建MWAA时会要求指定一个S3的桶,用于存放DAG文件,一个新建的普通S3桶默认是不会禁用公共访问权限的,此时创建MWAA环境就会报错:
Unable to check PublicAccessBlock configuration for the account 366020657890: Access Denied (Service: S3Control, Status Code: 403
解决方法就是去S3控制台,找到目标桶,禁用所有的公共访问权限,如下图所示:
3. 配置SSH Operator
SSH Operator是非常基础的一种Operator,在最新的2.2.2版本中,默认已经不再内置SSH Operator,需要单独进行安装,具体操作参考:https://docs.aws.amazon.com/mwaa/latest/userguide/samples-ssh.html
以上是关于Airflow / MWAA 细节备忘的主要内容,如果未能解决你的问题,请参考以下文章
Apache Airflow - 在 AWS MWAA 上解析 SQL 查询很慢
如何在 AWS Managed Workflows for Apache Airflow 中启用 API?