我们可以使用 lambda 函数克隆一个终止的 emr 集群吗?在新集群中会有任何差异吗?

Posted

技术标签:

【中文标题】我们可以使用 lambda 函数克隆一个终止的 emr 集群吗?在新集群中会有任何差异吗?【英文标题】:Can we clone a terminated emr cluster using lambda function and will there be any dfferences in the new cluster? 【发布时间】:2021-06-30 09:30:33 【问题描述】:

我遇到的答案说使用 lambda boto3 克隆集群并不完全可能。有人说只有通过 aws cli 才有可能。我遇到了 run_job_flow 函数,但它涉及单独传递所有参数。并且无法弄清楚我们如何使用终止的集群以及 run_job_flow 来获得新的克隆。如果可以,请建议我一种方法来做到这一点。谢谢。

【问题讨论】:

【参考方案1】:

选项1:如果您在 AWS 控制台中拥有足够的权限,那么您只需单击一下即可获得一个新集群,正是终止的克隆集群。

我附上截图供你参考。

选项 2:您还可以执行上图中突出显示的 AWS CLI 导出,以便您可以使用命令行使用它们。将 CLI 导出的输出粘贴到一个文件中,然后从有足够权限启动 EMR 的地方运行它。

选项 3: 您还可以编写一个 AWS lambda 函数来负责生成 EMR。你可以在网上找到多个这样的例子。

【讨论】:

ajay 我实际上正在寻找修改后的“选项 3”。我的确切问题可以使用 LAMBDA 进行克隆吗?如果是,请分享过程 大家好,我一直在等待更新。如果可以,请贡献。 不确定clone using lambda 是什么意思。我的理解是,如果你有一个能够启动 EMR 的 lambda,那么多次生成 lambda 与克隆一个终止的 EMR 一样好。 查看***.com/questions/66822699/… 以获取启动 EMR 的示例

以上是关于我们可以使用 lambda 函数克隆一个终止的 emr 集群吗?在新集群中会有任何差异吗?的主要内容,如果未能解决你的问题,请参考以下文章

AWS lambda函数未终止线程

使用 lambda 函数删除关联的 cloudformation 堆栈时 EMR 集群未终止

异步 Lambda 函数:返回 promise 或发送 responseURL 不会终止 CloudFormation 自定义资源调用

python Lambda函数在预定时间后终止实例

面试官:Lambda 表达式中的 forEach 如何提前终止?这次被问倒了!

Python 怎么用代码实现解"复杂的复合函数的值域"类型的数学题?