如何将 mrjob EMR 指向正确的 AWS 账户?我不断收到 ssh 密钥无效消息

Posted

技术标签:

【中文标题】如何将 mrjob EMR 指向正确的 AWS 账户?我不断收到 ssh 密钥无效消息【英文标题】:How do you point mrjob EMR to the right AWS account? I keep getting a ssh key invalid message 【发布时间】:2018-07-27 18:51:39 【问题描述】:

我已经这样设置了 .mrjob.conf(密码已更改):

runners: emr: aws_access_key_id: JKDJKAJSLKJAFKLJ aws_secret_access_key: RKLJDKAS/KLASJKFJKSJAKSALLKLKS ec2_key_pair: me-east ec2_key_pair_file: /Users/me/.ssh/me-east.pem ssh_tunnel: true

然后我在本地机器上运行它: python my_script.py -r emr my_file.txt

它创建了一个集群,但随后通过以下消息取消:

Cluster j-7DI32SQ1R061 is TERMINATING: The given SSH key name was invalid Step 1 of 1 failed Terminating cluster: j-7DI32SQ1R061

我的 ssh 密钥用于 AWS east-2,所以我也尝试在 .mrjob.conf 中设置它,但没有帮助:

aws_region: us-east-2

对于 AWS east-2 或其他什么,我需要不同的 access_key_id 和 secret_access_key 吗?对这里可能出了什么问题有任何想法吗?

【问题讨论】:

【参考方案1】:

首先,请确保您关注Mrjob SSH key tutorial

如其所述,您是否在 ssh 密钥上运行了 chmod og-rwx /path/to/EMR.pem? 此外,SSH 密钥是特定于区域的,所以是的,您需要保留 aws_region: us-east-2 并确保它是在您的 aws 控制台的同一区域中创建的。

【讨论】:

以上是关于如何将 mrjob EMR 指向正确的 AWS 账户?我不断收到 ssh 密钥无效消息的主要内容,如果未能解决你的问题,请参考以下文章

Mrjob 步骤失败。怎么调试?

EMR [使用 MRJob] 的输入数据如何跨节点分布?

如何在 EMR 上使用 MrJob 0.4.2 设置 IAM 角色

在 EMR 上导入 mrjob 失败

在 emr 上运行 mrjob 脚本的 ssh 密钥无效

sys.stdout.write() 在 MRJOB 映射器中去哪里?