我设置了.mrjob.conf,如下所示(密码已更改(:
runners:
emr:
aws_access_key_id: JKDJKAJSLKJAFKLJ
aws_secret_access_key: RKLJDKAS/KLASJKFJKSJAKSALLKLKS
ec2_key_pair: me-east
ec2_key_pair_file: /Users/me/.ssh/me-east.pem
ssh_tunnel: true
然后我在本地机器上运行:python my_script.py -r emr my_file.txt
它创建了一个集群,但随后取消,并显示以下消息:
Cluster j-7DI32SQ1R061 is TERMINATING: The given SSH key name was invalid
Step 1 of 1 failed
Terminating cluster: j-7DI32SQ1R061
我的ssh密钥是针对AWS east-2的,所以我也尝试在.mrjob.conf中设置它,但没有帮助:
aws_region: us-east-2
AWS east-2或其他什么需要不同的access_key_id和secret_access_key吗?有什么想法吗?
首先,确保您遵循了Mrjob SSH密钥教程
正如它所说,您是否在ssh密钥上运行了chmod og-rwx /path/to/EMR.pem
?此外,SSH密钥是特定于区域的,所以是的,您需要离开aws_region: us-east-2
,并确保它是在aws控制台的同一区域中创建的。