AWS EMR kerberizing 集群 hadoop.security.AccessControlException

Posted

技术标签:

【中文标题】AWS EMR kerberizing 集群 hadoop.security.AccessControlException【英文标题】:AWS EMR kerberizing the cluster hadoop.security.AccessControlException 【发布时间】:2016-06-08 06:30:47 【问题描述】:

我正在尝试对 AWS EMR 集群进行 kerberize。我启用了 hadoop 安全性,创建了 kerberos 主体并将它们部署在所有节点上。

但是,当我使用命令“sudo start hadoop-hdfs-namenode”启动名称节点时,会引发以下异常。

2016-06-08 06:14:06,515 INFO org.apache.hadoop.hdfs.server.blockmanagement.DatanodeDescriptor(主):从 0 到 0 的失败存储更改数 2016-06-08 06:14:06,515 信息 org.apache.hadoop.hdfs.security.token.block.BlockTokenSecretManager (org.apache.hadoop.hdfs.server.blockmanagement.HeartbeatManager$Monitor@ac4860):更新块密钥 2016-06-08 06:14:06,544 INFO org.apache.hadoop.ipc.Server(IPC 服务器响应者):IPC 服务器响应者:开始 2016-06-08 06:14:06,544 INFO org.apache.hadoop.ipc.Server(8020 上的 IPC 服务器监听器):8020 上的 IPC 服务器监听器:开始 2016-06-08 06:14:06,560 INFO org.apache.hadoop.hdfs.server.namenode.NameNode(主):NameNode RPC 在:ip-172-31-21-213.ap-southeast-1.compute .internal/172.31.21.213:8020 2016-06-08 06:14:06,560 INFO org.apache.hadoop.hdfs.server.namenode.FSNamesystem(主):启动活动状态所需的服务 2016-06-08 06:14:06,564 INFO org.apache.hadoop.hdfs.server.blockmanagement.CacheReplicationMonitor (CacheReplicationMonitor(443740501)):以 30000 毫秒的间隔启动 CacheReplicationMonitor 2016-06-08 06:14:06,763 INFO org.apache.hadoop.ipc.Server(端口 8020 的 Socket Reader #1):端口 8020 的 Socket Reader #1:来自客户端 172.31.21.213 的 readAndProcess 抛出异常 [org.apache .hadoop.security.AccessControlException:未启用简单身份验证。可用:[令牌,KERBEROS]] org.apache.hadoop.security.AccessControlException:未启用简单身份验证。可用:[令牌,KERBEROS] 在 org.apache.hadoop.ipc.Server$Connection.initializeAuthContext(Server.java:1564) 在 org.apache.hadoop.ipc.Server$Connection.readAndProcess(Server.java:1520) 在 org.apache.hadoop.ipc.Server$Listener.doRead(Server.java:771) 在 org.apache.hadoop.ipc.Server$Listener$Reader.doRunLoop(Server.java:637) 在 org.apache.hadoop.ipc.Server$Listener$Reader.run(Server.java:608)

请在这方面帮助我。提前致谢。

【问题讨论】:

【参考方案1】:

客户端认为没有启用安全性;它只是尝试使用“简单”身份验证-呼叫者就是他们所说的。服务器将只获取 Kerberos 票证或 Hadoop 委托令牌,该令牌之前由具有有效 Kerberos 票证的调用者获取。

【讨论】:

以上是关于AWS EMR kerberizing 集群 hadoop.security.AccessControlException的主要内容,如果未能解决你的问题,请参考以下文章

我在 AWS 中有一个现有的 EMR 集群。我想从气流运行 dag 到现有的 aws 集群

如何在多个子网上运行 AWS EMR 集群?

AWS EMR 集群在自定义引导时终止

如何将 Spark EMR 集群与 AWS elasticsearch 集群连接起来

带有 cloudformation 的 AWS EMR 集群:如何启用调试

通过AWS EMR降低集群计算成本