除了在hadoop集群中设置的时间之外,如何为长时间运行的应用程序更新委托令牌

Posted

技术标签:

【中文标题】除了在hadoop集群中设置的时间之外,如何为长时间运行的应用程序更新委托令牌【英文标题】:How to renew a delegation token for a long running applications besides the time set in the hadoop cluster 【发布时间】:2016-07-05 19:27:28 【问题描述】:

我有一个在我的 Hadoop 环境中运行的 Apache Apex 应用程序。

我对应用程序没有任何问题,只是 7 天后它失败了。而且,我意识到这是因为任何应用程序的集群级别设置。

有什么办法,我可以每隔一段时间定期更新委托令牌,以确保作业连续运行而不会失败!!

我可以在网上找到有关如何更新 hdfs 委托令牌的任何资源!!有人可以分享您的知识吗?

【问题讨论】:

【参考方案1】:

Apex documentation 中提到了该问题。 它还详细提供了2个解决方案。 Hadoop 系统的非侵入式方法是选择“自动刷新方法”。 基本上你需要将你的 keytab 文件复制到 HDFS 并配置

<property>
    <name>dt.authentication.store.keytab</name>
    <value>hdfs-path-to-keytab-file</value>
</property>

在您的 dt-site.xml 中。

HTH

【讨论】:

以上是关于除了在hadoop集群中设置的时间之外,如何为长时间运行的应用程序更新委托令牌的主要内容,如果未能解决你的问题,请参考以下文章

如何为大数据处理构建高性能Hadoop集群

如何为大数据处理构建高性能Hadoop集群

如何为Hadoop集群选择正确的硬件

Java:计算 java.util.BitSet 中设置的位数

如何通过默认使用已在数据库中设置的值来防止“未定义索引”? [复制]

Hadoop集群搭建步骤