使用 Kerberized Kafka 配置 Hortonworks NiFI

Posted

技术标签:

【中文标题】使用 Kerberized Kafka 配置 Hortonworks NiFI【英文标题】:Konfiguring Hortonworks NiFI with kerberized Kafka 【发布时间】:2016-05-28 14:42:02 【问题描述】:

我一直在尝试将 HDF 1.2.0 Nifi 配置为与 kerberized Kafka 一起使用,但无济于事。这是我的 zookeeper-jaas.conf:

Client 
com.sun.security.auth.module.Krb5LoginModule required
useKeyTab=true
keyTab="./conf/user.keytab"
storeKey=true
useTicketCache=false
principal="user@REALM.COM”;
;
KafkaClient 
com.sun.security.auth.module.Krb5LoginModule required
useTicketCache=true
renewTicket=true
serviceName="kafka"
useKeyTab=true
keyTab="./conf/user.keytab"
principal="user@REALM.COM";
;

启动 PutKafka 处理器时出现错误:

Caused by: java.io.IOException: Configuration Error:
Line 8: expected [option key]
at sun.security.provider.ConfigFile$Spi.ioException(ConfigFile.java:666) ~[na:1.8.0_66]
at sun.security.provider.ConfigFile$Spi.match(ConfigFile.java:562) ~[na:1.8.0_66]
at sun.security.provider.ConfigFile$Spi.parseLoginEntry(ConfigFile.java:477) ~[na:1.8.0_66]
at sun.security.provider.ConfigFile$Spi.readConfig(ConfigFile.java:427) ~[na:1.8.0_66]
at sun.security.provider.ConfigFile$Spi.init(ConfigFile.java:329) ~[na:1.8.0_66]
at sun.security.provider.ConfigFile$Spi.init(ConfigFile.java:227) ~[na:1.8.0_66]
at sun.security.provider.ConfigFile$Spi.access$000(ConfigFile.java:115) ~[na:1.8.0_66]
at sun.security.provider.ConfigFile$Spi$1.run(ConfigFile.java:180) ~[na:1.8.0_66]
at sun.security.provider.ConfigFile$Spi$1.run(ConfigFile.java:169) ~[na:1.8.0_66]
at java.security.AccessController.doPrivileged(Native Method) ~[na:1.8.0_66]
at sun.security.provider.ConfigFile$Spi.<init>(ConfigFile.java:169) ~[na:1.8.0_66]
at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method) ~[na:1.8.0_66]
at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:62) ~[na:1.8.0_66]
at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:45) ~[na:1.8.0_66]
at java.lang.reflect.Constructor.newInstance(Constructor.java:422) ~[na:1.8.0_66]
at java.security.Provider$Service.newInstance(Provider.java:1609) ~[na:1.8.0_66]
... 26 common frames omitted

我已经添加了

authProvider.1=org.apache.zookeeper.server.auth.SASLAuthenticationProvider
jaasLoginRenew=3600000
requireClientAuthScheme=sasl

到 zookeeper.properties 文件。也将其设置为 bootstrap.conf

java.arg.15=-Djava.security.auth.login.config=./conf/zookeeper-jaas.conf

我已经检查了zookeeper-jaas.conf 很多次,但无法识别错误。任何指针将不胜感激。

【问题讨论】:

【参考方案1】:

HDF 1.2 不支持 0.9 版本中出现的 Apache Kafka kerberos 支持。然而。

【讨论】:

【参考方案2】:

看起来这是文件中的语法错误,不确定究竟是什么。通过重新创建它的工作内容,这似乎是一个空格或其他一些字符是错误的原因。

【讨论】:

以上是关于使用 Kerberized Kafka 配置 Hortonworks NiFI的主要内容,如果未能解决你的问题,请参考以下文章

filebeat + kafka +ELK集群实验

filebeat + kafka +ELK集群实验

filebeat + kafka +ELK集群实验

ranger-kafka插件

filebeat + kafka +ELK集群实验

使用Solrj Api和Kerberized Solr创建Solr客户端