即使存在日志,Kafka经纪人也会关闭

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了即使存在日志,Kafka经纪人也会关闭相关的知识,希望对你有一定的参考价值。

当我看到此错误消息时:

ERROR关闭代理,因为/ tmp / kafka-logs中的所有日志目录都已失败(kafka.log.LogManager)

第一个想法是“好吧/tmp目录可能已被O / S(linux)清除 - 所以我应该更新kafka配置指向永久的东西。但是目录存在并且没有被擦除:

ll /tmp/kafka-logs/
total 20
drwxrwxr-x  2 ec2-user ec2-user   38 Apr  7 16:56 __consumer_offsets-0
drwxrwxr-x  2 ec2-user ec2-user   38 Apr  7 16:56 __consumer_offsets-7
drwxrwxr-x  2 ec2-user ec2-user   38 Apr  7 16:56 __consumer_offsets-42
..
drwxrwxr-x  2 ec2-user ec2-user   38 Apr  7 16:56 __consumer_offsets-32
drwxrwxr-x  2 ec2-user ec2-user  141 Apr 12 02:49 flights_raw-0
drwxrwxr-x  2 ec2-user ec2-user  178 Apr 12 08:25 air2008-0
drwxrwxr-x  2 ec2-user ec2-user  141 Apr 12 13:38 testtopic-0
-rw-rw-r--  1 ec2-user ec2-user 1244 Apr 17 22:29 recovery-point-offset-checkpoint
-rw-rw-r--  1 ec2-user ec2-user    4 Apr 17 22:29 log-start-offset-checkpoint
-rw-rw-r--  1 ec2-user ec2-user 1248 Apr 17 22:30 replication-offset-checkpoint

那么这实际意味着什么呢,为什么会发生这种情况以及应该采取什么措施来纠正/避免错误呢?

答案

related question最佳答案建议删除Kafka /tmp/kafka-logs和Zookeper /tmp/zookeeper的日志目录。

可能是因为Kafka issue于2018年8月解决了。

希望这会有所帮助。

以上是关于即使存在日志,Kafka经纪人也会关闭的主要内容,如果未能解决你的问题,请参考以下文章

Kafka详细的设计和生态系统

滚动升级Kafka时出错

即使代码在 try/catch 块中,我也会不断收到异常 [关闭]

日志中经常看到的Kafka FETCH_SESSION_ID_NOT_FOUND

即使光标关闭,Psycopg 请求也会挂起

Apache Kafka教程:主题复制