系统运维系列 之Kafka查询不到正在消费的的消费组信息

Posted 2021-12-16 琅晓琳

1 问题背景
【怪怪怪】
目前消费者组正常消费，但是通过kafka manager监测不到consumer组的消费信息；前期出现的问题是一台Kafka的服务器down掉，连接不上集群，是不是和这个现象有关系呢？

2 排查思路
【期待解决】
2.1 详细解析 kafka manager 的使用
在添加Clusters时需要注意几个参数问题：
Enable JMX Polling：
是否开启 JMX 轮训，该部分直接影响部分 kafka broker 和 topic 监控指标指标的获取，例如每秒流入的消息数，每秒流入的字节数等。
Poll consumer information：
是否开启获取消费信息，直接影响能够在消费者页面和 topic 页面查看消费信息。
Enable Active OffsetCache：
是否开启 offset 缓存，决定 kafka-manager 是否缓存住 topic 的相关偏移量。

2.2 kafka 从zookeeper查询不到要的消费组信息原因解答
查看消费组信息使用如下命令：

./kafka-consumer-groups.sh --zookeeper ip:2181 --list

问题：查询不到消费组的信息；原因分析：从kafka-0.9版本及以后，kafka的消费者组和offset信息就不存zookeeper了，而是存到broker服务器上。
使用下面的命令查询消费组的信息：

/bin/kafka-consumer-groups.sh --bootstrap-server ip:9092 --list

参考资料：
https://www.cnblogs.com/kebibuluan/p/13857895.html 详细解析 kafka manager 的使用
https://blog.csdn.net/yuzuyi2006/article/details/80819104?utm_medium=distribute.pc_relevant.none-task-blog-2_defaultbaidujs_baidulandingword~default-0.essearch_pc_relevant&spm=1001.2101.3001.4242.1 kafka 从zookeeper查询不到要的消费组信息原因解答