.net Kafka.Client多个Consumer Group对Topic消费不能完全覆盖研究总结

Posted 2020-09-17

依据Partition和Consumer的Rebalance策略，找到Kafka.Client Rebalance代码块，还原本地环境，跟踪调试，发现自定义Consumer Group 的Consumer并没有分配到PartionID,如下图、

据此，基本就可以定位到不同组Consumer无法覆盖Partition的问题根源了。

仔细阅读Rebalance代码，发现Kafka.Client 在获取consumer时，并没有根据Group做筛选，获取到的是所有组的Consumer，如下图

（此处只有两个不同组的Consumer类型，每个Consumer会生成五个ConsumerThreadID，用于覆盖partition）

定位curConsumer变量，从consumerPerTopicMap中获取，找到consumerPerTopicMap的实现

此处确实没有过滤

增加group过滤代码。问题解决。