是否有任何 Apache Kafka 消费者滞后检查器?

Posted

技术标签:

【中文标题】是否有任何 Apache Kafka 消费者滞后检查器?【英文标题】:Are there any Apache Kafka consumer lag checker? 【发布时间】:2015-11-24 04:37:01 【问题描述】:

我的 Kafka 消费者将他们的偏移量提交给 Kafka(而不是 Zookeeper),所以我不能使用 Kafka Manager。

Burrow 很棒,但是,我不能在我们的生产环境中使用 Go。 :(

所以我想知道除了上述两个之外还有任何 Apache Kafka 消费者滞后检查器吗?我用谷歌搜索了它,但没有找到太多有用的信息。提前致谢!

【问题讨论】:

如果您向他们提供二进制文件,谁会知道您正在使用 Go。说它是 C++ :) 【参考方案1】:

您可以使用 Remora https://github.com/zalando-incubator/remora。它是一个可以与您的 kafka 一起部署的应用程序

【讨论】:

请注意 remora 页面上 Inspiration 的评论。也许你不想再挖洞了。 免责声明:相关贡献者【参考方案2】:

不完全一样,但可以用来监控延迟。

https://github.com/quantifind/KafkaOffsetMonitor

Topic position

【讨论】:

我以前听说过这个,不知道它已经更新为支持存储在 kafka 中的偏移量。会试试的,谢谢!【参考方案3】:

每个 Kafka Consumer 实例还提供 records-lag-max JMX 指标。

因此,您可以通过访问 MBean Server 直接从您的应用程序中或远程监控它。

【讨论】:

以上是关于是否有任何 Apache Kafka 消费者滞后检查器?的主要内容,如果未能解决你的问题,请参考以下文章

Kafka Consumer Lag Monitoring

分区数量超过消费者时的 Apache Kafka 消息消费

Apache Kafka 是不是适合用作无序任务队列?

使用 Spring-kafka 在 GC/消费者重新平衡时清理 Kafka Metric 计量器

burrow+telegraf+Grafana实现Kafka Consumer Lag监控

避免apache kafka消费者重复消息的有效策略