flinkflink 消费组死掉 Lag不变 kafka不提交 重启恢复 非常诡异

Posted 九师兄

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了flinkflink 消费组死掉 Lag不变 kafka不提交 重启恢复 非常诡异相关的知识,希望对你有一定的参考价值。


1.场景1

1.1 钙素

是这样的,我有一个环境,遇到一个这样的现象,flink任务运行了 13天了,然后看消费组状态的时候 发现lag很大 多次查看都一样

然后重启了一下任务,消费组没改,然后lag变成 一百以内了,关键是

  1. 没改消费组
  2. 没有checkpoint 就是普通的额流任务
  3. 数据写入曲线正常

以上是关于flinkflink 消费组死掉 Lag不变 kafka不提交 重启恢复 非常诡异的主要内容,如果未能解决你的问题,请参考以下文章

kafkakafka 查看 GroupCoordinator 以及 kafka Group dead 消费组死掉 以及 GroupCoordinatorRequest 使用

kafkakafka 判断消费组死掉方案 group dead

FlinkFlink使用默认的connector无法指定ConsumerRebalanceListener

kafkakafka 查看 GroupCoordinator

kafkakafka 执行 多个脚本 kafka-run-class.sh 导致 server 节点 时不时挂掉

FlinkFlink Starting Offset 启动消费位置 指定时间消费