FlinkFlink 记录一个 checkpoint 检查点 越来越大的问题

Posted 九师兄

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了FlinkFlink 记录一个 checkpoint 检查点 越来越大的问题相关的知识,希望对你有一定的参考价值。

文章目录


1.概述

Flink SQL checkpoint越来越大咋么办,从2个G,现在4个G了,增量同步的,窗口是1小时,watermark是6小时,按道理来说,数据量不应该越来越大啊?

在窗口内执行了count(distinct )这些操作。设置了状态的ttl。后端状态存储用的rocksdb。


状态如下

设置了增量的检查点

代码设置不一定有效,需要看实际设置成功了没。这里有才说明你设置成功了

可能和 【Flink系列】- RocksDB增量模式checkpoint大小持续增长的问题及解决

以上是关于FlinkFlink 记录一个 checkpoint 检查点 越来越大的问题的主要内容,如果未能解决你的问题,请参考以下文章

FlinkFlink 使用代码如何主动触发 SavePoint

FlinkFlink 模拟 kafka 消费重启后 能接着读取 保存状态信息

FlinkFLink Task did not exit gracefully within 180 + seconds 未解决

FlinkFLink 设置 TaskManager 端口固定 或者 在一定范围

FlinkFlink 运行报错 does not have any open files

FlinkFlink 自动化检测 Flink 消息处理最慢 Task