FlinkFlink 模拟 kafka 消费重启后 能接着读取 保存状态信息

Posted 九师兄

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了FlinkFlink 模拟 kafka 消费重启后 能接着读取 保存状态信息相关的知识,希望对你有一定的参考价值。

1.概述

参考视频教程:

P61 60需求-使用OperatorState的记录文件偏移量
15:14

P62 61自定义并行Source并结合OperatorState
30:34

P63 62深入理解OperatorState 46:46

我们想做一个程序,来模拟kafka读取时数据。
假设一个目录下我们有一些文件

[lcc@lcc ~/temp/file]$ ll
-rw-r--r--  1 lcc  staff   14  8 

以上是关于FlinkFlink 模拟 kafka 消费重启后 能接着读取 保存状态信息的主要内容,如果未能解决你的问题,请参考以下文章

FLinkFlink 消费 kafka 消费组 死掉 Marking the coordinator dead for group 造成数据重复消费

FlinkFlink 消费 kafka 实现 限流处理 RateLimiter

FLinkFLink 消费 kafka 报错 Selector Close Connection Null NetworkReceive OOM 内存溢出

FlinkFlink Kafka 消费卡死 消费组卡死 topic无写入 实际有数据 topic正常

FlinkFlink 消费 kafka retries和retry.backoff.ms 引起问题

FlinkFlink1.12.0 FlinkSQL消费Kafka 使用 temporal join 关联维表Hive 最新分区数据 join 不上