Flink 1.13 新版状态后端 StateBackend 详解

Posted @SmartSi

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Flink 1.13 新版状态后端 StateBackend 详解相关的知识,希望对你有一定的参考价值。

传送门:Flink 系统性学习笔记


Flink 1.13.5

在 Flink 1.13 版本之前,StateBackend 提供了三个开箱即用的 StateBackend:MemoryStateBackend、FsStateBackend 以及 RocksDBStateBackend。该版本下的 StateBackend 把状态存储(如何在 TM 上本地存储和访问状态)和 Checkpoint 持久化(Checkpoint 如何持久化状态)笼统的混在一起,导致初学者对此感觉很混乱,很难理解。

为了解决这种混乱的问题,Flink 1.13 版本将之前的 StateBackend 拆分成新的 StateBackend 和 CheckpointStorage 两个功能:

  • 新的 StateBackend 的概念变窄,只描述状态访问和存储,定义状态在 TM 本地存储的位置和方式。
  • CheckpointStorage 描述了 Checkpoint 行为,定义 Checkpoint 的存储位置和方式以进行故障恢复。

为了更好的理解,我们弃用了老的 MemoryStateBackend、FsStateBackend 和 RocksDBStateBackend。StateBackend 的状态存储功能使用 HashMapStateBackend 和 Embedd

以上是关于Flink 1.13 新版状态后端 StateBackend 详解的主要内容,如果未能解决你的问题,请参考以下文章

回顾 | Apache Flink 1.13 新版本 x 互娱实践分享 Meetup · 北京站精彩回顾 (附 PPT 下载)

有状态流处理:Flink 状态后端

有状态流处理:Flink 状态后端

15-flink-1.10.1-flink 状态后端

15-flink-1.10.1-flink 状态后端

15-flink-1.10.1-flink 状态后端