从0到1Flink的成长之路(二十)-Flink 高级特性之什么是状态
Posted 熊老二-
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了从0到1Flink的成长之路(二十)-Flink 高级特性之什么是状态相关的知识,希望对你有一定的参考价值。
什么是状态
state-fault
先回顾一下到底什么是 state,流式计算的数据往往是转瞬即逝, 当然,真实业务场景不可能说所有的数据都是进来之后就走掉,没有任何东西留下来,那么留下来的东西其实就是称之为state,中文可以翻译成状态。
在下面这个图中,所有的原始数据进入用户代码之后再输出到下游,如果中间涉及到 state 的读写,这些状态会存储在本地的 state backend(可以对标成嵌入式本地 kv 存储)当中。
状态分类
working-with-state
1.组织形式划分
转态State存在的两种形式(Forms):Managed(管理)和Raw(原始)。
从Flink是否接管角度,状态可以分为:
ManagedState(托管状态)
RawState(原始状态)
两者的区别如下:
- 从状态管理方式的方式,Managed State 由 Flink Runtime 管理,自动存储,自动恢复,在内存管理上有优化;而 Raw State 需要用户自己管理,需要自己序列化,Flink不知道 State中存入的数据是什么结构,只有用户自己知道,需要最终序列化为可存储的数据结构。
- 从状态数据结构来说,Managed State 支持已知的数据结构,如 Value、List、Map 等。而Raw State只支持字节数组 ,所有状态都要转换为二进制字节数组才可以。
- 从推荐使用场景来说,Managed State 大多数情况下均可使用,而 Raw State 是当
Managed State 不够用时,比如需要自定义 Operator 时,才会使用 Raw State。
在实际生产中,都只推荐使用ManagedState,后续将围绕该话题进行讨论。
2 基本类型划分
Flink中有两种基本的状态:Keyed State 和 Operator State。
Managed State 分为两种:Keyed State 和 Operator State ,Raw State都是Operator State。
Keyed State
在Flink Stream模型中,Datastream 经过 keyBy 的操作可以变为 KeyedStream。
Keyed State是基于KeyedStream上的状态,这个状态是跟特定的key绑定的,对KeyedStream流上的每一个key,都对应一个state,如stream.keyBy(…)。 keyBy之后的State,可以理解为分区过的State,每个并行keyed Operator的每个实例的每个
key都有一个Keyed State,即<parallel-operator-instance,key>就是一个唯一的状态,由于每个key属于一个keyed Operator的并行实例,可以将其简单的理解为<operator,key>。
Operator State
这里的fromElements会调用FromElementsFunction的类,其中就使用了类型为 list state 的operator state。
Operator State又称为 non-keyed state,与Key无关的State,每一个 operator state 都仅与一个 operator 的实例绑定。Operator State 可以用于所有算子,但一般常用于 Source。
以上是关于从0到1Flink的成长之路(二十)-Flink 高级特性之什么是状态的主要内容,如果未能解决你的问题,请参考以下文章
从0到1Flink的成长之路(二十)-Flink 高级特性之状态分类
从0到1Flink的成长之路(二十)-Flink 高级特性之Flink 状态管理
从0到1Flink的成长之路(二十)-Flink 高级特性之 Flink 容错机制