FlinkFlink keyed State多年的误解 以及 Keyed state redistribute

Posted 九师兄

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了FlinkFlink keyed State多年的误解 以及 Keyed state redistribute相关的知识,希望对你有一定的参考价值。


1.概述

首先说说我对flink key state 多年的误解。以前我一直以为key State是类似这样的


假设数据如上,我原先以为当数据经过key的时候,流经下游的时候,数据是在下游根据key分组,如果key不存在,那么就增加一个key,如果存在,那么就放到一起,然后计算存储一个state,因此key state 每个不同的key之间是隔离的。

我这里错误的理解每个key在每个算子的每个并行度的task上,都会有一份或者平分,key1在

以上是关于FlinkFlink keyed State多年的误解 以及 Keyed state redistribute的主要内容,如果未能解决你的问题,请参考以下文章

FlinkFlink Inconsistent execution state after stopping with savepoint

FlinkFlink 通过 State Processor API 实现状态的读取和写入

FlinkFlink RocksDB内存占用一直增大 state.backend.rocksdb.memory.managed

FlinkFlink Unable to commit transaction an invalid state aborted for some reasone

FlinkFlink 状态恢复报错 StateMigrationException For heap backendsthe new state serializer must not be

FlinkFlink中Key Groups与最大并行度