4个步骤让 Flink 应用程序达到生产状态

Posted @SmartSi

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了4个步骤让 Flink 应用程序达到生产状态相关的知识,希望对你有一定的参考价值。

传送门:Flink 系统性学习笔记


这篇文章阐述了 Flink 应用程序达到生产状态所必须的配置步骤。在以下部分中,我们介绍了在 Flink 作业达到生产状态之前技术领导、DevOps、工程师们需要仔细考虑的重要配置参数。Flink 为大多数配置选项都提供了开箱即用的默认选项,在许多情况下它们是 POC 阶段(概念验证)或探索 Flink 不同 API 和抽象的很好的起点。

然而,将 Flink 应用程序投入生产还需要额外的配置,这些配置可以高效地扩展应用程序规模,使其达到生产状态,并能与不同系统要求,Flink 版本,连接器等兼容,以保证未来迭代和升级。

下面是我们收集的需要在 Flink 应用上线前检查的一些配置点:

1. 明确定义 Flink 算子的最大并发度

Flink 的 KeyedState 是由 key group 进行组织,然后分发到 Flink 算子的各个并发实例上。这是分发的最小原子单元,因此也会影响 Flink 应用程序的可伸缩性。作业的每个算子的 key group 个数只能设置一次,可以手动配置或者直接使用默认配置。默认值粗略地使用 operatorParallelism * 1.5,下限 128,上限 32768 。可以通过

以上是关于4个步骤让 Flink 应用程序达到生产状态的主要内容,如果未能解决你的问题,请参考以下文章

Flink 系统性学习笔记系列

4个步骤,让您的Flink应用程序准备好生产

分页上限和下限

实时数仓Flink生产环境部署+提交作业步骤

实时数仓Flink生产环境部署+提交作业步骤

实时数仓Flink生产环境部署+提交作业步骤