Flink 启用与配置检查点 Checkpoint

Posted @SmartSi

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Flink 启用与配置检查点 Checkpoint相关的知识,希望对你有一定的参考价值。

传送门:Flink 系统性学习笔记


Flink版本:1.11

Flink 中每个函数和算子都可以是有状态的(请参阅状态分类了解详细信息)。有状态函数在处理单个元素/事件时会存储数据。为了能够使状态可以容错,Flink 需要对状态进行 Checkpoint。Checkpoint 可以允许 Flink 在流中恢复状态以及消费位置。

关于 Flink 容错机制背后的技术请参阅流式容错的详细文档。

1. 前提条件

Flink Checkpoint 机制可以与流和状态的持久化存储进行交互。一般来说,需要:

  • 一个可持久化(或保存很长时间)的数据源:可以重新消费指定时间段的记录。持久化消息队列(例如,Apache Kafka,RabbitMQ,Amazon Kinesis,Google PubSub)或者文件系统(

以上是关于Flink 启用与配置检查点 Checkpoint的主要内容,如果未能解决你的问题,请参考以下文章

Flink新特性之非对齐检查点(unaligned checkpoint)简介

Flink检查点(checkpoint)保存点(savepoint)的区别与联系

Flink 容错机制 Checkpoint 生成与恢复流程

Flink中的Checkpoint和Spark中的Checkpoint区别

Flink中的Checkpoint和Spark中的Checkpoint区别

Flink中的Checkpoint和Spark中的Checkpoint区别