Flink on Yarn 远程 debug 应用提交流程及源码分析

Posted 在IT中穿梭旅行

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Flink on Yarn 远程 debug 应用提交流程及源码分析相关的知识,希望对你有一定的参考价值。

大家好,我是土哥。

今天为大家带来 秒懂 Flink 系列的第 25 篇原创文章 Flink On Yarn per-job 模式的提交流程及源码分析。文章比较硬核,由于前期部署的 Flink 生态是 Flink 1.13.2 版本,所以下面就通过 Flink 1.13.2 版本进行教学,希望小伙伴们可以快速学会~ 具体内容如下:

  1. 提交流程
  2. 代码实现
  3. 提交命令
  4. 源码分析

添加博主微信:youzhiqiangshou_02,拉你进几千人大数据交流群,我们一块学习大数据技术

提交流程

1、客户端(入口类 CliFrontend)

⭐1.1 执行启动脚本,进入 CliFrontend 类的 main 方法中,获取 flink conf 目录配置的路径,然后对其进行加载,同时依次添加 3 种客户端类型,并创建 CliFrontend 对象;

⭐1.2 在 main 中执行 parseAndRun 对提交的命令行参数进行解析;

⭐1.3 在解析命令时,根据提交的 run 模式选择对于的run方法,在run方法中选择 FlinkYarnSessionCli 作为客户端;

⭐1.4 在 run 方法中调用 executeProgram 进入用户自定义代码

以上是关于Flink on Yarn 远程 debug 应用提交流程及源码分析的主要内容,如果未能解决你的问题,请参考以下文章

FlinkFlink on yarn 远程调试

spark远程debug之调试spark on yarn 程序

Flink学习笔记:搭建Flink on Yarn环境并运行Flink应用

Flink on Yarn三部曲之二:部署和设置

Flink on Yarn三部曲之二:部署和设置

Flink on YARN(下):常见问题与排查思路