Flink on Yarn 远程 debug 应用提交流程及源码分析
Posted 在IT中穿梭旅行
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Flink on Yarn 远程 debug 应用提交流程及源码分析相关的知识,希望对你有一定的参考价值。
大家好,我是土哥。
今天为大家带来 秒懂 Flink
系列的第 25
篇原创文章 Flink On Yarn per-job
模式的提交流程及源码分析
。文章比较硬核,由于前期部署的 Flink 生态是 Flink 1.13.2
版本,所以下面就通过 Flink 1.13.2
版本进行教学,希望小伙伴们可以快速学会~ 具体内容如下:
- 提交流程
- 代码实现
- 提交命令
- 源码分析
添加博主微信:youzhiqiangshou_02,拉你进几千人大数据交流群,我们一块学习大数据技术
提交流程
1、客户端(入口类 CliFrontend)
⭐1.1 执行启动脚本,进入 CliFrontend 类的 main 方法中,获取 flink conf 目录配置的路径,然后对其进行加载,同时依次添加 3 种客户端类型,并创建 CliFrontend 对象;
⭐1.2 在 main 中执行 parseAndRun 对提交的命令行参数进行解析;
⭐1.3 在解析命令时,根据提交的 run 模式选择对于的run方法,在run方法中选择 FlinkYarnSessionCli 作为客户端;
⭐1.4 在 run 方法中调用 executeProgram 进入用户自定义代码
以上是关于Flink on Yarn 远程 debug 应用提交流程及源码分析的主要内容,如果未能解决你的问题,请参考以下文章
spark远程debug之调试spark on yarn 程序