第三十七课 Spark之Task执行原理及结果
Posted sinat_25306771
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了第三十七课 Spark之Task执行原理及结果相关的知识,希望对你有一定的参考价值。
主要内容
1. Task执行原理流程图
2. Task执行源码
3. Task执行结果在Driver端的处理
一、Task在Executor(worker)端执行及返回Driver流程图
图37-1 Driver端与Executor交互图
二、Executor(worker)端执行源码解析
1.接收Driver端发来的消息
当Driver中的SchedulerBackend给ExecutorBackend发送LaunchTask之后,ExecutorBackend在接收到LaunchTask消息后,首先反序列化TaskDescription。
& StandAlone下为SchedulerBackend具体指CoarseGrainedSchedulerBackend,ExecutorBackend指CoarseGrainedExecutorBackend。
以上是关于第三十七课 Spark之Task执行原理及结果的主要内容,如果未能解决你的问题,请参考以下文章