spark stage
Posted xiangyuguan
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark stage相关的知识,希望对你有一定的参考价值。
stage概念
stage切割规则
从后往前,遇到宽依赖就切割stage
stage计算模式
pipeline:是一种计算模式,即管道计算模式
pipeline管道计算模式应用于stage的内部,task在完成RDD之间数据的传递是在内存传输的,而且是一条一条的传输, stage与stage之间会发生落地磁盘
以上是关于spark stage的主要内容,如果未能解决你的问题,请参考以下文章