《深入理解Spark-核心思想与源码分析》第三章存储体系

Posted 牛顿

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了《深入理解Spark-核心思想与源码分析》第三章存储体系相关的知识,希望对你有一定的参考价值。

天行健,君子以自强不息;地势坤,君子以厚德载物。——《易经》

本章导读

  Spark的初始化阶段、任务提交阶段、执行阶段,始终离不开存储体系。

  Spark为了避免Hadoop读写磁盘的I/O操作成为性能瓶颈,优先将配置信息、计算结果等数据存入内存,极大的提升了系统的执行效率。

4.1 存储体系的概述

  4.1.1 块管理器BlockManager的实现

 

以上是关于《深入理解Spark-核心思想与源码分析》第三章存储体系的主要内容,如果未能解决你的问题,请参考以下文章

《深入理解SPARK:核心思想与源码分析》——SparkContext的初始化(中)

Spark中经常使用工具类Utils的简明介绍

《深入理解Spark-核心思想与源码分析》第二章Spark设计理念和基本架构

TaskScheduler的启动

《深入理解Spark-核心思想与源码分析》第五章任务提交与执行

SparkContext的初始化(叔篇)——TaskScheduler的启动