Spark 内存管理
Posted ronnieyuan
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark 内存管理相关的知识,希望对你有一定的参考价值。
Spark 内存管理
Spark 执行应用程序时, 会启动 Driver 和 Executor 两种 JVM 进程
- Driver 负责创建 SparkContext 上下文, 提交任务, task的分发等。
- Executor 负责 task 的计算任务, 并将结果返回给 Driver, 同时需要为需要持久化的 RDD 提供储存。
- Driver 端的内存管理比较简单, 这里说的 Spark内存管理针对 Executor 端的内存管理。
- Spark 内存管理分为 静态内存管理 和 统一内存管理, Spark1.6 之前使用的是静态内存管理, Spark1.6 之后引入了统一内存管理。
- 静态内存管理中存储内存、执行内存和其他内存的大小在 Spark 应用程序运行期间均为固定的, 但用户可以在应用程序启动前进行配置。
- 统一内存管理与静态内存管理的区别在于存储内存和执行内存共享同一块空间, 可以互相借用对方的空间。
- Spark1.6 及 1.6 之后的版本默认使用的是统一内存管理。
- 要想使用静态内存可以通过将参数 spark.memory.useLeagacyMode 设置为 true(默认为 false) 使用静态内存管理。
静态内存管理分布图
统一内存管理分布图
reduce 中 OOM(Out Of Memory) 如何处理?
- 减少每次拉取的数据量
- 提高 shuffle 聚合的内存比例
- 提高 Executor 的总内存
以上是关于Spark 内存管理的主要内容,如果未能解决你的问题,请参考以下文章