运行 EMR Spark 脚本,Spark UI SQL 选项卡消失

Posted

技术标签:

【中文标题】运行 EMR Spark 脚本,Spark UI SQL 选项卡消失【英文标题】:Running an EMR Spark script, and the Spark UI SQL tab disappears 【发布时间】:2016-03-03 22:43:55 【问题描述】:

在本地模式下运行 spark sql 作业时,我的 Spark UI 有一个 SQL 选项卡。

在 AWS EMR 上运行相同的作业时,Spark UI 的 SQL 作业不再存在?

我已经建立了 SSH 隧道 设置 FoxyProxy 设置 可以在浏览器中查看各种 EMR 用户界面 可以在浏览器中查看 Spark UI

Amazon 的 EMR 版本的 Spark UI 中没有此功能是否存在代码原因?

【问题讨论】:

【参考方案1】:

EMR 中的 Spark 有两种不同的 UI:1. Spark UI 和 2. Spark History Server。

它们看起来相同,但从不同的 URL 提供服务,并且即使在应用程序完成后,只要 EMR 集群仍在运行,它们中的一个仍会继续提供服务。

历史服务器 AFAIK 没有 SQL 选项卡

【讨论】:

以上是关于运行 EMR Spark 脚本,Spark UI SQL 选项卡消失的主要内容,如果未能解决你的问题,请参考以下文章

EMR:Spark 应用程序在引导时可用吗?

在 EMR 集群中运行 Spark 应用程序时在哪里指定 Spark 配置

在 EMR 上运行 Spark 应用程序很慢

在 AWS EMR 中使用 spark-submit 启动 Python 应用程序

在 AWS EMR 上运行 Spark 应用程序

在 EMR 上运行 python spark