Spark 2.0 作为 HortonWorks 集群中的技术预览

Posted

技术标签:

【中文标题】Spark 2.0 作为 HortonWorks 集群中的技术预览【英文标题】:Spark 2.0 as Technical Preview in HortonWorks Cluster 【发布时间】:2016-09-19 07:14:33 【问题描述】:

我们计划在即将到来的项目中使用HortonWorks Cluster。

我可以从 HortonWorks 网站上看到 Spark 1.6.2 是完全支持的版本,Spark 2.0 是技术预览版。

技术预览是什么意思?我们可以将其用于开发和生产工作吗?

【问题讨论】:

为什么不自己部署 Spark 2?唯一的缺点是如果您向 Hortonworks 提交工单,则不支持它 【参考方案1】:

在你严格限制为Horton works HDP 2.5版本的情况下。新发布的 Spark 2.0.0 于 2016 年 7 月在 2.5.0 的技术预览版中引入。

将其投入生产不是一个好主意(.0 效应)。但是,在 HDP 2.5.3 中,Spark 的 2.0.1 版本在技术预览版中发布。我认为你必须使用这个版本。

无论如何,如果您可以升级到 HPD 2.6,请不要犹豫,捆绑包中有 Spark 2.1.0。

【讨论】:

以上是关于Spark 2.0 作为 HortonWorks 集群中的技术预览的主要内容,如果未能解决你的问题,请参考以下文章

Hortonworks 中有关纱线的字数示例失败

独一无二 hortonworks spark 源码编译教程

无法将 Spark 与 Eclipse 中的 Hortonworks Sandbox 连接

使用 Kerberized Kafka 配置 Hortonworks NiFI

在 Oozie-Spark 动作中添加多个罐子

在 Spark 2.0 中从 AVRO 写入镶木地板时出现 NullPointerException