集群模式下的 Trafodion 与 spark

Posted

技术标签:

【中文标题】集群模式下的 Trafodion 与 spark【英文标题】:Trafodion in cluster mode with spark 【发布时间】:2016-10-26 09:41:27 【问题描述】:

我用 trafodion 开发了 spark 应用程序。当使用 spark-submit 命令使用--master local[*] 模式运行应用程序时,它工作正常并且数据正确插入到数据库中。但是当我在--master yarn 集群模式下运行相同的应用程序时,它没有运行。它给出了错误:

ERROR[29716] 写入证书文件时出错 /home/hadoop-testing-M3_yarn.cer.

ERROR[29716] 写入证书文件时出错 /home/hadoop-testing-M1_yarn.cer.

ERROR[29716] 写入证书文件时出错 /home/hadoop-testing-M2_yarn.cer.

我们有 3 节点集群,在集群模式下运行 trafodion 时出现此错误。

谁能告诉我如何解决这个问题?

【问题讨论】:

【参考方案1】:

这个错误是由于 yarn 用户没有对 /home 的写权限。您可以通过在 jdbc url 中指定 yarn 用户具有权限的目录来覆盖默认位置

"jdbc:t4jdbc://:23400/:certificateDir=/tmp"

【讨论】:

URL 应包含主机名和端口号“jdbc:t4jdbc://serverHostname:23400/:certificateDir=/tmp”

以上是关于集群模式下的 Trafodion 与 spark的主要内容,如果未能解决你的问题,请参考以下文章

浅析Trafodion体系结构

Trafodion 安装错误:运行 traf_start 时出错

redis集群介绍与搭建(主从哨兵cluster集群)!

redis集群介绍与搭建(主从哨兵cluster集群)!

mq消息消费

就publish/subscribe功能看redis集群模式下的队列技术