spark集群部署错误告警随记

Posted 云里有棵树

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark集群部署错误告警随记相关的知识,希望对你有一定的参考价值。

1,Error: Could not find or load main class namenode-format

这个是错误的把hadoop namenode -format 命令写成hadoop namenode-format

2,  WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

在/etc/profile中加上这两句

export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib:$HADOOP_COMMON_LIB_NATIVE_DIR"

以上是关于spark集群部署错误告警随记的主要内容,如果未能解决你的问题,请参考以下文章

Spark部署在Yarn集群

Spark部署在Yarn集群

Spark部署在Yarn集群

Spark 集群部署模式概述

Spark部署模式

Hadoop2.2集群安装配置-Spark集群安装部署