Hadoop编写一键集群全起start-cluster.sh全关stop-cluster.sh显示所有jps进程show-jps.sh脚本 以及解决方案

Posted TinyMark

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Hadoop编写一键集群全起start-cluster.sh全关stop-cluster.sh显示所有jps进程show-jps.sh脚本 以及解决方案相关的知识,希望对你有一定的参考价值。

 

 

 

 

一、首先进入:/usr/local/bin 文件夹下,编写start-cluster.sh脚本

vim start-cluster.sh              (需要root权限) 面的各个节点的信息根据自身情况进行修改

#!/bin/bash
user=`whoami`

echo "===============     开始启动所有节点服务        ==============="
for((host=102; host<=104; host++)); do
                echo "--------------- hadoop$host Zookeeper...... ----------------"
        ssh $user@hadoop$host \'/opt/module/zookeeper-3.4.10/bin/zkServer.sh start\'
done

echo "================    正在启动HDFS                ==============="
ssh $user@hadoop102 \'/opt/module/hadoop-2.7.2/sbin/start-dfs.sh\'

echo "================    正在启动YARN                ==============="
ssh $user@hadoop102 \'/opt/module/hadoop-2.7.2/sbin/start-yarn.sh\'

echo "================ hadoop102正在启动JobHistoryServer  ==============="
ssh $user@hadoop102 \'/opt/module/hadoop-2.7.2/sbin/mr-jobhistory-daemon.sh start historyserver\'

保存,退出。修改执行权限 chmod 777 start-cluster.sh (或者u+x)运行:

二、编写stop-cluster.sh

#!/bin/bash
user=`whoami`
echo "================     开始停止所有节点服务        ==============="
echo "================ hadoop102正在停止JobHistoryServer  ==============="
ssh $user@hadoop102 \'/opt/module/hadoop-2.7.2/sbin/mr-jobhistory-daemon.sh stop historyserver\'

echo "================    正在停止YARN                ==============="
ssh $user@hadoop102 \'/opt/module/hadoop-2.7.2/sbin/stop-yarn.sh\'

echo "================    正在停止HDFS                ==============="
ssh $user@hadoop102 \'/opt/module/hadoop-2.7.2/sbin/stop-dfs.sh\'

echo "===============     正在停止Zookeeper......     ==============="
for((host=102; host<=104; host++)); do
        echo "--------------- hadoop$host Zookeeper...... ----------------"
        ssh $user@hadoop$host \'/opt/module/zookeeper-3.4.10/bin/zkServer.sh stop\'
done

修改执行权限:chmod 777 stop-cluster.sh

 

 三、编写show-jps.sh

#!/bin/bash
for((host=102; host<=104; host++)); do
                echo "================  hadoop$host JPS  ====================="
        ssh hadoop$host "jps"
done

 修改权限,运行

 

 注意:如果仅仅是编辑以上的脚本的话启动时是看不到其它主机的信息的,因为他们找不到Java里的jps路径,因此我们必须要去创建软连接:

 

sudo ln -s /opt/module/jdk1.8.0_144/bin/jps /usr/local/bin/jps

 

显示为

 

 再在每个节点的这个位置手动设置软链接!不设置软连接便会出现如下情况!

 

 设置好每个节点的软链接

 

 注:编写的脚本群起zookeeper服务,显示started但是jps不显示相应QuorumPeerMain进程解决方案:

在/opt/module/zookeeper-3.4.10/bin目录下的zkEnv.sh文件

在开头加上你的JAVA_HOME路径如下:

 

 

 再分发到各个节点:xsync zkEnv.sh

一切就大功告成!如有哪儿不懂可以加我的群哦!875910806

以上是关于Hadoop编写一键集群全起start-cluster.sh全关stop-cluster.sh显示所有jps进程show-jps.sh脚本 以及解决方案的主要内容,如果未能解决你的问题,请参考以下文章

hadoop记录-flink测试

基于Docker一键部署大规模Hadoop集群及设计思路

使用 docker 一键搭建 hadoop,hbase, hive 等大数据集群

使用 docker 一键搭建 hadoop,hbase, hive 等大数据集群

使用 docker 一键搭建 hadoop,hbase, hive 等大数据集群

使用 docker 一键搭建 hadoop,hbase, hive 等大数据集群