在docker中部署Hadoop集群

Posted 绿色600

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了在docker中部署Hadoop集群相关的知识,希望对你有一定的参考价值。

补充说明:

所有命令采用绝对路径;

从本地仓库中拉取镜像,并启动3个容器

进入Master,Slave1,Slave2节点的方式为

docker exec –it master /bin/bash


docker exec –it slave1 /bin/bash


docker exec –it slave2 /bin/bash

1.创建模板机

docker run -itd --name staticIp-privileged --net mynetwork --ip 172.18.0.2 --privileged=true centos:7 /sbin/init


docker ps -a

2.进入模板机

docker exec -it staticIp-privileged /bin/bash

3.开启ssh服务

vim /etc/ssh/sshd_config 

修改以下配置文件

Port 22
PermitLocalCommand no

systemctl start sshd.service
systemctl status sshd.service

显示active(runing)则开启成功

4.设置密码

passwd

5.使用xshell连接宿主机

6.将Hadoop文件通过xftp传输到宿主机中

将文件传输进宿主机的software文件夹中

mdkir  /opt/software

将宿主机为文件拷贝到模板机中

docker cp /opt/software/ staticIp-privileged:/optsoftware/

7.(在主机)将docker虚拟机/docker容器 保存为  docker镜像文件Filex

docker stop staticIp-privileged
docker images
docker commit -m "first docker" staticIp-privileged centos:hadoop
docker images

8.(在主机)使用docker镜像文件filex,创建虚拟机master,slave1,salve2

docker ps -a
docker run -itd --name master --net mynetwork --ip 172.18.0.10 --privileged=true centos:hadoop /sbin/init
docker run -itd --name slave1 --net mynetwork --ip 172.18.0.11 --privileged=true centos:hadoop /sbin/init
docker run -itd --name slave2 --net mynetwork --ip 172.18.0.12 --privileged=true centos:hadoop /sbin/init
docker ps -a

9.Hadoop集群配置工作

以上是关于在docker中部署Hadoop集群的主要内容,如果未能解决你的问题,请参考以下文章

Mac 使用 docker 搭建 kafka 集群 + Zookeeper + kafka-manager

使用 Docker 搭建 Hadoop 集群 和 Spark On Yarn

在docker中部署Hadoop集群

Kafka集群部署(Docker容器的方式)

Docker 下部署hadoop集群

docker部署springboot项目共享宿主机环境