Marathon+Mesos+Docker实战

Posted 2020-12-31

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Marathon+Mesos+Docker实战相关的知识，希望对你有一定的参考价值。

Marathon+Mesos+Docker实战

技术分享图片

Apache Mesos概述

Apache Mesos是一款基于多资源调度的开源集群管理套件，使容错和分布式系统更加容易使用实现，采用Master/Slave结构简化设计，将Master尽可能轻量级，进保存了Mesos Slave的状态信息

常见集群管理工具

工具	特点	优势
Apache Mesos	需要独立部署mesos-slave进程；依赖framework的功能；可管理docker容器；成本较高	应为经过许多互联网公司的大规模实践，稳定性具有保障
Docker Swarm	Docker 官方群集工具，需要Docker deamon 启用tcp端口学习；Swarm的命令兼容Docker；学习成本非常低	公有云环境Machine 和 Swarm 搭配使用效率更高
Google Kubernetes	完全DOcker化的管理工具，功能迭代非常快；群集管理能力比mesos稍差	功能模块集成度高

Apache Mesos工作原理

请看下图：

技术分享图片

Apache Mesos配置实战

实验环境：

实验环境	IP地址	内核版本3.10以上
master	192.168.179.151	3.10.0-693.el7.x86_64
master1	192.168.179.158	3.10.0-693.el7.x86_64
master2	192.168.179.159	3.10.0-693.el7.x86_64
slave	192.168.179.155	3.10.0-693.el7.x86_64
slave1	192.168.179.157	3.10.0-693.el7.x86_64

安装Apache Mesos

1：配置Java环境

tar zxvf jdk-8u91-linux-x64.tar.gz -C /usr/local/

mv jdk1.8.0_91/ java

#在/etc/profile配置环境变量
vim /etc/profile
export JAVA_HOME=/usr/local/java
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=$JAVA_HOME/jre/lib/ext:$JAVA_HOME/lib/tools.jar

2：安装相关环境

（1）安装开发开发工具

//安装开发工具
yum groupinstall -y "Development Tools" 

#有时候安装开发工具的时候会出现没有相关的软件包这时候要根据报错提示先安装相关依赖包

（2）添加Apache-maven源

//添加apache-maven源
wget http://repos.fedorapeople.org/repos/dchen/apache-maven/epel-apache-maven.repo -O /etc/yum.repos.d/epel-apache-maven.repo

（3）安装相关依赖包

//添加依赖包
yum install -y apache-maven python-devel zlib-devel libcurl-devel openssl-devel cyrus-sasl-devel cyrus-sasl-md5 apr-devel apr-util-devel subversion-devel

（4）配置WANdiscoSVN网络源

//配置WANdiscoSVN网络源

vim /etc/yum.repos.d/wandisco-svn.repo

[WANdiscoSVN]
name=WANdisco SVN Repo 1.9
enabled=1
baseurl=http://opensource.wandisco.com/centos/7/svn-1.9/RPMS/$basearch/
gpgcheck=1
gpgkey=http://opensource.wandisco.com/RPM-GPG-KEY-WANdisco

（3）配置Mesos环境变量

vim /etc/profile

export MESOS_NATIVE_JAVA_LIBRARY=/usr/local/lib/libmesos.so
export MESOS_NATIVE_LIBRARY=/usr/local/lib/libmesos.so

source /etc/profile

（4）构建Mesos

这里使用源代码方式编译安装Mesos

wget http://www.apache.org/dist/mesos/0.25.0/mesos-0.25.0.tar.gz

tar zxvf mesos-0.25.0.tar.gz -C /opt/
mv mesos-0.25.0/ /root/
cd /root/mesos-0.25.0
mkdir build

../configure

make              //等待时间长（在线状态）
make check
make install

配置多台mesos-master

#修改主机名
 hostnamectl set-hostname master

#在hosts文件里面写入三台master 两台slave的主机IP地址

vim /etc/hosts
192.168.179.151 master
192.168.179.158 master1
192.168.179.159 master2
192.168.179.155 slave
192.168.179.157 slave1
#可以直接用scp 远程复制其他四台服务器，另外两台可以在master上复制虚拟机

#建立软连接
ln -sf /root/mesos-0.25.0/build/bin/mesos-slave.sh /usr/sbin/mesos-slave

#安装docker
yum install docker -y
systemctl start docker.servicev #运行
systemctl enable docker.service #开机自启动

（1）安装Zookeeper

在三个Mesos-master节点上安装Zookeeper

tar zxvf zookeeper-3.4.6.tar.gz -C /home/q/

cd zookeeper-3.4.6/

mv conf/zoo_sample.cfg conf/zoo.cfg

cd /home/q/zookeeper-3.4.6/conf

vim zoo.cfg  #修改zoo.cfg配置文件 
   dataDir=/home/q/zookeeper-3.4.6/data   //修改位置
   dataLogDir=/home/q/zookeeper-3.4.6/datalog
   server.1=192.168.179.151:2888:3888
   server.2=192.168.179.158:2888:3888
   server.3=192.168.179.159:2888:3888

//在master主机上操作（/opt/home/zookeeper-3.4.6/中）
mkdir data datalog 
echo 1 > data/myid
cat data/myid

#按照zoo.cfg配置文件的swerver1、2、3修改每台master的myid
//在master1主机上操作（/opt/home/zookeeper-3.4.6/中）
mkdir data datalog 
echo 2 > data/myid
cat data/myid 

//在master2主机上操作（/opt/home/zookeeper-3.4.6/中）
mkdir data datalog 
echo 3 > data/myid
cat data/myid

#启动
//在master主机上启动服务
./bin/zkServer.sh start conf/zoo.cfg 

//在master1主机上启动服务
./bin/zkServer.sh start conf/zoo.cfg

//在master2主机上启动服务
./bin/zkServer.sh start conf/zoo.cfg

//查看leader
./bin/zkServer.sh status

查看zookeeper状态
在zookeeper-3.4.6 低下用./bin/zkServer.sh status
技术分享图片

启动master服务
先启动leader服务器上的zookeeper，这是采用双选举机制先zookeeper选举出个leader然后mesos第一台启动默认就是leader

//master2
mesos-master --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --no-hostname_lookup --ip=0.0.0.0 --zk=zk://192.168.179.151:2181/mesos --quorum=2 &>/dev/null &

//master
mesos-master --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --no-hostname_lookup --ip=0.0.0.0 --zk=zk://192.168.179.158:2181/mesos --quorum=2 &>/dev/null &

//master1
mesos-master --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --no-hostname_lookup --ip=0.0.0.0 --zk=zk://192.168.179.159:2181/mesos --quorum=2 &>/dev/null &

启动mesos-slave

slave

mesos-slave --containerizers="mesos,docker" --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --master=zk://192.168.179.151:2181,192.168.179.158:2181,192.168.179.159:2181/mesos --no-hostname_lookup --ip=0.0.0.0 &>/dev/null &

slave1
mesos-slave --containerizers="mesos,docker" --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --master=zk://192.168.179.151:2181,192.168.179.158:2181,192.168.179.159:2181/mesos --no-hostname_lookup --ip=0.0.0.0 &>/dev/null &

slave2

mesos-slave --containerizers="mesos,docker" --work_dir=/opt/home/mesos/data --log_dir=/opt/home/mesos/logs --master=zk://192.168.179.151:2181,192.168.179.158:2181,192.168.179.159:2181/mesos --no-hostname_lookup --ip=0.0.0.0 &>/dev/null &

技术分享图片

部署Marathon

#用wget下载Marathon安装包
wget http://downloads.mesosphere.com/marathon/v0.15.2/marathon-0.15.2.tgz

#解压到/opt/hone目录底下
tar zxvf marathon-0.15.2.tgz -C /opt/home

#开启服务指定zk地址池
#在/opt/home/marathon-0.15.2/解压目录下开启

master
./bin/start --hostname 192.168.179.158 --master zk://192.168.175.132:2181,192.168.179.159:2181,192.168.179.151:2181/mesos --http_address 0.0.0.0 &>/dev/null &

master1
./bin/start --hostname 192.168.179.15 --master zk://192.168.175.132:2181,192.168.179.158:2181,192.168.179.151:2181/mesos --http_address 0.0.0.0 &>/dev/null &

master2
./bin/start --hostname 192.168.179.151 --master zk://192.168.175.132:2181,192.168.179.159:2181,192.168.179.158:2181/mesos --http_address 0.0.0.0 &>/dev/null &

打开网页测试Marathon的端口号是8080
技术分享图片

建立test任务

技术分享图片

查看master分配任务

技术分享图片

执行过后在下面这个目录下

 /opt/home/mesos/data/slaves/7cc2e8e7-ad03-46a6-a38d-ae1b92c78319-S0/frameworks/d82f2603-f357-4025-9574-7c511c0f435e-0000/executors

//标准错误和标准输出信息
cd test.f99a7592-a099-11e8-a6b5-52540011572d/runs/latest
//显示
stderr  stdout
//查看输出字符串
cat stdout

技术分享图片

显示以下内容

Registered executor on 192.168.175.152
Starting task test.f99a7592-a099-11e8-a6b5-52540011572d
sh -c ‘echo "hello world"‘
hello world
Forked command at 3493
Command exited with status 0 (pid: 3493)

技术分享图片

以下是slave操作

//在slave1中操作

cd /root
vim demo.json
{
"id":"basic-0",
"cmd":"while [true]; do echo ‘hello Marathon‘; sleep 5; done",
"cpus":0.1,
"mem":10.0,
"instances":1
}
//查看Marathon网站有新添加任务
curl -X POST -H "Content-type:application/json" http://192.168.175.132:8080/v2/apps [email protected]

------------再启动一台slave2-------------------------

hostnamectl set-hostname slave2

vim /etc/hosts    （所有主机同步）
192.168.175.132 master
192.168.175.150 master1
192.168.175.151 master2
192.168.175.152 slave
192.168.175.153 slave2

ln -sf /root/mesos-0.25.0/build/bin/mesos-slave.sh /usr/sbin/mesos-slave

yum install docker -y
systemctl start docker.service
systemctl enable docker.service

//启动完成会看到两台slave上线，任务在两台slave中随机发布

mesos-slave --containerizers="mesos,docker" --work_dir=/home/q/mesos/data --log_dir=/home/q/mesos/logs --master=zk://192.168.175.132:2181,192.168.175.150:2181,192.168.175.151:2181/mesos --no-hostname_lookup --ip=0.0.0.0

-----------------------使用mesos与marathon创建docker集群-----------------------

vim nginx.json

{
"id":"/nginx",
"container":{
"type":"DOCKER",
"docker":{
"image":"nginx",
"network":"HOST",
"parameters":[],
"privileged":false,
"forcePullImage":false
}
},
"cpus":0.1,
"mem":32.0,
"instances":1
}

curl -X POST -H "Content-type:application/json" http://192.168.175.132:8080/v2/apps [email protected]

//在任务发布指定的slave上使用命令  ps aux | grep docker  查看到nginx正在下载
root       3668  0.0  0.6 121912 12872 pts/0    Sl+  10:20   0:00 /usr/bin/docker-current -H unix:///var/run/docker.sock pull nginx:latest

docker images
REPOSITORY          TAG                 IMAGE ID            CREATED             SIZE
docker.io/nginx     latest              c82521676580        3 weeks ago         109 MB

docker ps -a
CONTAINER ID        IMAGE               COMMAND                  CREATED             STATUS              PORTS               NAMES
9940ac858a3b        nginx               "nginx -g ‘daemon ..."   3 minutes ago       Up 3 minutes                            mesos-0d21cffd-8a12-450d-b6ff-4d4befcdaad0-S1.89e29728-37cb-4ea3-9518-2d9741ba7618

测试
http://192.168.175.153/

以上是关于Marathon+Mesos+Docker实战的主要内容，如果未能解决你的问题，请参考以下文章

在CentOS7上配置Marathon+Mesos+Docker实战

Docker篇四Mesos+Zookeeper+Marathon+Docker实战实验

mesos+marathon管理docker集群

DCOS=Mesos+ZooKeeper+Marathon+Docker

Mesos+Marathon docker 集群管理

使用Mesos和Marathon管理Docker集群