使用Docker-Compose搭建consul集群环境

Posted 可乐卷儿

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用Docker-Compose搭建consul集群环境相关的知识,希望对你有一定的参考价值。

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档


一、Compose consul的概述

1、Compose是什么?

Docker Compose的前身是fig,他是一个定义及运行多个Docker容器的工具,使用Docker Compose不需要使用shell脚本来启动容器;Docker Compose非常适合组合多个容器进行开发的场景

2、Docker Compose容器编排

YAML是一种标记语言很直观的数据序列化格式
文件格式及编写注意事项:

  • 不支持制表符tab键缩进,需要使用空格缩进
  • 通常开头缩进2个空格
  • 字符后缩进1个空格,如冒号、逗号、横杆
  • 用#号注释
  • 如果包含特殊字符用单引号弓|起来
  • 布尔值必须用引号括起来

3、Docker Compose配置常用字段

字段描述
build dockerfile context指定Dockerfile文件名构建镜像.上下文路径
image指定镜像
command执行命令,覆盖默认命令
container name指定容器名称,由于容器名称是唯一的, 如果指定自定义名称,则无法scale
deploy指定部署和运行服务相关配置,只能在Swarm模式使用
environment添加环境变量
networks加入网络
ports暴露容器端口,与-p相同,但端口不能低于60
volumes挂载宿主机路径或命令卷
restart重启策略,默认no,always, no-failure,unless-stoped
hostname容器主机名

4、Docker Compose常用命令

字段描述
字段描述
build重新构建服务
ps列出容器
up创建和启动容器
exec在容器里面执行命令
scale指定一个服务容器启动数量
top显示容器进程
logs查看容器输出
down删除容器、网络、数据卷和镜像
stop/start/restart停止/启动/重启服务

二、Consul的概述

1、consul是什么

Consul是HashiCorp公司推出的开源工具, 用于实现分布式系统的服务发现与配置
Consul的特性:

  1. 支持健康检查,允许存储键值对
  2. 基于Golong语言,可移植性强
  3. 支持ACL访问控制

同时可与Docker等轻量级容器可无缝配合

2、Consul容器服务更新与发现


consul服务端

  1. consul template:通过变量定义模板;定义的内容就是upstream地址池,通过变量的形式,并在接收到指令的时候动态更新web_01中ng的配置文件

  2. consul server:管理consul template

  3. consul agent:获取服务发现的机制;UI界面也可以看到新更新的服务

compose:

  1. consul registrator:监听;部署在server端上

过程:
设置registrator监控,监听服务端口,有新的端口监控会注册到agent,交给server端,把后端真实的容器和ip写入template模板内,模板更新到nginx.conf内,再重载配置文件,从而对外识别新加的服务后端的节点:docker服务器

三、部署Compose

ip服务
192.168.35.40docker concul agent/server/template nginx手工编译安装
192.168.35.10docker nginx httpd

1、2个节点安装docker、设置镜像加速

此步骤请参考“(一)我与Docker的‘相爱相杀’,一篇带你全了解~~~”,这里不再叙述

2、compose部署

  1. 下载compose
curl -L https://github.com/docker/compose/releases/download/1.21.1/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
或者
上传docker_compose即可
chmod +x docker-compose	##加执行权限
cp -p docker-compose /usr/local/bin	
mkdir /root/compose_nginx
cd compose_nginx/
mkdir nginx wwwroot
  1. 编写nginx的dockerfile文件
cd nginx
上传nginx-1.12.2.tar.gz压缩包
vim Dockerfile		##编写文件
FROM centos:7
ADD nginx-1.12.2.tar.gz /mnt 
WORKDIR /mnt/nginx-1.12.2
RUN yum install -y gcc pcre pcre-devel devel zlib-devel make &> /dev/null && \\
 yum clean all && \\
 sed -i 's/CFLAGS="$CFLAGS -g"/#CFLAGS="$CFLAGS -g"/g' auto/cc/gcc && \\
 ./configure --prefix=/usr/local/nginx &> /dev/null && \\
 make &> /dev/null && make install &> /dev/null &&\\
 rm -rf /mnt/nginx-1.12.2
EXPOSE 80
VOLUME ["/usr/local/nginx/html"]
CMD ["/usr/local/nginx/sbin/nginx","-g","daemon off;"]
cd wwwroot
vim index.html		##创建nginx页面
happy
  1. 编写docker-compose.yml文件
vim /root/compose_nginx/docker-compose.yml
version: '3'
services:
  nginx:
    hostname: nginx
    build:
      context: ./nginx
      dockerfile: Dockerfile
    ports:
      - 1216:80
      - 1217:443
    networks:
      - cluster
    volumes:
      - ./wwwroot:/usr/local/nginx/html
networks:
  cluster:
[root@consul compose_nginx]# docker-compose -f docker-compose.yml up -d		##基于yml文件运行启动
[root@consul compose_nginx]# docker-compose ps	##使用Compose容器编排

[root@consul compose_nginx]# tree ./
./
├── docker-compose.yml        //创建模板脚本
├── nginx
   ├── Dockerfile        //创建容器脚本
   ├── nginx-1.15.9.tar.gz    //复制源码包
└── wwwroot
    └── index.html        //站点

四、Consul部署

ip服务器
192.168.35.40Docker-ce、 Compose 3、Consul、 Consul-template
192.168.35.10Docker-ce、registrator
服务器功能
template模更新
registrator自动发现
registrator控制consul 完成更新操作
consul template模板进行热更新
consul自动发现、自动更新,为容器提供服务(添加、删除、生命周期)

1、consul服务器

mkdir consul
cd consul
上传consul_0.9.2_linux_amd64.zip压缩包
unzip consul_0.9.2_linux_amd64.zip		##解压
mv consul  /usr/local/bin/

consul agent \\
-server \\		服务端
-bootstrap \\	前端框架
-ui \\		可被访问的web界面
-data-dir=/var/lib/consul-data \\
-bind=192.168.35.40 \\
-client=0.0.0.0 \\
-node=consul-server01 &> /var/log/consul.log &
[root@consul consul]# consul members		##查看集群信息
Node             Address               Status  Type    Build  Protocol  DC
consul-server01  192.168.226.130:8301  alive   server  0.9.2  2         dc1

[root@web consul]# consul info | grep leader
	leader = true
	leader_addr = 192.168.35.40:8300

2、通过httpd api 获取集群信息

curl 127.0.0.1:8500/v1/status/peers   //查看集群server成员
curl 127.0.0.1:8500/v1/status/leader //集群 Raf leader
curl 127.0.0.1:8500/v1/catalog/services //注册的所有服务
curl 127.0.0.1:8500/v1/catalog/nginx  //查看 nginx 服务信息
[root@consul consul]# curl 127.0.0.1:8500/v1/catalog/nodes  //集群节点详细信息
[{"ID":"ac1937e8-8f21-bbc0-61d6-0a24ea946cee","Node":"consul-server01","Address":"192.168.226.130","Datacenter":"dc1","TaggedAddresses":{"lan":"192.168.226.129","wan":"192.168.226.129"},"Meta":{},"CreateIndex":5,"ModifyIndex":6}]

3、容器服务自动加入consul集群

**1. 安装 Gliderlabs/Registrator **
可检查容器运行状态自动注册,还可注销 docker 容器的服务到服务配置中心。
目前支持 Consul、Etcd 和 SkyDNS2。
在 192.168.35.10节点,执行以下操作:

docker run -d \\
--name=registrator \\
--net=host \\
-v /var/run/docker.sock:/tmp/docker.sock \\
--restart=always \\
gliderlabs/registrator:latest \\
-ip=192.168.35.10 \\
consul://192.168.35.40:8500


2. 测试服务发现功能是否正常

docker run -itd -p:83:80 --name test-01 -h test01 nginx
docker run -itd -p:84:80 --name test-02 -h test02 nginx
docker run -itd -p:88:80 --name test-03 -h test03 httpd
docker run -itd -p:89:80 --name test-04 -h test04 httpd

3. 验证 http 和 nginx 服务是否注册到 consul
浏览器输入 http://192.168.35.40:8500,“单击 NODES”,然后单击 “consurl-server01”,会出现 5 个服务


4. 在consul服务器上查看

[root@consul consul]# curl 127.0.0.1:8500/v1/catalog/services
{"consul":[],"httpd":[],"nginx":[]}

4、 安装 consul-template

Consul-Template 是一个守护进程,用于实时查询 Consul 集群信息,并更新文件系统 上任意数量的指定模板,生成配置文件。更新完成以后,可以选择运行 shell 命令执行更新 操作,重新加载 Nginx。Consul-Template 可以查询 Consul 中的服务目录、Key、Key-values 等。
这种强大的抽象功能和查询语言模板可以使 Consul-Template 特别适合动态的创建配置文件。
例如:创建 Apache/Nginx Proxy Balancers、Haproxy Backends
1. 准备 template nginx 模板文件

在consul上操作
vim /root/consul/nginx.ctmpl		##c:concul;tmp:template

upstream http_backend {
  {{range service "nginx"}}
   server {{.Address}}:{{.Port}};   #此处引用的变量会指向后端的地址和端口(动态变化)
   {{end}}
}

server {
  listen 83;		##ngixn的监听端口
  server_name localhost 192.168.35.40;		#反向代理的IP地址(前端展示的NG服务的IP)
  access_log /var/log/nginx/klj.cn-access.log;
  index index.html index.php;
  location / {
    proxy_set_header HOST $host;
    proxy_set_header X-Real-IP $remote_addr;		#后端真实IP
    proxy_set_header Client-IP $remote_addr;	
    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;	#转发地址
    proxy_pass http://http_backend;
  }
}

2. 编译安装nginx

上传压缩包nginx-1.12.2.tar.gz
yum install gcc pcre-devel zlib-devel -y
tar zxvf nginx-1.12.2.tar.gz  -C /opt
cd nginx-1.12.2
./configure --prefix=/usr/local/nginx
make && make install

3. 配置 nginx

vim /usr/local/nginx/conf/nginx.conf
http {
     include       mime.types;		#默认存在的
     include  vhost/*.conf;        ##添加虚拟主机目录为了让那个识别vhost/*.conf的文件(consul动态生成的配置文件就会放在这里)
     default_type  application/octet-stream;

mkdir /usr/local/nginx/conf/vhost		##创建虚拟主机目录
mkdir /var/log/nginx		##创建日志文件目录
ln -s /usr/local/nginx/sbin/nginx /usr/sbin
nginx		##启动nginx

5、配置并启动 template

  1. 上传解压
上传 consul-template_0.19.3_linux_amd64.zip 包到/root 目录下
cp consul-template_0.19.3_linux_amd64.zip /root/
unzip consul-template_0.19.3_linux_amd64.zip		##解压
mv consul-template /usr/bin/
  1. 关联nginx 虚拟目录中的子配置文件操作
consul-template -consul-addr 192.168.35.40:8500 \\
-template "/root/consul/nginx.ctmpl:/usr/local/nginx/conf/vhost/klj.conf:/usr/local/nginx/sbin/nginx -s reload" \\
--log-level=info		##日志级别:info

[root@consul ~]# cat /usr/local/nginx/conf/vhost/klj.conf  ##另外打开一个终端查看生成配置文件
upstream http_backend {
  
   server 192.168.35.10:84;
   
   server 192.168.35.10:85;
   
} 
   
server {
  listen 83;  server_name localhost 192.168.35.40;
  access_log /var/log/nginx/klj.cn-access.log;
  index index.html index.php;
  location / {
    proxy_set_header HOST $host;
    proxy_set_header X-Real-IP $remote_addr;            
    proxy_set_header Client-IP $remote_addr;       
    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    proxy_pass http://http_backend;
  }
}

6、测试增加/删除节点

  1. 增加一个nginx容器节点
    增加一个 nginx 容器节点,测试服务发现及配置更新功能
    //在registrator服务端注册
[root@docker bin]# docker run -itd -p:86:80 --name test-06 -h test06 nginx
74d1a35d21e907dc58ba6cb0b258e26f4c56fec4f1da495b76d84907c0f0ad43

  1. 删除一个nginx容器节点
[root@docker bin]# docker ps -a
CONTAINER ID   IMAGE                           COMMAND                  CREATED              STATUS                        PORTS                               NAMES
74d1a35d21e9   nginx                           "/docker-entrypoint.…"   About a minute ago   Up About a minute             0.0.0.0:86->80/tcp, :::86->80/tcp   test-06
688c5c1083f5   nginx                           "/docker-entrypoint.…"   22 hours ago         Exited (255) 19 minutes ago   0.0.0.0:85->80/tcp, :::85->80/tcp   test-05
107aa62fb5aa   httpd                           "httpd-foreground"       24 hours ago         Exited (255) 19 minutes ago   0.0.0.0:89->80/tcp, :::89->80/tcp   test-04
6aeb8cbb2050   httpd                           "httpd-foreground"       24 hours ago         Exited (255) 19 minutes ago   0.0.0.0:88->80/tcp, :::88->80/tcp   test-03
b1e96f6388ec   nginx                           "/docker-entrypoint.…"   24 hours ago         Exited (255) 19 minutes ago   0.0.0.0:84->80/tcp, :::84->80/tcp   test-02
403bf203b9e6   gliderlabs/registrator:latest   "/bin/registrator -i…"   24 hours ago         Up 5 minutes                                                      registrator
[root@docker bin]# docker rm -f 74d1a35d21e9		##删除86端口的服务器
74d1a35d21e9

以上是关于使用Docker-Compose搭建consul集群环境的主要内容,如果未能解决你的问题,请参考以下文章

使用Docker-Compose搭建consul集群环境!!!

使用Docker-Compose搭建consul集群环境

使用Docker-Compose搭建consul集群环境

使用Docker-compose搭建consul集群环境

使用Docker-compose搭建consul集群环境

docker基础之docker-compose搭建consul集群