docker compose与consul

Posted 2022-12-04 遙遙背影暖暖流星

consul与compose

• 一、compose
• • 1、简介
  • • 1.1文件格式和命令含义
  • 2、下载与安装
  • 3、创建compose目录和镜像目录，和相对应的yml和dockerfile文件
• 二、consul
• • 1、简介
  • 2、下载安装与构建集群
  • • 2.1、docker1安装consul
    • 2.2、在docker2安装运行gliderlabs/registrator:latest
  • 3、登陆验证
  • 4、设置consul-template模板文件
  • 5、编译安装nginx
  • 6、配置nginx
  • 7、开启
  • 8、另外打开一个终端查看生成配置文件
  • 9、在docker2增加一个nginx容器节点

一、compose

1、简介

Compose 项目是Docker官方的开源项目，负责实现对Docker容器集群的快速编排。从功能上看，跟OpenStack 中的 Heat十分类似。其代码目前在 https://github.com/docker/compose 上开源。
Compose定位是：定义和运行多个Docker容器的应用(Defining and running multi-container Docker applications)，其前身是开源项目Fig.
通过之前的文章，我们知道使用一个Dockerfile 模板文件，可以让用户很方便的定义一个单独的应用容器。然而，在日常工作中，经常会碰到需要多个容器相互配合来完成某项任务的情况。例如要实现一个Web项目，除了Web服务容器本身，往往还需要再加上后端的数据库服务容器，甚至还包括负载均衡容器等.CoMmpose恰好满足了这样的需求。它允许用户通过一个单独的docker-compose .yml模板文件(YAML格式)来定义一组相关联的应用容器为一个项目(project) 。
Compose中有两个重要的概念:
·服务( service ):一个应用的容器，实际上可以包括若干运行相同镜像的容器实例。
·项目( project ):由一组关联的应用容器组成的一个完整业务单元，在 docker-compose.yml 文件中定义。Compose 的默认管理对象是项目，通过子命令对项目中的一组容器进行便捷地生命周期管理。
Compose 项目由 python编写，实现上调用了Docker服务提供的API来对容器进行管理。因此，只要所操作的平台支持Docker APl，就可以在其上利用Compose 来进行编排管理。
总结：
浅析Dockerfile与Compose之间区别

compose不仅可以给构建镜像，还可以自动启动
dockerfile只提供镜像
dockerfile一次只能执行一个镜像
compose可以执行多个，他的文件结尾时yaml

1.1文件格式和命令含义

YAML是一种标记语言很直观的数据序列化格式

文件格式及编写注意事项：

不支持制表符tab键缩进，需要使用空格缩进
通常开头缩进2个空格
字符后缩进1个空格，如:冒号、,逗号、-横杠
用#号注释
如果包含特殊字符用单引号引起来
布尔值必须用引号括起来
docker compose配置常用字段

docker compose常用命令

2、下载与安装

[root@docker ~]# curl -L https://github.com/docker/compose/releases/download/1.21.1/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
[root@docker ~]# chmod +x /usr/local/bin/docker-compose

[root@docker ~]# mkdir /root/compose_nginx

3、创建compose目录和镜像目录，和相对应的yml和dockerfile文件

[root@docker ~]# mkdir /root/compose_nginx 
[root@docker compose_nginx]# cd /root/compose_nginx 
[root@docker compose_nginx]# mkdir nginx

[root@docker compose_nginx]# cd nginx/
#将创建nginx镜像的tar包和dockerfile的文件都拉到这个目录下
.
[root@docker nginx]# ls
nginx-1.15.9.tar.gz

[root@docker nginx]#  vim /root/compose_nginx/nginx/Dockerfile
FROM centos:7
ADD nginx-1.15.9.tar.gz /mnt
WORKDIR /mnt/nginx-1.15.9
RUN yum install -y gcc pcre pcre-devel devel zlib-devel make &> /dev/null && \\
yum clean all && \\
sed -i 's/CFLAGS="$CFLAGS -g"/#CFLAGS="$CFLAGS -g"/g' auto/cc/gcc && \\
./configure --prefix=/usr/local/nginx &> /dev/null && \\
make &> /dev/null && make install &> /dev/null && \\
rm -rf /mnt/nginx-1.15.9
EXPOSE 80
VOLUME ["/usr/local/nginx/html"]
CMD ["/usr/local/nginx/sbin/nginx","-g","daemon off;"]

...............................................................


[root@docker nginx]# ls
Dockerfile  nginx-1.15.9.tar.gz
[root@docker nginx]# mkdir /root/compose_nginx/wwwroot
[root@docker nginx]# echo "this is compose test" > /root/compose_nginx/wwwroot/index.html
[root@docker nginx]# vim /root/compose_nginx/docker-compose.yml   #在上一目录编辑compose.yml
version: '3'
services:
  nginx:
    hostname: nginx
    build:
      context: ./nginx
      dockerfile: Dockerfile
    ports:
      - 1216:80
      - 1217:443
    networks:
      - cluster
    volumes:
      - ./wwwroot:/usr/local/nginx/html
networks:
  cluster:

..............................

[root@docker nginx]# tree /root/compose_nginx/
/root/compose_nginx/
├── docker-compose.yml
├── nginx
│   ├── Dockerfile
│   └── nginx-1.15.9.tar.gz
└── wwwroot
    └── index.html

2 directories, 4 files
[root@docker nginx]# cd ..
[root@docker compose_nginx]# docker-compose -f docker-compose.yml up -d
[root@docker compose_nginx]# docker-compose ps
[root@docker nginx]# docker-compose ps
        Name                       Command              State               Ports
---------------------------------------------------------------------------------------------
compose_nginx_nginx_1   /usr/local/nginx/sbin/ngin      Up      0.0.0.0:1217->443/tcp,:::1217
                        ...                                     ->443/tcp, 0.0.0.0:1216->80/t
                                                                cp,:::1216->80/tcp

登陆本网段的1216端口

二、consul

1、简介

Consul时HashiCorp公司推出的开源工具，用于实现分布式系统的服务发现与配置

Consul的特性：
Consul支持健康检查，允许存储键值对
一致性协议采用Raft算法用来保证服务的高可用
成员管理和罅隙广播采用GOSSIP协议，支持ACL访问控制
方便部署，与Docker等轻量级容器可无缝配合

工作原理：
consul template 相当于配置文件模板

consul server会根据这个进行更新

regisrator注册机制

当后面增加了一个容器时，容器会注册registrator，

registrator会发现多了一个容器，便会通知consul server要更新

consul server使用consul template自动更新

2、下载安装与构建集群

实验环境：
服务器一docker1：192.168.100.21 Docker-ce、Compose 3、Consul、Consul-template
服务器二docker2：192.168.100.22 Docker-ce、registrator

2.1、docker1安装consul

[root@docker1 ~]# mkdir /root/consul
[root@docker1 ~]# cd consul/
[root@docker1 consul]# ls
consul_0.9.2_linux_amd64.zip     #需上传
[root@docker1 consul]# unzip consul_0.9.2_linux_amd64.zip  
[root@docker1 consul]# mv consul /usr/bin/
[root@docker1 consul]# consul agent \\
-server \\
-bootstrap \\
-ui \\
-data-dir=/var/lib/consul-data \\
-bind=192.168.100.21 \\
-client=0.0.0.0 \\
-node=consul-server01 &> /var/log/consul.log &

解析

consul agent \\
-server \\		#服务端
-bootstrap \\	#前端框架
-ui \\		  #可被访问的web界面
-data-dir=/var/lib/consul-data \\
-bind=192.168.100.21 \\          #本机ip
-client=0.0.0.0 \\
-node=consul-server01 &> /var/log/consul.log &   #后端进行

查看集群信息

[root@docker1 consul]# consul members
Node             Address              Status  Type    Build  Protocol  DC
consul-server01  192.168.100.21:8301  alive   server  0.9.2  2         dc1
[root@docker1 consul]# consul info|grep consul
[root@docker1 consul]# consul info|grep leader
        leader = true
        leader_addr = 192.168.100.21:8300

通过httpd api 查看集群信息

curl 127.0.0.1:8500/v1/status/peers //查看集群server成员

curl 127.0.0.1:8500/v1/status/leaders //查看集群Raf leader

curl 127.0.0.1:8500/v1/catalog/services //查看注册的所有服务

curl 127.0.0.1:8500/v1/catalog/nginx //查看nginx服务的信息

curl 127.0.0.1:8500/v1/catalog/nodes //集群节点详细信息

[root@docker1 consul]# curl 127.0.0.1:8500/v1/catalog/nodes
["ID":"6708a670-9894-f430-8754-9c4f6f9b6bf1","Node":"consul

[root@docker1 consul]# curl 127.0.0.1:8500/v1/status/leaders
[root@docker1 consul]# curl 127.0.0.1:8500/v1/catalog/services
"consul":[][root@docker1 consul]# curl 127.0.0.1:8500/v1/catalog/nginx

[root@docker1 consul]# curl 127.0.0.1:8500/v1/catalog/nodes
["ID":"6708a670-9894-f430-8754-9c4f6f9b6bf1","Node":"consul-server01","Address":"192.168.100.21","Datacenter":"dc1","TaggedAddresses":"lan":"192.168.100.21","wan":"192.168.100.21","Meta":,"CreateIndex":5,"ModifyIndex":6]

2.2、在docker2安装运行gliderlabs/registrator:latest

[root@docker2 consul]# docker run -d --name=registrator --net=host -v /var/run/docker.sock:/tmp/docker.sock --restart=always gliderlabs/registrator:latest -ip=192.168.100.22 consul://192.168.100.21:8500
Unable to find image 'gliderlabs/registrator:latest' locally
latest: Pulling from gliderlabs/registrator
Image docker.io/gliderlabs/registrator:latest uses outdated schema1 manifest format. Please upgrade to a schema2 image for better future compatibility. More information at https://docs.docker.com/registry/spec/deprecated-schema-v1/
c87f684ee1c2: Pull complete
a0559c0b3676: Pull complete
a28552c49839: Pull complete
Digest: sha256:6e708681dd52e28f4f39d048ac75376c9a762c44b3d75b2824173f8364e52c10
Status: Downloaded newer image for gliderlabs/registrator:latest
030097f01bd391d7d29a4fb09e45f8869d62e1f5580eb6afd7027e64b401a475
[root@docker2 consul]# docker ps -a   #查看容器
CONTAINER ID   IMAGE                           COMMAND                  CREATED              STATUS              PORTS     NAMES
030097f01bd3   gliderlabs/registrator:latest   "/bin/registrator -i…"   About a minute ago   Up About a minute             registrator
#下载并运行成功

测试服务是否正常
docker run -itd -p:83:80 --name test-01 -h test01 nginx
docker run -itd -p:84:80 --name test-02 -h test02 nginx
docker run -itd -p:88:80 --name test-03 -h test03 httpd
docker run -itd -p:89:80 --name test-04 -h test04 httpd

[root@docker2 consul]# docker run -itd -p:83:80 --name test-01 -h test01 nginx #第一次运行需要下载比较慢，需要点时间
Unable to find image 'nginx:latest' locally
...

[root@docker2 consul]# docker run -itd -p:84:80 --name test-02 -h test02 nginx
[root@docker2 consul]# docker run -itd -p:88:80 --name test-03 -h test03 httpd
[root@docker2 consul]# docker run -itd -p:89:80 --name test-04 -h test04 httpd
[root@docker2 consul]# docker ps -a 

3、登陆验证

验证 http 和 nginx 服务是否注册到 consul
浏览器输入 http://192.168.100.21:8500，“单击 NODES”，然后单击 “consurl-server01”，会出现 5 个服务.

4、设置consul-template模板文件

Consul-Template 是一个守护进程，用于实时查询 Consul 集群信息，
并更新文件系统 上任意数量的指定模板，生成配置文件。更新完成以后，
可以选择运行 shell 命令执行更新 操作，重新加载 Nginx。Consul-Template
可以查询 Consul 中的服务目录、Key、Key-values 等。
这种强大的抽象功能和查询语言模板可以使 Consul-Template 特别适合动态的创建配置文件。
例如：创建 Apache/Nginx Proxy Balancers、Haproxy Backends

[root@docker1 consul]# vim /root/consul/nginx.ctmpl

upstream http_backend 
  range service "nginx"
   server .Address:.Port;   #此处引用的变量会指向后端的地址和端口（动态变化）
   end


server 
  listen 83;
  server_name localhost 192.168.100.21;		#反向代理的IP地址(前端展示的NG服务的IP)
  access_log /var/log/nginx/kgc.cn-access.log;
  index index.html index.php;
  location / 
    proxy_set_header HOST $host;
    proxy_set_header X-Real-IP $remote_addr;		#后端真实IP
    proxy_set_header Client-IP $remote_addr;	
    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;	#转发地址
    proxy_pass http://http_backend;
  

5、编译安装nginx

[root@docker1 ~]# yum install gcc pcre-devel zlib-devel -y
[root@docker1 ~]# tar zxvf nginx-1.15.9.tar.gz  -C /opt  #先上传包在解压
[root@docker1 ~]# cd /opt/nginx-1.15.9/
[root@docker1 nginx-1.15.9]# ./configure --prefix=/usr/local/nginx
[root@docker1 nginx-1.15.9]# make && make install

6、配置nginx

[root@docker1 ~]# vim /usr/local/nginx/conf/nginx.conf

http 
     include       mime.types;		#默认存在的
     include  vhost/*.conf;         #添加虚拟主机目录（consul动态生成的配置文件就会放在这里）
     default_type  application/octet-stream;

创建虚拟主机目录
mkdir /usr/local/nginx/conf/vhost

创建日志文件目录
mkdir /var/log/nginx

启动nginx
usr/local/nginx/sbin/nginx

7、开启

上传 consul-template_0.19.3_linux_amd64.zip 包到/root 目录下

[root@docker1 ~]# unzip consul-template_0.19.3_linux_amd64.zip
[root@docker1 ~]# mv consul-template /usr/bin/

[root@docker1 ~]# consul-template -consul-addr 192.168.100.21:8500  \\
-template "/root/consul/nginx.ctmpl:/usr/local/nginx/conf/vhost/my.conf:/usr/local/nginx/sbin/nginx -s reload" \\
--log-level=info

8、另外打开一个终端查看生成配置文件

获取到IP，是依靠consul功能

[root@docker1 ~]# cd /usr/local/nginx/conf/vhost/
[root@docker1 vhost]# ls
my.conf
[root@docker1 vhost]# cat my.conf
upstream http_backend 

    server 192.168.100.22:83;

    server 192.168.100.22:84;



server 
  listen 88;
  server_name ct 192.168.100.21;
  access_log /var/log/nginx/gsy.cn-access.log;
  index index.html index.php;
  location / 
    proxy_set_header HOST $host;
    proxy_set_header X-Real-IP $remote_addr;
    proxy_set_header Client-IP $remote_addr;
    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    proxy_pass http://http_backend;
  

9、在docker2增加一个nginx容器节点

增加一个 nginx 容器节点，测试服务发现及配置更新功能
//在registrator服务端注册

[root@docker2 ~]# docker run -itd -p:85:80 --name test-05 -h test05 nginx

docker1再次查看生成的配置文件

[root@docker1 vhost]# cat /usr/local/nginx/conf/vhost/my.conf
upstream http_backend 

    server 192.168.100.22:83;

    server 192.168.100.22:84;

    server 192.168.100.22:85;



server 
  listen 88;
  server_name ct 192.168.100.21;
  access_log /var/log/nginx/gsy.cn-access.log;
  index index.html index.php;
  location / 
    proxy_set_header HOST $host;
    proxy_set_header X-Real-IP $remote_addr;
    proxy_set_header Client-IP $remote_addr;
    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    proxy_pass http://http_backend;