使用go mod结合docker分层缓存进行自动CI/CD
Posted likeli
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用go mod结合docker分层缓存进行自动CI/CD相关的知识,希望对你有一定的参考价值。
本文地址:https://www.cnblogs.com/likeli/p/10521941.html
喜大奔的go mod
官方背书的go mod拯救了我的代码洁癖症!
环境
- go v1.12
- docker ce 18.09.0
- gitlab ce latest
godep
写go程序,若是仅仅是你一个人写,或者就是写个小工具玩儿玩儿,依赖管理对你来说可能没那么重要。
但是在商业的工程项目里,多人协同,go的依赖管理就尤为重要了,之前可选的其实不太多,社区提供的实现方式大多差不多的思路,比如我之前使用的godep
。所以项目中会有一个vendor
文件夹来存放外部的依赖,这样:
这样的实现方式,每次更新了外部依赖,其他人就得拉下来一大坨。。。
go mod
来看看使用官方的module来管理依赖的工程结构:
是不是,清爽无比,项目也整个瘦身了!
简单的说一下go mod help,至于开启go mod的步骤,其他网文一大堆,就不复制了。毕竟本文是说go工程CI/CD的。
在目前go v1.12
版本下,命令go mod help
结果如下:
The commands are:
download download modules to local cache
edit edit go.mod from tools or scripts
graph print module requirement graph
init initialize new module in current directory
tidy add missing and remove unused modules
vendor make vendored copy of dependencies
verify verify dependencies have expected content
why explain why packages or modules are needed
后面CI/CD需要用到的是download
指令。
dockerfile
来看看我这个工程的dockerfile:
FROM golang:1.12 as build
ENV GOPROXY https://go.likeli.top
ENV GO111MODULE on
WORKDIR /go/cache
ADD go.mod .
ADD go.sum .
RUN go mod download
WORKDIR /go/release
ADD . .
RUN GOOS=linux CGO_ENABLED=0 go build -ldflags="-s -w" -installsuffix cgo -o app main.go
FROM scratch as prod
COPY --from=build /etc/localtime /etc/localtime
COPY --from=build /etc/ssl/certs/ca-certificates.crt /etc/ssl/certs/ca-certificates.crt
COPY --from=build /go/release/app /
COPY --from=build /go/release/conf.yaml /
CMD ["/app"]
我这个项目有一些外部依赖,在本地开发的时候都已调整好,并且编译通过,在本地开发环境已经生成了两个文件go.mod
、go.sum
在dockerfile的第一步骤中,先启动module模式,且配置代理,因为有些墙外的包服务没有梯子的情况下也是无法下载回来的,这里的代理域名是我自己的,有需要的也可以用。
指令RUN go mod download
执行的时候,会构建一层缓存,包含了该项所有的依赖。之后再次提交的代码中,若是go.mod
、go.sum
没有变化,就会直接使用该缓存,起到加速构建的作用,也不用重复的去外网下载依赖
了。若是这两个文件发生了变化,就会重新构建这个缓存分层。
使用缓存构建的效果:
这个加速效果是很明显的。
减小体积
go构建命令使用-ldflags="-s -w"
在官方文档:Command_Line里面说名了-s -w
参数的意义,按需选择即可。
-s
: 省略符号表和调试信息-w
: 省略DWARF符号表
看起来效果不错??
使用scratch镜像
使用golang:1.12
开发镜像构建好应用后,在使用scratch
来包裹生成二进制程序。
关于最小基础镜像
,docker里面有这几类:
- scratch: 空的基础镜像,最小的基础镜像
- busybox: 带一些常用的工具,方便调试, 以及它的一些扩展busybox:glibc
- alpine: 另一个常用的基础镜像,带包管理功能,方便下载其它依赖的包
镜像瘦身最终效果
好了,看看最终构建的应用的效果:
构建的镜像大小为: 16.4MB
CI/CD
基于gitlab的runner来进行CI/CD,看看我的.gitlab-ci.yml
配置:
before_script:
- if [[ $(whereis docker-compose | wc -l) -eq 0 ]]; then curl -L "https://github.com/docker/compose/releases/download/1.23.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose && chmod +x /usr/local/bin/docker-compose; fi
# ******************************************************************************************************
# ************************************** 测试环境配置 ****************************************************
# ******************************************************************************************************
deploy-test-tour:
stage: deploy
tags:
- build
only:
- release/v2.0
script:
- export PRODUCTION=false
- docker-compose stop
- docker-compose up -d --build
# ******************************************************************************************************
# ************************************** 生产环境配置 ****************************************************
# ******************************************************************************************************
deploy-prod-tour:
stage: deploy
tags:
- release
only:
- master
script:
- export PRODUCTION=true
- docker-compose stop
- docker-compose up -d --build
我使用docker-compose
来进行容器控制,所以在before_script
过程里面增加了这一步,方便新机器的全自动化嘛。
我这个项目做了点儿工程化,所以稍微正规点儿,分出了两个环境,测试和生产环境。分别绑定到不同的分支上。
正主就是下面执行的这三行:
export PRODUCTION=false
docker-compose stop
docker-compose up -d --build
export
控制一下临时环境变量,方便发布不同的环境。docker-compose stop
停止旧的容器docker-compose up -d --build
编排新的容器并启动,会使用之前的缓存分层镜像,所以除了第一次构建,后面的速度都是杠杠的。
看实际的发布截图:
首次执行,总共:1 minute 22 seconds
使用缓存构建,总共:33 seconds
以上是关于使用go mod结合docker分层缓存进行自动CI/CD的主要内容,如果未能解决你的问题,请参考以下文章
Docker02:Docker核心技术探索 分层联合文件系统