K8s pod详解
Posted 大忽悠爱忽悠
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了K8s pod详解相关的知识，希望对你有一定的参考价值。
K8s pod详解
Pod的介绍
Pod的结构
● 每个Pod中都包含一个或者多个容器，这些容器可以分为两类：
● ① 用户程序所在的容器，数量可多可少。
● ② Pause容器，这是每个Pod都会有的一个根容器，它的作用有两个：
○ 可以以它为依据，评估整个Pod的健康状况。
○ 可以在根容器上设置IP地址，其它容器都共享此IP（Pod的IP），以实现Pod内部的网络通信（这里是Pod内部的通讯，Pod之间的通讯采用虚拟二层网络技术来实现，我们当前环境使用的是Flannel）。
Pod定义
- 下面是Pod的资源清单：
apiVersion: v1 #必选，版本号，例如v1
kind: Pod #必选，资源类型，例如 Pod
metadata: #必选，元数据
name: string #必选，Pod名称
namespace: string #Pod所属的命名空间,默认为"default"
labels: #自定义标签列表
- name: string
spec: #必选，Pod中容器的详细定义
containers: #必选，Pod中容器列表
- name: string #必选，容器名称
image: string #必选，容器的镜像名称
imagePullPolicy: [ Always|Never|IfNotPresent ] #获取镜像的策略
command: [string] #容器的启动命令列表，如不指定，使用打包时使用的启动命令
args: [string] #容器的启动命令参数列表
workingDir: string #容器的工作目录
volumeMounts: #挂载到容器内部的存储卷配置
- name: string #引用pod定义的共享存储卷的名称，需用volumes[]部分定义的的卷名
mountPath: string #存储卷在容器内mount的绝对路径，应少于512字符
readOnly: boolean #是否为只读模式
ports: #需要暴露的端口库号列表
- name: string #端口的名称
containerPort: int #容器需要监听的端口号
hostPort: int #容器所在主机需要监听的端口号，默认与Container相同
protocol: string #端口协议，支持TCP和UDP，默认TCP
env: #容器运行前需设置的环境变量列表
- name: string #环境变量名称
value: string #环境变量的值
resources: #资源限制和请求的设置
limits: #资源限制的设置
cpu: string #Cpu的限制，单位为core数，将用于docker run --cpu-shares参数
memory: string #内存限制，单位可以为Mib/Gib，将用于docker run --memory参数
requests: #资源请求的设置
cpu: string #Cpu请求，容器启动的初始可用数量
memory: string #内存请求,容器启动的初始可用数量
lifecycle: #生命周期钩子
postStart: #容器启动后立即执行此钩子,如果执行失败,会根据重启策略进行重启
preStop: #容器终止前执行此钩子,无论结果如何,容器都会终止
livenessProbe: #对Pod内各容器健康检查的设置，当探测无响应几次后将自动重启该容器
exec: #对Pod容器内检查方式设置为exec方式
command: [string] #exec方式需要制定的命令或脚本
httpGet: #对Pod内个容器健康检查方法设置为HttpGet，需要制定Path、port
path: string
port: number
host: string
scheme: string
HttpHeaders:
- name: string
value: string
tcpSocket: #对Pod内个容器健康检查方式设置为tcpSocket方式
port: number
initialDelaySeconds: 0 #容器启动完成后首次探测的时间，单位为秒
timeoutSeconds: 0 #对容器健康检查探测等待响应的超时时间，单位秒，默认1秒
periodSeconds: 0 #对容器监控检查的定期探测时间设置，单位秒，默认10秒一次
successThreshold: 0
failureThreshold: 0
securityContext:
privileged: false
restartPolicy: [Always | Never | OnFailure] #Pod的重启策略
nodeName: <string> #设置NodeName表示将该Pod调度到指定到名称的node节点上
nodeSelector: obeject #设置NodeSelector表示将该Pod调度到包含这个label的node上
imagePullSecrets: #Pull镜像时使用的secret名称，以key：secretkey格式指定
- name: string
hostNetwork: false #是否使用主机网络模式，默认为false，如果设置为true，表示使用宿主机网络
volumes: #在该pod上定义共享存储卷列表
- name: string #共享存储卷名称 （volumes类型有很多种）
emptyDir: #类型为emtyDir的存储卷，与Pod同生命周期的一个临时目录。为空值
hostPath: string #类型为hostPath的存储卷，表示挂载Pod所在宿主机的目录
path: string #Pod所在宿主机的目录，将被用于同期中mount的目录
secret: #类型为secret的存储卷，挂载集群与定义的secret对象到容器内部
scretname: string
items:
- key: string
path: string
configMap: #类型为configMap的存储卷，挂载预定义的configMap对象到容器内部
name: string
items:
- key: string
path: string
- 语法：查看每种资源的可配置项
# 查看某种资源可以配置的一级配置
kubectl explain 资源类型
# 查看属性的子属性
kubectl explain 资源类型.属性
示例：查看资源类型为pod的可配置项
kubectl explain pod
示例：查看资源类型为Pod的metadata的属性的可配置项
kubectl explain pod.metadata
在kubernetes中基本所有资源的一级属性都是一样的，主要包含5个部分：
- apiVersion < string >：版本，有kubernetes内部定义，版本号必须用kubectl api-versions查询。
- kind < string >：类型，有kubernetes内部定义，类型必须用kubectl api-resources查询。
- metadata < Object >：元数据，主要是资源标识和说明，常用的有name、namespace、labels等。
- spec < Object >：描述，这是配置中最重要的一部分，里面是对各种资源配置的详细描述。
- status < Object >：状态信息，里面的内容不需要定义，由kubernetes自动生成。
在上面的属性中，spec是接下来研究的重点，继续看下它的常见子属性：
- containers <[]Object>：容器列表，用于定义容器的详细信息。
- nodeName < String >：根据nodeName的值将Pod调度到指定的Node节点上。
- nodeSelector <map[]>：根据NodeSelector中定义的信息选择该Pod调度到包含这些Label的Node上。
- hostNetwork < boolean >：是否使用主机网络模式，默认为false，如果设置为true，表示使用宿主机网络。
- volumes <[]Object> ：存储卷，用于定义Pod上面挂载的存储信息。
- restartPolicy < string >：重启策略，表示Pod在遇到故障的时候的处理策略。
Pod的配置
● 本小节主要来研究pod.spec.containers属性，这也是Pod配置中最为关键的一项配置。
● 示例：查看pod.spec.containers的可选配置项
kubectl explain pod.spec.containers
# 返回的重要属性
KIND: Pod
VERSION: v1
RESOURCE: containers <[]Object> # 数组，代表可以有多个容器FIELDS:
name <string> # 容器名称
image <string> # 容器需要的镜像地址
imagePullPolicy <string> # 镜像拉取策略
command <[]string> # 容器的启动命令列表，如不指定，使用打包时使用的启动命令
args <[]string> # 容器的启动命令需要的参数列表
env <[]Object> # 容器环境变量的配置
ports <[]Object> # 容器需要暴露的端口号列表
resources <Object> # 资源限制和资源请求的设置
基本配置
- 创建pod-base.yaml文件，内容如下：
apiVersion: v1
kind: Pod
metadata:
name: pod-base
namespace: dev
labels:
user: dhy
spec:
containers:
- name: nginx # 容器名称
image: nginx:1.17.1 # 容器需要的镜像地址
- name: busybox # 容器名称
image: busybox:1.30 # 容器需要的镜像地址
● 上面定义了一个比较简单的Pod的配置，里面有两个容器：
○ nginx：用的是1.17.1版本的nginx镜像创建（nginx是一个轻量级的web容器）。
○ busybox：用的是1.30版本的busybox镜像创建（busybox是一个小巧的linux命令集合）。
● 创建Pod：
kubectl apply -f pod-base.yaml
● 查看Pod状况：
kubectl get pod -n dev
● 通过describe查看内部的详情：
# 此时已经运行起来了一个基本的Pod，虽然它暂时有问题
kubectl describe pod pod-base -n dev
镜像拉取策略
- 创建pod-imagepullpolicy.yaml文件，内容如下：
apiVersion: v1
kind: Pod
metadata:
name: pod-imagepullpolicy
namespace: dev
labels:
user: dhy
spec:
containers:
- name: nginx # 容器名称
image: nginx:1.17.1 # 容器需要的镜像地址
imagePullPolicy: Always # 用于设置镜像的拉取策略
- name: busybox # 容器名称
image: busybox:1.30 # 容器需要的镜像地址
● imagePullPolicy：用于设置镜像拉取的策略，kubernetes支持配置三种拉取策略：
○ Always：总是从远程仓库拉取镜像（一直远程下载）。
○ IfNotPresent：本地有则使用本地镜像，本地没有则从远程仓库拉取镜像（本地有就用本地，本地没有就使用远程下载）。
○ Never：只使用本地镜像，从不去远程仓库拉取，本地没有就报错（一直使用本地，没有就报错）。
默认值说明：
如果镜像tag为具体的版本号，默认策略是IfNotPresent。
如果镜像tag为latest（最终版本），默认策略是Always。
- 创建Pod：
kubectl apply -f pod-imagepullpolicy.yaml
- 查看Pod详情：
kubectl describe pod pod-imagepullpolicy -n dev
启动命令
● 在前面的案例中，一直有一个问题没有解决，就是busybox容器一直没有成功运行，那么到底是什么原因导致这个容器的故障的呢？
● 原来busybox并不是一个程序，而是类似于一个工具类的集合，kubernetes集群启动管理后，它会自动关闭。解决方法就是让其一直在运行，这就用到了command的配置。
● 创建pod-command.yaml文件，内容如下：
apiVersion: v1
kind: Pod
metadata:
name: pod-command
namespace: dev
labels:
user: dhy
spec:
containers:
- name: nginx # 容器名称
image: nginx:1.17.1 # 容器需要的镜像地址
imagePullPolicy: IfNotPresent # 设置镜像拉取策略
- name: busybox # 容器名称
image: busybox:1.30 # 容器需要的镜像地址
command: ["/bin/sh","-c","touch /tmp/hello.txt;while true;do /bin/echo $(date +%T) >> /tmp/hello.txt;sleep 3;done;"]
command：用于在Pod中的容器初始化完毕之后执行一个命令。
这里稍微解释下command中的命令的意思：
- “/bin/sh”,“-c”：使用sh执行命令。
- touch /tmp/hello.txt：创建一个/tmp/hello.txt的文件。
- while true;do /bin/echo $(date +%T) >> /tmp/hello.txt;sleep3;done：每隔3秒，向文件写入当前时间
- 创建Pod：
kubectl apply -f pod-command.yaml
- 查看Pod状态：
kubectl get pod pod-command -n dev
- 进入Pod中的busybox容器，查看文件内容：
# 在容器中执行命令
# kubectl exec -it pod的名称 -n 命名空间 -c 容器名称 /bin/sh
kubectl exec -it pod-command -n dev -c busybox /bin/sh
特别说明：通过上面发现command已经可以完成启动命令和传递参数的功能，为什么还要提供一个args选项，用于传递参数？其实和Docker有点关系，kubernetes中的command和args两个参数其实是为了实现覆盖Dockerfile中的ENTRYPOINT的功能：
- 如果command和args均没有写，那么用Dockerfile的配置。
- 如果command写了，但是args没有写，那么Dockerfile默认的配置会被忽略，执行注入的command。
- 如果command没有写，但是args写了，那么Dockerfile中配置的ENTRYPOINT命令会被执行，使用当前args的参数。
- 如果command和args都写了，那么Dockerfile中的配置会被忽略，执行command并追加上args参数。
环境变量（不推荐）
创建pod-evn.yaml文件，内容如下：
apiVersion: v1
kind: Pod
metadata:
name: pod-env
namespace: dev
labels:
user: dhy
spec:
containers:
- name: nginx # 容器名称
image: nginx:1.17.1 # 容器需要的镜像地址
imagePullPolicy: IfNotPresent # 设置镜像拉取策略
- name: busybox # 容器名称
image: busybox:1.30 # 容器需要的镜像地址
command: ["/bin/sh","-c","touch /tmp/hello.txt;while true;do /bin/echo $(date +%T) >> /tmp/hello.txt;sleep 3;done;"]
env:
- name: "username"
value: "admin"
- name: "password"
value: "123456"
env：环境变量，用于在Pod中的容器设置环境变量
- 创建Pod：
kubectl create -f pod-env.yaml
- 进入容器，输出环境变量：
kubectl exec -it pod-env -n dev -c busybox -it /bin/sh
此种方式不推荐，推荐将这些配置单独存储在配置文件中，后面介绍。
端口设置
查看ports支持的子选项：
kubectl explain pod.spec.containers.ports
KIND: Pod
VERSION: v1
RESOURCE: ports <[]Object>
FIELDS:
name <string> # 端口名称，如果指定，必须保证name在pod中是唯一的
containerPort <integer> # 容器要监听的端口(0<x<65536)
hostPort <integer> # 容器要在主机上公开的端口，如果设置，主机上只能运行容器的一个副本(一般省略）
hostIP <string> # 要将外部端口绑定到的主机IP(一般省略)
protocol <string> # 端口协议。必须是UDP、TCP或SCTP。默认为“TCP”
创建pod-ports.yaml文件，内容如下：
apiVersion: v1
kind: Pod
metadata:
name: pod-ports
namespace: dev
labels:
user: dhy
spec:
containers:
- name: nginx # 容器名称
image: nginx:1.17.1 # 容器需要的镜像地址
imagePullPolicy: IfNotPresent # 设置镜像拉取策略
ports:
- name: nginx-port # 端口名称，如果执行，必须保证name在Pod中是唯一的
containerPort: 80 # 容器要监听的端口 （0~65536）
protocol: TCP # 端口协议
- 创建Pod：
kubectl create -f pod-ports.yaml
访问Pod中的容器中的程序使用的是PodIp:containerPort。
资源配额
● 容器中的程序要运行，肯定会占用一定的资源，比如CPU和内存等，如果不对某个容器的资源做限制，那么它就可能吃掉大量的资源，导致其他的容器无法运行。针对这种情况，kubernetes提供了对内存和CPU的资源进行配额的机制，这种机制主要通过resources选项实现，它有两个子选项：
○ limits：用于限制运行的容器的最大占用资源，当容器占用资源超过limits时会被终止，并进行重启。
○ requests：用于设置容器需要的最小资源，如果环境资源不够，容器将无法启动。
● 可以通过上面的两个选项设置资源的上下限。
● 创建pod-resoures.yaml文件，内容如下：
apiVersion: v1
kind: Pod
metadata:
name: pod-resoures
namespace: dev
labels:
user: dhy
spec:
containers:
- name: nginx # 容器名称
image: nginx:1.17.1 # 容器需要的镜像地址
imagePullPolicy: IfNotPresent # 设置镜像拉取策略
ports: # 端口设置
- name: nginx-port # 端口名称，如果执行，必须保证name在Pod中是唯一的
containerPort: 80 # 容器要监听的端口 （0~65536）
protocol: TCP # 端口协议
resources: # 资源配额
limits: # 限制资源的上限
cpu: "2" # CPU限制，单位是core数
memory: "10Gi" # 内存限制
requests: # 限制资源的下限
cpu: "1" # CPU限制，单位是core数
memory: "10Mi" # 内存限制
- cpu：core数，可以为整数或小数。
- memory：内存大小，可以使用Gi、Mi、G、M等形式。
- 创建Pod：
kubectl create -f pod-resource.yaml
- 查看发现Pod运行正常：
kubectl get pod pod-resoures -n dev
- 接下来，停止Pod：
kubectl delete -f pod-resource.yaml
- 编辑Pod，修改resources.requests.memory的值为10Gi：
apiVersion: v1
kind: Pod
metadata:
name: pod-resoures
namespace: dev
labels:
user: dhy
spec:
containers:
- name: nginx # 容器名称
image: nginx:1.17.1 # 容器需要的镜像地址
imagePullPolicy: IfNotPresent # 设置镜像拉取策略
ports: # 端口设置
- name: nginx-port # 端口名称，如果执行，必须保证name在Pod中是唯一的
containerPort: 80 # 容器要监听的端口 （0~65536）
protocol: TCP # 端口协议
resources: # 资源配额
limits: # 限制资源的上限
cpu: "2" # CPU限制，单位是core数
memory: "10Gi" # 内存限制
requests: # 限制资源的下限
cpu: "1" # CPU限制，单位是core数
memory: "10Gi" # 内存限制
- 再次启动Pod：
kubectl create -f pod-resource.yaml
- 查看Pod状态，发现Pod启动失败：
kubectl get pod pod-resoures -n dev -o wide
- 查看Pod详情会发现，如下提示：
kubectl describe pod pod-resoures -n dev
Pod的生命周期
● 我们一般将Pod对象从创建到终止的这段时间范围称为Pod的生命周期，它主要包含下面的过程：
○ Pod创建过程。
○ 运行初始化容器（init container）过程。
○ 运行主容器（main container）：
■ 容器启动后钩子（post start）、容器终止前钩子（pre stop）。
■ 容器的存活性探测（liveness probe）、就绪性探测（readiness probe）。
○ Pod终止过程。
● 在整个生命周期中，Pod会出现5种状态（相位），分别如下：
○ 挂起（Pending）：API Server已经创建了Pod资源对象，但它尚未被调度完成或者仍处于下载镜像的过程中。
○ 运行中（Running）：Pod已经被调度到某节点，并且所有容器都已经被kubelet创建完成。
○ 成功（Succeeded）：Pod中的所有容器都已经成功终止并且不会被重启。
○ 失败（Failed）：所有容器都已经终止，但至少有一个容器终止失败，即容器返回了非0值的退出状态。
○ 未知（Unknown）：API Server无法正常获取到Pod对象的状态信息，通常由于网络通信失败所导致。
创建和终止
Pod的创建过程
● ① 用户通过kubectl或其他的api客户端提交需要创建的Pod信息给API Server。
● ② API Server开始生成Pod对象的信息，并将信息存入etcd，然后返回确认信息至客户端。
● ③ API Server开始反映etcd中的Pod对象的变化，其它组件使用watch机制来跟踪检查API Server上的变动。
● ④ Scheduler发现有新的Pod对象要创建，开始为Pod分配主机并将结果信息更新至API Server。
● ⑤ Node节点上的kubelet发现有Pod调度过来，尝试调度Docker启动容器，并将结果回送至API Server。
● ⑥ API Server将接收到的Pod状态信息存入到etcd中。
Pod的终止过程
● ① 用户向API Server发送删除Pod对象的命令。
● ② API Server中的Pod对象信息会随着时间的推移而更新，在宽限期内（默认30s），Pod被视为dead。
● ③ 将Pod标记为terminating状态。
● ④ kubelete在监控到Pod对象转为terminating状态的同时启动Pod关闭过程。
● ⑤ 端点控制器监控到Pod对象的关闭行为时将其从所有匹配到此端点的service资源的端点列表中移除。
● ⑥ 如果当前Pod对象定义了preStop钩子处理器，则在其标记为terminating后会以同步的方式启动执行。
● ⑦ Pod对象中的容器进程收到停止信号。
● ⑧ 宽限期结束后，如果Pod中还存在运行的进程，那么Pod对象会收到立即终止的信号。
● ⑨ kubectl请求API Server将此Pod资源的宽限期设置为0从而完成删除操作，此时Pod对于用户已经不可用了。
初始化容器
● 初始化容器是在Pod的主容器启动之前要运行的容器，主要是做一些主容器的前置工作，它具有两大特征：
○ ① 初始化容器必须运行完成直至结束，如果某个初始化容器运行失败，那么kubernetes需要重启它直至成功完成。
○ ② 初始化容器必须按照定义的顺序执行，当且仅当前一个成功之后，后面的一个才能运行。
● 初始化容器有很多的应用场景，下面列出的是最常见的几个：
○ 提供主容器镜像中不具备的工具程序或自定义代码。
○ 初始化容器要先于应用容器串行启动并运行完成，因此可用于延后应用容器的启动直至其依赖的条件得到满足。
● 接下来做一个案例，模拟下面这个需求：
○ 假设要以主容器来运行Nginx，但是要求在运行Nginx之前要能够连接上mysql和Redis所在的服务器。
○ 为了简化测试，事先规定好MySQL和Redis所在的IP地址分别为192.168.18.103和192.168.18.104（注意，这两个IP都不能ping通，因为环境中没有这两个IP）。
● 创建pod-initcontainer.yaml文件，内容如下：
apiVersion: v1
kind: Pod
metadata:
name: pod-initcontainer
namespace: dev
labels:
user: xudaxian
spec:
containers: # 容器配置
- name: nginx
image: nginx:1.17.1
imagePullPolicy: IfNotPresent
ports:
- name: nginx-port
containerPort: 80
protocol: TCP
resources:
limits:
cpu: "2"
memory: "10Gi"
requests:
cpu: "1"
memory: "10Mi"
initContainers: # 初始化容器配置
- name: test-mysql
image: busybox:1.30
command: ["sh","-c","until ping 192.168.18.103 -c 1;do echo waiting for mysql ...;sleep 2;done;"]
securityContext:
privileged: true # 使用特权模式运行容器
- name: test-redis
image: busybox:1.30
command: ["sh","-c","until ping 192.168.18.104 -c 1;do echo waiting for redis ...;sleep 2;done;"]
- 创建Pod：
kubectl create -f pod-initcontainer.yaml
- 查看Pod状态：
kubectl describe pod pod-initcontainer -n dev
- 动态查看Pod：
kubectl get pod pod-initcontainer -n dev -w
- 接下来，新开一个shell，为当前服务器（192.168.18.100）新增两个IP，观察Pod的变化：
ifconfig ens33:1 192.168.18.103 netmask 255.255.255.0 up
ifconfig ens33:2 192.168.18.104 netmask 255.255.255.0 up
钩子函数
● 钩子函数能够感知自身生命周期中的事件，并在相应的时刻到来时运行用户指定的程序代码。
● kubernetes在主容器启动之后和停止之前提供了两个钩子函数：
○ post start：容器创建之后执行，如果失败会重启容器。
○ pre stop：容器终止之前执行，执行完成之后容器将成功终止，在其完成之前会阻塞删除容器的操作。
● 钩子处理器支持使用下面的三种方式定义动作：
- ① exec命令：在容器内执行一次命令。
……
lifecycle:
postStart:
exec:
command:
- cat
- /tmp/healthy
……
- ② tcpSocket：在当前容器尝试访问指定的socket。
……
lifecycle:
postStart:
tcpSocket:
port: 8080
……
- ③ httpGet：在当前容器中向某url发起HTTP请求。
……
lifecycle:
postStartpod 调度详解：亲和污点和容忍