集群介绍keepalived介绍用keepalived配置高可用集群
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了集群介绍keepalived介绍用keepalived配置高可用集群相关的知识,希望对你有一定的参考价值。
集群介绍
Linux 集群根据功能划分为两大类:高可用和负载均衡。
高可用集群
-
高可用集群通常为两台服务器,一台工作,另外一台作为冗余,当提供服务的机器宕机时,冗余将接替继续提供服务。
- 实现高可用的开源软件有: heartbeat、keepalived
负载均衡集群
- 需要有一台服务器作为分发器,它负责把用户的请求分发给后端的服务器处理,在这个集群里,除了分发器外,就是给用户提供服务的服务器了,这些服务器数量至少为2。
- 实现负载均衡的开源软件有LVS、keepalived、haproxy、nginx,商业的(服务器器)有F5、Netscaler
keepalived 介绍
在这里我们使用keepalived 来实现高可用集群,因为heartbeat在centos6 上有一些问题,影响实验效果。
-
keepalived 通过VRRP (Virtual Router Redundancy Protocl:虚拟路由冗余协议)来实现高可用。
-
在这个协议里会将多台功能相同的路由器组成一个小组,这个小组里会有1个master 角色和N(N>=1)个backup 角色。
-
master 会通过组播的形式向各个backup 发送VRRP 协议的数据包,当backup 收不到master 发来的VRRP 数据包时,就会认为master 宕机了。此时就需要根据各个backup 的优先级来决定谁成为新的master。
- keepalived 要有三个模块,分别是core 、check 和 vrrp。其中core 模块为keepalived 的核心,负责主进程的启动、维护以及全局配置文件的加载和解析,check 模块负责健康检查,vrrp 模块是来实现vrrp协议的。
用keepalived 配置高可用集群
准备工作
-
准备两台机器131和132,131作为master,132 作为backup
-
两台机器都安装 keepalived
[[email protected] ~]# yum install -y keepalived
-
两台机器都要安装nginx,其中131上需要编译安装nginx,132上直接yum安装nginx。
查看nginx版本:
[[email protected] ~]# /usr/local/nginx/sbin/nginx -v
nginx version: nginx/1.8.0
配置master
-
编辑master 机器配置文件
[[email protected] ~]# vim /etc/keepalived/keepalived.conf
// 将里面的配置全部删除
[[email protected] ~]# > /etc/keepalived/keepalived.conf[[email protected] ~]# vim /etc/keepalived/keepalived.conf
// 加入下面内容
global_defs {
notification_email {
[email protected]
} // 定义故障提醒邮件接收地址(本实验用不到)
notification_email_from [email protected]
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id LVS_DEVEL // 定义故障提醒邮件发送地址(本实验用不到)
}
vrrp_script chk_nginx { // 定义监控脚本
script "/usr/local/sbin/check_ng.sh" // 指定服务健康检测(check)脚本
interval 3 // 检测时间间隔
}
vrrp_instance VI_1 {
state MASTER // 定义该服务的角色
interface ens33 // 定义在本机中监听VIP的网卡
virtual_router_id 51 // 虚拟路由id(同组中的服务器保持该id一致)
priority 100 // 指定本机权重(决定优先级)
advert_int 1
authentication { // 定义认证相关信息
auth_type PASS // 认证类型为密码形式
auth_pass 123456 // 定义认证密码
}
virtual_ipaddress { // 定义VIP
192.168.159.100
}
track_script { // 加载监控服务(脚本)
chk_nginx // 注意此处服务名称要与上面监控脚本名称一致
}
} -
创建监控脚本
[[email protected] ~]# vim /usr/local/sbin/checkng.sh
#!/bin/bash
// 时间变量,用于记录日志
d=`date --date today +%Y%m%d%H:%M:%S<br/>// 计算nginx进程数量<br/>n=
ps -C nginx --no-heading|wc -l<br/>// 如果进程为0,则启动nginx,并且再次检测nginx进程数量,<br/>// 如果还为0,说明nginx无法启动,此时需要关闭keepalived<br/>if [ $n -eq "0" ]; then<br/>/etc/init.d/nginx start<br/>n2=
ps -C nginx --no-heading|wc -l`
if [ $n2 -eq "0" ]; then
echo "$d nginx down,keepalived will stop" >> /var/log/check_ng.log // 定义错误日志
systemctl stop keepalived // 在此停止Keepalived服务是为了避免发生脑裂
fi
fi更改脚本权限:
[[email protected] ~]# chmod 755 /usr/local/sbin/check_ng.sh启动keepalived服务
[[email protected] ~]# systemctl start keepalived查看keepalived服务是否启动成功
[[email protected] ~]# ps aux | grep keep
root 3048 0.0 0.1 120720 1400 ? Ss 14:58 0:00 /usr/sbin/keepalived -D
root 3049 0.0 0.2 120720 2752 ? S 14:58 0:00 /usr/sbin/keepalived -D
root 3050 0.0 0.2 124976 2752 ? S 14:58 0:00 /usr/sbin/keepalived -D
root 3119 0.0 0.0 112680 976 pts/0 S+ 14:58 0:00 grep --color=auto keep查看nginx进程
[[email protected] ~]# ps aux | grep nginx
root 1462 0.0 0.0 24824 844 ? Ss 09:43 0:00 nginx: master process /usr/local/ngin/sbin/nginx -c /usr/local/nginx/conf/nginx.conf
nobody 1466 0.0 0.3 27268 3680 ? S 09:43 0:01 nginx: worker process
nobody 1467 0.0 0.3 27268 3428 ? S 09:43 0:00 nginx: worker process
root 3139 0.0 0.0 112680 976 pts/0 R+ 14:58 0:00 grep --color=auto nginx
说明: “脑裂”,即当master宕机后仍然未释放VIP,同时backup接替master提供服务要使用同一VIP,因而导致两台机器争占同一VIP导致服务紊乱,所以当master宕机后需要关闭其Keepalived服务来避免脑裂现象发生。Keepalived服务的日志位置:/var/log/message。
注: VIP(virtual IP)虚拟IP,由Keepalived设置,用于服务器对外提供服务。
-
查看网卡信息:
[[email protected] ~]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:43:65:0b brd ff:ff:ff:ff:ff:ff
inet 192.168.159.131/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet 192.168.188.100/32 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::cfb6:b956:82de:6f77/64 scope link
valid_lft forever preferred_lft forever// ifconfig 命令不能查看到vip。只能使用ip add才能查看到ip。
注意: 配置从之前先检查一下防火墙和selinux。
配置backup
-
编辑backup 配置文件
[[email protected] ~]# > /etc/keepalived/keepalived.conf
// 清空keepalived.conf 配置文件[[email protected] ~]# vim /etc/keepalived/keepalived.conf
global_defs {
notification_email {br/>[email protected]
}
notification_email_from [email protected]
smtp_server 127.0.0.1
smtp_connect_timeout 30
router_id LVS_DEVEL
}
vrrp_script chk_nginx {
script "/usr/local/sbin/check_ng.sh"
interval 3
}
vrrp_instance VI_1 { #只有该部分与master有区别
state BACKUP #角色
interface ens33
virtual_router_id 51
priority 90 #权重
advert_int 1
authentication {
auth_type PASS
auth_pass 123456
}
virtual_ipaddress {
192.168.159.100
}
track_script {
chk_nginx
}
}// 如果是多台服务器,权重决定了master宕机后,backup接管master角色的顺序。
-
创建监控脚本
[[email protected] ~]# vim /usr/local/sbin/checkng.sh
#!/bin/bash
// 时间变量,用于记录日志
d=`date --date today +%Y%m%d%H:%M:%S<br/>// 计算nginx进程数量<br/>n=
ps -C nginx --no-heading|wc -l<br/>// 如果进程为0,则启动nginx,并且再次检测nginx进程数量,<br/>// 如果还为0,说明nginx无法启动,此时需要关闭keepalived<br/>if [ $n -eq "0" ]; then<br/>systemctl start nginx<br/>n2=
ps -C nginx --no-heading|wc -l`
if [ $n2 -eq "0" ]; then
echo "$d nginx down,keepalived will stop" >> /var/log/check_ng.log
systemctl stop keepalived
fi
fi// 该检测脚本中与master检测脚本的区别在于:systemctl start nginx,即nginx的启动方式,因为在backup服务器中是使用yum安装的nginx,默认添加到系统服务中。
更改脚本权限:
[[email protected] ~]# chmod 755 /usr/local/sbin/check_ng.sh启动keepalived 服务:
[[email protected] ~]# systemctl start keepalived查看keepalived 进程:
[[email protected] ~]# ps aux | grep keep
root 2981 0.0 0.1 120720 1396 ? Ss 15:23 0:00 /usr/sbin/keepalived -D
root 2982 0.0 0.2 120720 2748 ? S 15:23 0:00 /usr/sbin/keepalived -D
root 2983 0.0 0.2 124976 2744 ? S 15:23 0:00 /usr/sbin/keepalived -D
root 3021 0.0 0.0 112680 976 pts/0 R+ 15:23 0:00 grep --color=auto keep查看nginx 进程:
[[email protected] ~]# ps aux | grep nginx
root 1470 0.0 0.0 24824 848 ? Ss 09:43 0:00 nginx: master process /usr/local/ngin/sbin/nginx -c /usr/local/nginx/conf/nginx.conf
nobody 1473 0.0 0.3 27268 3432 ? S 09:43 0:00 nginx: worker process
nobody 1474 0.0 0.3 27268 3432 ? S 09:43 0:01 nginx: worker process
root 3029 0.0 0.0 112680 972 pts/0 R+ 15:23 0:00 grep --color=auto nginx
测试
- master宕机之前:
master:
// 访问192.168.159.131(master)显示为master上的内容。
backup:
// 访问192.168.159.132(backup)显示为backup上的内容。
vip:
// 访问192.168.159.100 (vip)显示为master上的内容。
-
master 宕机之后:
模拟master宕机之后,即把keepalived服务停掉。
[[email protected] vhost]# systemctl stop keepalived查看master上的ip状态:
[[email protected] vhost]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:43:65:0b brd ff:ff:ff:ff:ff:ff
inet 192.168.159.131/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::cfb6:b956:82de:6f77/64 scope link
valid_lft forever preferred_lft forever// ens33上已经没有了VIP的状态
查砍backup上的ip状态:
[[email protected] ~]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:3c:9a:80 brd ff:ff:ff:ff:ff:ff
inet 192.168.159.132/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet 192.168.159.100/32 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::6ded:30c0:229f:69ea/64 scope link
valid_lft forever preferred_lft forever// vip转移到backup的ens33网卡上。
访问vip:
// 访问192.168.159.100(vip)显示为backup的内容。
所以,master宕机后由backup继续提供服务。
-
重新启动master上的keepalived服务后,master将重新为该集群提供服务
查看keepalived 进程:
[[email protected] vhost]# ps aux | grep keep
root 12852 0.0 0.0 112680 976 pts/0 R+ 17:16 0:00 grep --color=auto keep启动keepalived 服务:
[[email protected] vhost]# systemctl start keepalived再次查看keepalived 进程:
[[email protected] vhost]# ps aux | grep keep
root 12860 0.0 0.1 120720 1404 ? Ss 17:16 0:00 /usr/sbin/keepalived -D
root 12861 0.0 0.2 120720 2748 ? S 17:16 0:00 /usr/sbin/keepalived -D
root 12862 0.0 0.2 124976 2740 ? S 17:16 0:00 /usr/sbin/keepalived -D
root 12873 0.0 0.0 112680 976 pts/0 S+ 17:16 0:00 grep --color=auto keep查看master网络:
[[email protected] vhost]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:43:65:0b brd ff:ff:ff:ff:ff:ff
inet 192.168.159.131/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet 192.168.159.100/32 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::cfb6:b956:82de:6f77/64 scope link
valid_lft forever preferred_lft forever// vip 转移回了master的网卡上
查看backup 网络:
[[email protected] ~]# ip add
2: ens33: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:3c:9a:80 brd ff:ff:ff:ff:ff:ff
inet 192.168.159.132/24 brd 192.168.159.255 scope global ens33
valid_lft forever preferred_lft forever
inet6 fe80::6ded:30c0:229f:69ea/64 scope link
valid_lft forever preferred_lft forever// 无vip 状态
再次访问vip:
// 访问192.168.159.131(master)显示为master上的内容。
以上是关于集群介绍keepalived介绍用keepalived配置高可用集群的主要内容,如果未能解决你的问题,请参考以下文章
集群介绍,keepalived介绍,使用keepalived配置高可用集群
六十集群介绍keepalived介绍用keepaliver配置高可用集群
集群介绍keepalived介绍用keepalived配置高可用集群
18.1集群介绍18.2keepalived介绍18.3-5用keepalived配置高可用集群