keepalived 详解

Posted 2020-08-28

什么是Keepalived呢，keepalived观其名可知，保持存活，在网络里面就是保持在线了，也就是所谓的高可用或热备，用来防止单点故障(单点故障是指一旦某一点出现故障就会导致整个系统架构的不可用)的发生，那说到keepalived时不得不说的一个协议就是VRRP协议，可以说这个协议就是keepalived实现的基础，那么首先我们来看看VRRP协议

VRRP术语：

VRRP虚拟路由(VRRP router)：

VRRP的优势：

冗余：可以使用多个路由器设备作为LAN客户端的默认网关，大大降低了默认网关成为单点故障的可能性；

负载共享：允许来自LAN客户端的流量由多个路由器设备所共享；

多VRRP组：在一个路由器物理接口上可配置多达255个VRRP组；

多IP地址：基于接口别名在同一个物理接口上配置多个IP地址，从而支持在同一个物理接口上接入多个子网；

抢占：在master故障时允许优先级更高的backup成为master；

通告协议：使用IANA所指定的组播地址224.0.0.18进行VRRP通告；

VRRP追踪：基于接口状态来改变其VRRP优先级来确定最佳的VRRP路由器成为master；

IP地址拥有者（IP Address Owner）：如果一个VRRP设备将虚拟路由器IP地址作为真实的接口地址，则该设备被称为IP地址拥有者。如果IP地址拥有者是可用的，通常它将成为Master。 

keepalived是一个类似于layer3, 4 & 5交换机制的软件，也就是我们平时说的第3层、第4层和第5层交换。

Keepalived的作用是检测web服务器的状态，如果有一台web服务器死机，或工作出现故障，Keepalived将检测到，并将有故障的web服务器从系统中剔除，当web服务器工作正常后Keepalived自动将web服务器加入到服务器群中，这些工作全部自动完成，不需要人工干涉，需要人工做的只是修复故障的web服务器。

Layer3：Keepalived使用Layer3的方式工作式时，Keepalived会定期向服务器群中的服务器发送一个ICMP的数据包（既我们平时用的Ping程序）,如果发现某台服务的IP地址没有激活，Keepalived便报告这台服务器失效，并将它从服务器群中剔除，这种情况的典型例子是某台服务器被非法关机。Layer3的方式是以服务器的IP地址是否有效作为服务器工作正常与否的标准。在本文中将采用这种方式。

Layer4:如果您理解了Layer3的方式，Layer4就容易了。Layer4主要以TCP端口的状态来决定服务器工作正常与否。如web server的服务端口一般是80，如果Keepalived检测到80端口没有启动，则Keepalived将把这台服务器从服务器群中剔除。

Layer5：Layer5就是工作在具体的应用层了，比Layer3,Layer4要复杂一点，在网络上占用的带宽也要大一些。Keepalived将根据用户的设定检查服务器程序的运行是否正常，如果与用户的设定不相符，则Keepalived将把服务器从服务器群中剔除。

                             

keepalived启动后会有三个进程
父进程：内存管理，子进程管理等等
子进程：VRRP子进程
子进程：healthchecker子进程

keepalived配置文件详解

global_defs {
   notification_email {          #指定keepalived在发生切换时需要发送email到的对象，一行一个
     [email protected]
   }
   notification_email_from [email protected] #指定发件人
   smtp_server localhost         #指定smtp服务器地址
   smtp_connect_timeout 30       #指定smtp连接超时时间
   router_id LVS_DEVEL           #运行keepalived机器的一个标识
}
vrrp_sync_group VG_1{            #监控多个网段的实例
group {
inside_network                   #实例名
outside_network
}
notify_master /path/xx.sh        #指定当切换到master时，执行的脚本
netify_backup /path/xx.sh        #指定当切换到backup时，执行的脚本
notify_fault "path/xx.sh VG_1"   #故障时执行的脚本
notify /path/xx.sh 
smtp_alert                       #使用global_defs中提供的邮件地址和smtp服务器发送邮件通知
}
vrrp_instance inside_network {
    state BACKUP                 #指定那个为master，那个为backup，如果设置了nopreempt这个值

                                  不起作用，主备考priority决定
    interface eth0               #设置实例绑定的网卡
    dont_track_primary           #忽略vrrp的interface错误（默认不设置）
    track_interface{             #设置额外的监控，里面那个网卡出现问题都会切换
    eth0
    eth1
    }
    mcast_src_ip                 #发送多播包的地址，如果不设置默认使用绑定网卡的primary ip
    garp_master_delay            #在切换到master状态后，延迟进行gratuitous ARP请求
    virtual_router_id 50         #VPID标记
    priority 99                  #定义优先级，数字越大，优先级越高,高优先级竞选为master
    advert_int 1                 #检查间隔，默认1秒
    nopreempt                    #设置为不抢占 注：这个配置只能设置在backup主机上，而且这个

                                  主机优先级要比另外一台高
    preempt_delay                #抢占延时，默认5分钟
    debug #debug级别
    authentication {             #设置认证
        auth_type PASS           #认证方式
        auth_pass 111111         #认证密码
    }
    virtual_ipaddress {          #设置vip
        192.168.202.200
    }
}
virtual_server 192.168.202.200 23 {
    delay_loop 6 #健康检查时间间隔
    lb_algo rr   #lvs调度算法rr|wrr|lc|wlc|lblc|sh|dh
    lb_kind DR   #负载均衡转发规则NAT|DR|RUN
    persistence_timeout 5 #会话保持时间
    protocol TCP                #使用的协议
    persistence_granularity <NETMASK> #lvs会话保持粒度
    virtualhost <string>        #检查的web服务器的虚拟主机（host：头）    
    sorry_server<IPADDR> <port> #备用机，所有realserver失效后启用
real_server 192.168.200.5 23 {
            weight 1            #默认为1,0为失效
            inhibit_on_failure  #在服务器健康检查失效时，将其设为0，而不是直接从ipvs中删除 
            notify_up <string> | <quoted-string>   #在检测到server up后执行脚本
            notify_down <string> | <quoted-string> #在检测到server down后执行脚本
            
TCP_CHECK {
            connect_timeout 3          #连接超时时间
            nb_get_retry 3             #重连次数
            delay_before_retry 3       #重连间隔时间
            connect_port 23            #健康检查的端口的端口
            bindto <ip>   
          }
HTTP_GET | SSL_GET{
    url{                                                 #检查url，可以指定多个
         path /
         digest <string>                                 #检查后的摘要信息
         status_code 200                                 #检查的返回状态码
        }
    connect_port <port> 
    bindto <IPADD>
    connect_timeout 5
    nb_get_retry 3
    delay_before_retry 2
}

SMTP_CHECK{
    host{
    connect_ip <IP ADDRESS>
    connect_port <port>                                       #默认检查25端口
    bindto <IP ADDRESS>
         }
    connect_timeout 5
    retry 3
    delay_before_retry 2
    helo_name <string> | <quoted-string>                      #smtp helo请求命令参数，可选
}
MISC_CHECK{
    misc_path <string> | <quoted-string>                      #外部脚本路径
    misc_timeout                                              #脚本执行超时时间
    misc_dynamic                                              #如设置该项，则退出状态码会用来动态调整服务器的权重，返回0 正常，不修改；返回1，检查失败，权重改为0；返回2-255，正常，权重设置为：返回状态码-2
}
    }

配置keepalived为实现haproxy高可用的配置文件示例：

========================================================================================

! Configuration File for keepalived

global_defs {

   notification_email {

         [email protected]

         [email protected]

   }

   notification_email_from [email protected]

   smtp_connect_timeout 3

   smtp_server 127.0.0.1

   router_id LVS_DEVEL

}

vrrp_script chk_haproxy {

    script "killall -0 haproxy"

    interval 1

    weight 2

}

vrrp_script chk_mantaince_down {

   script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"

   interval 1

   weight -2

}

vrrp_instance VI_1 {

    interface eth0

    state MASTER  # BACKUP for slave routers

    priority 101  # 100 for BACKUP

    virtual_router_id 51

    garp_master_delay 1

    authentication {

        auth_type PASS

        auth_pass password

    }

    track_interface {

       eth0

    }

    virtual_ipaddress {

        172.16.100.1/16 dev eth0 label eth0:0

    }

    track_script {

        chk_haproxy

        chk_mantaince_down

    }

 

    notify_master "/etc/keepalived/notify.sh master"

    notify_backup "/etc/keepalived/notify.sh backup"

    notify_fault "/etc/keepalived/notify.sh fault"

}

========================================================================================

注意：

1、上面的state为当前节点的起始状态，通常在master/slave的双节点模型中，其一个默认为MASTER，而别一个默认为BACKUP。

2、priority为当关节点在当前虚拟路由器中的优先级，master的优先级应该大于slave的；

1、如何在状态转换时进行通知？

   notify_master ""

   notify_backup

   notify_fault

   vrrp_sync_group {

   }中定义，也可以在

   vrrp_instance {

   }中定义

通过man keepalived命令可以查看通知脚本定义的两种方法

第一种

# to MASTER transition

notify_master /path/to_master.sh

# to BACKUP transition

notify_backup /path/to_backup.sh

# FAULT transition

notify_fault "/path/fault.sh VG_1"

第二种

#arguments

# $1 ="GROUP"|"INSTANCE"

# $2 = name of group or instance

# $3 = target state of transition

# ("MASTER"|"BACKUP"|"FAULT")

notify /path/notify.sh

MASTER:

#!/bin/bash

#

vip=172.16.100.100

contact=‘[email protected]‘

thisip=`ifconfig eth0 |awk ‘/inet addr:/{print $2}‘ |awk -F: ‘{print $2}‘`

notify() {

    mailbody="vrrp transaction, $vip floated to $thisip."

    subject="$thisip is to be $vip master"

    echo $mailbody | mail -s $subject $contact

}

notify

2、如何配置ipvs?

    virutal server

    realserver

        health check

3、如何对某特定服务做高可用？

   一：要提供监控服务脚本

   二：在vrrp实例中追踪服务

   1.监控服务

     vrrp_script {

     }

   2.在vrrp实例中追踪服务

     track_script {

     }

    nginx

4、如何实现基于多虚拟路由的master/master模型？

   一：定义两个vrrp_instance就可以了

   二：DNS配置两条A记录

下面是一个notify.sh脚本的简单示例：

#!/bin/bash

# Author: MageEdu <[email protected]>

# description: An example of notify script

#

vip=172.16.100.1

contact=‘[email protected]‘

notify() {

    mailsubject="`hostname` to be $1: $vip floating"

    mailbody="`date ‘+%F %H:%M:%S‘`: vrrp transition, `hostname` changed to be $1"

    echo $mailbody | mail -s "$mailsubject" $contact

}

case "$1" in

    master)

        notify master

        /etc/rc.d/init.d/haproxy start

        exit 0

    ;;

    backup)

        notify backup

        /etc/rc.d/init.d/haproxy stop

        exit 0

    ;;

    fault)

        notify fault

        /etc/rc.d/init.d/haproxy stop

        exit 0

    ;;

    *)

        echo ‘Usage: `basename $0` {master|backup|fault}‘

        exit 1

    ;;

esac

========================================================================================

以上配置keepalived会有问题，监控的服务不管是停止还是重启，还是有问题！

直接在监控脚本中杀死keepalived进程！让VIP转到从节点。

例如haproxy服务监控脚本：

#!/bin/bash

#A = `ps -C haproxy --no-header |wc -l`

if [[ `ps -C haproxy --no-header |wc -l` -eq 0 ]];

then

echo "haproxy not runing,attempt to start up."

/usr/sbin/haproxy -f /etc/haproxy/haproxy.cfg

sleep 3

if [[ `ps -C haproxy --no-header |wc -l` -eq 0 ]];

then

/etc/init.d/keepalived stop

echo "haproxy start failure,stop keepalived"

else

echo "haproxy started success"

fi

fi

========================================================================================

案例：

当master down了，backup接管了，master再次起来，不会再成为master。

否则master恢复了再接管的话。如果出现问题了，则切换两次对网站业务来说并不好。

 

解决方法是:

state 都设置为Backup,在优先级高的那台设置参数nopreempt.

keepalived.conf中的man有说明

# VRRP will normally preempt a lower priority
# machine when a higher priority machine comes
# online. "nopreempt" allows the lower priority
# machine to maintain the master role, even when
# a higher priority machine comes back online.
# NOTE: For this to work, the initial state of this
# entry must be BACKUP.
nopreempt

本文出自 “流星工作室” 博客，请务必保留此出处http://redone.blog.51cto.com/5382451/1892866