keepalived配置文件详细说明和实际使用

Posted 胖虎是只mao

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了keepalived配置文件详细说明和实际使用相关的知识,希望对你有一定的参考价值。

一、配置文件

global_defs 
    notification_email   #指定keepalived在发生切换时需要发送email到的对象,一行一个
    sysadmin@fire.loc
    
notification_email_from Alexandre.Cassen@firewall.loc #指定发件人
   smtp_server localhost #指定smtp服务器地址
   smtp_connect_timeout 30 #指定smtp连接超时时间
   router_id LVS_DEVEL #运行keepalived机器的一个标识

vrrp_sync_group VG_1 #监控多个网段的实例
group 
inside_network #实例名
outside_network

notify_master /path/xx.sh #指定当切换到master时,执行的脚本
notify_backup /path/xx.sh #指定当切换到backup时,执行的脚本
notify_fault "path/xx.sh VG_1" #故障时执行的脚本
notify /path/xx.sh
smtp_alert #使用global_defs中提供的邮件地址和smtp服务器发送邮件通知




#因为Keepalived在转换状态时会依照状态来呼叫:
#当进入Master状态时会呼叫notify_master
#当进入Backup状态时会呼叫notify_backup
#当发现异常情况时进入Fault状态呼叫notify_fault

vrrp_instance inside_network 
    state BACKUP #指定那个为master,那个为backup,如果设置了nopreempt这个值不起作用,主备靠priority决定
    interface eth0 #设置实例绑定的网卡 VRRP心跳包从哪块网卡发出
    dont_track_primary #忽略vrrp的interface错误(默认不设置)
    track_interface #设置额外的监控,里面那个网卡出现问题都会切换
     eth0
     eth1
     
    mcast_src_ip #发送多播包的地址,如果不设置默认使用绑定网卡的primary ip
    garp_master_delay #在切换到master状态后,延迟进行gratuitous ARP请求
    virtual_router_id 50 #VPID标记 相同VRID的LVS属于同一组,根据优先级选举出一个主
    priority 99 #优先级,高优先级竞选为master
    advert_int 10 #检查间隔,默认1秒 VRRP心跳包的发送周期,单位为s 组播信息发送间隔,两个节点设置必须一样(实际并不一定完全是10秒,测试结果是小于10秒的随机值)
    nopreempt #设置为不抢占 注:这个配置只能设置在backup主机上,而且这个主机优先级要比另外一台高

首先nopreemt必须在state为BACKUP的节点上才生效(因为是BACKUP节点决定是否来成为MASTER的),其次要实现类似于关闭auto failback的功能需要将所有节点的state都设置为BACKUP,或者将master节点的priority设置的比BACKUP低。我个人推荐使用将所有节点的state都设置成BACKUP并且都加上nopreempt选项,这样就完成了关于autofailback功能,当想手动将某节点切换为MASTER时只需去掉该节点的nopreempt选项并且将priority改的比其他节点大,然后重新加载配置文件即可(等MASTER切过来之后再将配置文件改回去再reload一下)

 preempt_delay #抢占延时,默认5分钟
    debug #debug级别
    authentication  #设置认证
        auth_type PASS #认证方式
        auth_pass 111111 #认证密码(密码只识别前8位)
    
     virtual_ipaddress  #设置vip
         192.168.202.200
     

virtual_server 192.168.202.200 23 
    delay_loop 6 #健康检查时间间隔(实际并不一定完全是6秒,测试结果是小于6秒的随机值?)
    lb_algo rr  #lvs调度算法rr|wrr|lc|wlc|lblc|sh|dh
    lb_kind DR  #负载均衡转发规则NAT|DR|RUN
    persistence_timeout 5 #会话保持时间
    protocol TCP #使用的协议
    persistence_granularity <NETMASK> #lvs会话保持粒度
    virtualhost <string> #检查的web服务器的虚拟主机(host:头)   
    sorry_server<IPADDR> <port> #备用机,所有realserver失效后启用
    real_server 192.168.200.5 23 
             weight 1 #默认为1,0为失效
            inhibit_on_failure #在服务器健康检查失效时,将其设为0,而不是直接从ipvs中删除
            notify_up <string> | <quoted-string> #在检测到server up后执行脚本
            notify_down <string> | <quoted-string> #在检测到server down后执行脚本
           
			TCP_CHECK 
             	connect_timeout 3 #连接超时时间
            	nb_get_retry 3 #重连次数
            	delay_before_retry 3 #重连间隔时间
            	connect_port 23  健康检查的端口的端口
           	 	bindto <ip>  
           
HTTP_GET | SSL_GET
     url #检查url,可以指定多个
         path /
          digest <string> #检查后的摘要信息
       	  status_code 200 #检查的返回状态码
        
     connect_port <port>
     bindto <IPADD>
     connect_timeout 5
     nb_get_retry 3
     delay_before_retry 2


SMTP_CHECK
     host
     	connect_ip <IP ADDRESS>
     	connect_port <port> #默认检查25端口
     	bindto <IP ADDRESS>
          
     connect_timeout 5
     retry 3
     delay_before_retry 2
     helo_name <string> | <quoted-string> #smtp helo请求命令参数,可选

MISC_CHECK
    misc_path <string> | <quoted-string> #外部脚本路径
    misc_timeout #脚本执行超时时间
    misc_dynamic #如设置该项,则退出状态码会用来动态调整服务器的权重,返回0 正常,不修改;返回1,

检查失败,权重改为0;返回2-255,正常,权重设置为:返回状态码-2



二、 其他配置项说明

keepalived 的核心就是将IPVS配置成高可用,生成ipvs规则来完成负载均衡效果

virtual server (虚拟服务)的定义:
virtual_server IP port #定义虚拟主机IP地址及其端口
virtual_server fwmark int #ipvs的防火墙打标,实现基于防火墙的负载均衡集群
virtual_server group string #将多个虚拟服务器定义成组,将组定义成虚拟服务
lb_algorr|wrr|lc|wlc|lblc|lblcr #定义LVS的调度算法
lb_kind NAT|DR|TUN #定义LVS的模型
presitence_timeout #定义支持持久连接的时长
protocol TCP #规则所能支持的协议
sorry_server #如果所有real_server都出现故障了,利用此返回信息

三、名词解释

虚拟路由器: 由一个Master路由器和多个Backup路由器组成。主机将虚拟路由器当作默认网关;

VRID:虚拟路由器的标识。有相同VRID的一组路由器构成一个虚拟路由器;

Master路由器:虚拟路由器中承担报文转发任务的路由器;

Backup路由器 :Master路由器出现故障时,能够代替Master路由器工作的路由器;

虚拟IP 地址:虚拟路由器的IP 地址。一个虚拟路由器可以拥有一个或多个IP地址;

IP地址拥有者: 接口IP地址与虚拟IP地址相同的路由器被称为IP地址拥有者;

虚拟MAC地址: 一个虚拟路由器拥有一个虚拟MAC地址。通常情况下,虚拟路由器回应ARP请求使用的是虚拟MAC地址,只有虚拟路由器做特殊配置的时候,才回应接口的真实MAC地址;

优先级VRRP根据优先级来确定虚拟路由器中每台路由器的地位;

非抢占方式如果Backup路由器工作在非抢占方式下,则只要Master路由器没有出现故障,Backup路由器即使随后被配置了更高的优先级也不会成为Master路由器;

抢占方式如果Backup路由器工作在抢占方式下,当它收到VRRP报文后,会将自己的优先级与通告报文中的优先级进行比较。如果自己的优先级比当前的Master路由器的优先级高,就会主动抢占成为Master路由器;否则,将保持Backup状态

四、高阶使用

1、介绍

Keeaplived 主要有两种应用场景,一个是通过配置keepalived结合ipvs做到负载均衡(LVS+Keepalived)。另一个是通过自身健康检查、资源接管功能做高可用(双机热备),实现故障转移

以下内容主要针对Keepalived+mysql双主实现双机热备为根据,主要讲解keepalived的状态转换通知功能,利用此功能可有效加强对MySQL数据库监控。

2、keepalived主要作用

keepalived采用VRRP(virtual router redundancy protocol),虚拟路由冗余协议,以软件的形式实现服务器热备功能。通常情况下是将两台linux服务器组成一个热备组(master-backup),同一时间热备组内只有一台主服务器(master)提供服务,同时master会虚拟出一个共用IP地址(VIP),这个VIP只存在master上并对外提供服务。如果keepalived检测到master宕机或服务故障,备服务器(backup)会自动接管VIP成为master,keepalived并将master从热备组移除,当master恢复后,会自动加入到热备组,默认再抢占成为master,起到故障转移功能。

3、工作在三层、四层和七层原理

Layer3: 工作在三层时,keepalived会定期向热备组中的服务器发送一个ICMP数据包,来判断某台服务器是否故障,如果故障则将这台服务器从热备组移除。

Layer4: 工作在四层时,keepalived以TCP端口的状态判断服务器是否故障,比如检测mysql 3306端口,如果故障则将这台服务器从热备组移除。

! Configuration File for keepalived
        global_defs 
        notification_email      
        example@163.com  
            
        notification_email_from  example@example.com
        smtp_server 127.0.0.1
        smtp_connect_timeout 30
        router_id MYSQL_HA
        
        vrrp_instance VI_1   
        state BACKUP
        interface eth1
        virtual_router_id 50      
        nopreempt                   #当主down时,备接管,主恢复,不自动接管      
        priority 100      
        advert_int 1
        authentication          
        auth_type PASS   
        ahth_pass 123       
              
        virtual_ipaddress      
        192.168.1.200          #虚拟IP地址
   
        
       virtual_server 192.168.1.200 3306             
        delay_loop 6
        #    lb_algo rr 
        #    lb_kind NAT
        persistence_timeout 50    
        protocol TCP  
        real_server 192.168.1.201 3306        #监控本机3306端口        
        weight 1   
        notify_down /etc/keepalived/kill_keepalived.sh   #检测3306端口为down状态就执行此脚本(只有keepalived关闭,VIP才漂移 )   
        TCP_CHECK          #健康状态检测方式,可针对业务需求调整(TTP_GET|SSL_GET|TCP_CHECK|SMTP_CHECK|MISC_CHECK)
			connect_timeout 3           
        	nb_get_retry 3             
        	delay_before_retry 3     
       		   
        #MISC_CHECK                        ## 使用 MISC_CHECK 方式自定义脚本做健康检查
        #    misc_path "/etc/keepalived/check.sh"    ## 检测脚本
        #    misc_timeout   10              ## 执行脚本的超时时间
        #    misc_dynamic                   ## 根据退出状态码动态调整服务器的权重
        #    

        
   

Layer7:工作在七层时,keepalived根据用户设定的策略判断服务器上的程序是否正常运行,如果故障则将这台服务器从热备组移除。

 ! Configuration File for keepalived
        global_defs 
        notification_email 
        example@163.com
        
             
        notification_email_from  example@example.com      
        smtp_server 127.0.0.1
        smtp_connect_timeout 30
        router_id MYSQL_HA
        
        vrrp_script check_nginx    
        script /etc/keepalived/check_nginx.sh    #检测脚本
        interval 2   #执行间隔时间

  
        vrrp_instance VI_1 
        state BACKUP
        interface eth1
        virtual_router_id 50
        nopreempt                   #当主down时,备接管,主恢复,不自动接管
        priority 100 
        advert_int 1
        authentication    
        auth_type PASS        
        ahth_pass 123     
             
        virtual_ipaddress 
          192.168.1.200          #虚拟IP地址   
             
        track_script           #在实例中引用脚本    
        check_nginx      
          
   

脚本内容如下:

  
        # cat /etc/keepalived/check_nginx.sh
        Count1=`netstat -antp |grep -v grep |grep nginx |wc -l`
        if [ $Count1 -eq 0 ]; then
        	/usr/local/nginx/sbin/nginx
        	sleep 2  
        	Count2=`netstat -antp |grep -v grep |grep nginx |wc -l`
        	if [ $Count2 -eq 0 ]; then 
        		service keepalived stop      
        	else
       
        		exit 0
  
        	fi 
        else   
        	exit 0
        fi
       
   也可以简单如下:
	      #!/bin/bash
	[[ `ps -C nginx --no-header |wc -l` -eq 0 ]] && exit 1 || exit 0
	# 如果没有nginx进程 返回错误状态1  
	#if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then
	#        echo "$(date) nginx pid not found">>/etc/keepalived/keepalived.log
	#        #killall keepalived
	#fi

	mysql 检测脚本如下:
	#!/bin/bash
	[[ `ps -C mysqld --no-header |wc -l` -eq 0 ]] && exit 1 || exit 0
	# 如果没有nginx进程 返回错误状态1  
	#if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then
	#        echo "$(date) nginx pid not found">>/etc/keepalived/keepalived.log
	#        #killall keepalived
	#fi

4、健康状态检测方式

4.1 HTTP服务状态检测

HTTP_GET或SSL_GET            
        url       
        path /index.html        #检测url,可写多个         
        digest  24326582a86bee478bac72d5af25089e    #检测效验码        
        #digest效验码获取方法:genhash -s IP -p 80 -u http://IP/index.html         
        status_code 200         #检测返回http状态码    
               
        connect_port 80 #连接端口  
        connect_timeout 3  #连接超时时间 
        nb_get_retry 3  #重试次数
        delay_before_retry 2 #连接间隔时间
    

4.2 TCP端口状态检测(使用TCP端口服务基本上都可以使用)

  
        TCP_CHECK              
	        connect_port 80     #健康检测端口,默认为real_server后跟端口    
	        connect_timeout 5      
	        nb_get_retry 3      
	        delay_before_retry 3
	        

4.3 邮件服务器SMTP检测

SMTP_CHECK             #健康检测邮件服务器smtp       
        host         
	        connect_ip          
	        connect_port    
	                   
        connect_timeout 5       
        retry 2    
        delay_before_retry 3   
        hello_name "mail.domain.com"   
        

4.4 用户自定义脚本检测real_server服务状态

 MISC_CHECK          
        misc_path /script.sh    #指定外部程序或脚本位置      
        misc_timeout 3      #执行脚本超时时间  
        !misc_dynamic       #不动态调整服务器权重(weight),如果启用将通过退出状态码动态调整real_server权重值
        # misc_dynamic        ## 根据退出状态码动态调整服务器的权重
        

5、状态转换通知功能

keepalived主配置邮件通知功能,默认当real_server宕机或者恢复时才会发出邮件。有时我们更想知道keepalived的主服务器故障切换后,VIP是否顺利漂移到备服务器,MySQL服务器是否正常?那写个监控脚本吧,可以,但没必要,因为keepalived具备状态检测功能,所以我们直接使用就行了。

主配置默认邮件通知配置模板如下:
       
 
        global_defs           # Block id
  
           
        notification_email    # To:   
              
        admin@example1.com 
        ...        
        

        # From: from address that will be in header    
        notification_email_from admin@example.com
        smtp_server 127.0.0.1   # IP  
        smtp_connect_timeout 30 # integer, seconds
        router_id my_hostname   # string identifying the machine,                        
        # (doesn't have to be hostname).

5.1 实例状态通知

a) notify_master :节点变为master时执行

b) notify_backup : 节点变为backup时执行

c) notify_fault : 节点变为故障时执行

5.2 虚拟服务器检测通知

a) notify_up : 虚拟服务器up时执行

b) notify_down : 虚拟服务器down时执行

示例:
        ! Configuration File for keepalived
        global_defs  
        notification_email 
    
        example@163.com     
           
        notification_email_from example@example.com    
        smtp_server 127.0.0.1 
        smtp_connect_timeout 30  
        router_id MYSQL_HA
		    
        vrrp_instance VI_1        
        state BACKUP     
        interface eth1
        virtual_router_id 50  
        nopreempt           #当主down时,备接管,主恢复,不自动接管   
        priority 100
        advert_int 1  
        authentication           
	        auth_type PASS          
	        ahth_pass 123     
            
        virtual_ipaddress       
        192.168.1.200     
                  
        notify_master /etc/keepalived/to_master.sh          
        notify_backup /etc/keepalived/to_backup.sh
		notify_fault /etc/keepalived/to_fault.sh    
         
        virtual_server 192.168.1.200 3306      
        delay_loop 6     
        persistence_timeout 50    
        protocol TCP       
        real_server 192.168.1.201 3306             
        weight 1         
        notify_up /etc/keepalived/mysql_up.sh         
        notify_down /etc/keepalived/mysql_down.sh           
        TCP_CHECK 
			connect_timeout 3            
	        nb_get_retry 3            
	        delay_before_retry 3           
	                
          
   

状态参数后可以是bash命令,也可以是shell脚本,内容根据自己需求定义,以上示例中所涉及状态脚本如下:

  1. 当服务器改变为主时执行此脚本
 # cat to_master.sh 
        #!/bin/bash
        Date=$(date +%F" "%T)
        IP=$(ifconfig eth0 |grep "inet addr" |cut -d":" -f2 |awk 'print $1')
        Mail="baojingtongzhi@163.com"
        echo "$Date $IP change to master." |mail -s "Master-Backup Change Status" $Mail
  1. 当服务器改变为备时执行此脚本
 # cat to_backup.sh
        #!/bin/bash
        Date=$(date +%F" "%T)
        IP=$(ifconfig eth0 |grep "inet addr" |cut -d":" -f2 |awk 'print $1')
        Mail="baojingtongzhi@163.com"
        echo "$Date $IP change to backup." |mail -s "Master-Backup Change Status" $Mail

  1. 当服务器改变为故障时执行此脚本
  # cat to_fault.sh
        #!/bin/bash
        Date=$(date +%F" "%T)
        IP=$(ifconfig eth0 |grep "inet addr" |cut -d":" -f2 |awk 'print $1')
        Mail="baojingtongzhi@163.com"
        echo "$Date $IP change to fault." |mail -s "Master-Backup Change Status" $Mail
       
  1. 当检测TCP端口3306为不可用时,执行此脚本,杀死keepalived,实现切换
# cat mysql_down.sh
        #!/bin/bash
        Date=$(date +%F" "%T)
        IP=$(ifconfig eth0 |grep "inet addr" |cut -d":" -f2 |awk 'print $1')
        Mail="baojingtongzhi@163.com"
        pkill keepalived
        echo "$Date $IP The mysql service failure,kill keepalived." |mail -s "Master-Backup MySQL Monitor" $Mail
  1. 当检测TCP端口3306可用时,执行此脚本
 # cat mysql_up.sh
        #!/bin/bash
        Date=$(date +%F" "%T)
        IP=$(ifconfig eth0 |grep "inet addr" |cut -d":" -f2 |awk 'print $1')
        Mail="baojingtongzhi@163.com"
        echo "$Date $IP The mysql service is recovery." |mail -s "Master-Backup MySQL Monitor" $Mail

项目实际中配置

检测nginx配置

global_defs 
   router_id    master
   enable_script_security

vrrp_script check_nginx 
   script  /etc/keepalived/check_nginx.sh
   interval 1
   weight -20


vrrp_instance VI_1 
    state  MASTER
    interface eth2
    virtual_router_id 201
    priority   100
    advert_int 3
    authentication 
        auth_type PASS
        auth_pass 1114
    
track_script 
      check_nginx
    
    virtual_ipaddress 
     10.239.167.8
    


vrrp_instance VI_2 
    state  MASTER
    interface eth0
    virtual_router_id 202
    priority   100
    advert_int 3
    authentication 
        auth_type PASS
        auth_pass 1114
    
track_script 
      check_nginx
    
    virtual_ipaddress 
     10.1.19.105
    


2

! Configuration File for keepalived

global_defs 
   router_id LVS_HTTP
   script_user root

#vrrp_script check_keepalived 
#       script "/etc/keepalived/check_keepalived.sh"
#       interval 2
#       weight 3
#
vrrp_instance VI_1 
    state BACKUP
    interface eth0
    virtual_router_id 21
    nopreempt
    priority 130
    advert_int 3
    authentication 
        auth_type PASS
        auth_pass 1111
    
    #track_script 
    #   check_keepalived
    #
    virtual_ipaddress 
        10.1.13.27/24
    
        #notify_master "/etc/keepalived/master.sh ethxx"   #切换主执行
        #notify_backup "/etc/keepalived/slave.sh eth0"  ##切换备执行
        #notify_stop "/etc/keepalived/stop.sh eth0"  ##


virtual_server 10.1.13.27 26000         #设置虚拟服务器的 IP 和端口,用空格隔开
  delay_loop 6                             #设置运行情况检查时间,单位是秒
# lb_algo rr                               #负载调度算法(轮询)
# lb_kind DR                               #负载均衡机制(NAT、TUN、DR)
  persistence_timeout 50                   #会话保持时间(秒)
  protocol TCP                             #转发协议类型
    real_server 10.1.13.136 26000        #配置服务节点
          weight 90                        #配置服务节点的权重
          notify_down /etc/keepalived/failoverdb.sh  #虚拟服务故障响应脚本
          TCP_CHECK                       #使用TCP_CHECK方式进行健康检查
             connect_timeout 10           #10秒无响应即超时
             delay_before_retry 3         #重试间隔时间
          
		 #MISC_CHECK                        ## 使用 MISC_CHECK 方式自定义脚本做健康检查
	        #    misc_path "/etc/keepalived/check.sh"    ## 检测脚本
		        #    misc_timeout   10              ## 执行脚本的超时时间
		        #    misc_dynamic                   ## 根据退出状态码动态调整服务器的权重
		        #    
		      


以上是关于keepalived配置文件详细说明和实际使用的主要内容,如果未能解决你的问题,请参考以下文章

keepalived配置文件详细说明和实际使用

Keepalived介绍 , 配置说明 , 及实际应用

keepalived工作原理和配置文件说明

Mariadb Cluster+Haproxy+keepalived 集群的详细安装与配置

keepalived的配置详解(非常详细)

keepalived配置文件说明