搭建高可用负载均衡器: haproxy+keepalived

Posted 高效能服务器和存储技术重点实验室

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了搭建高可用负载均衡器: haproxy+keepalived相关的知识,希望对你有一定的参考价值。

企业业务量比较小的时候,单台服务器就可以满足业务需要了。但是随着业务发展,单服务器的问题就凸显出来了:

  • 当服务器挂掉时,业务就会中断

  • 当业务量增加,单台服务器性能变差,如何透明的扩展服务器和带宽,增加服务器吞吐量

负载均衡器可以解决以上问题

本文会根据拓扑图,用haproxy和keepalived搭建一个负载均衡器

1 负载均衡器拓扑图

2 准备

2.1 准备环境

  • 准备一个可用IP用作虚拟IP(VIP):

VIP: 192.168.1.100

  • 负载均衡器会用到2台主机,一主一备的架构

lb1(默认为主): 192.168.1.101

lb2(默认为备): 192.168.1.102

s1: 192.168.1.2

s2: 192.168.1.3

s3: 192.168.1.4

2.2 主机配置

2.2.1 所有主机上关闭防火墙

 
   
   
 
  1. systemctl stop firewalld 

  2. systemctl disable firewalld 

2.2.2 所有主机关闭selinux

 
   
   
 
  1. setenforce 0 

  2. vi /etc/selinux/config 

  3. SELINUX=disabled 

2.3 安装haproxy和keepalived

lb1和lb2上安装haproxy和keepalived

 
   
   
 
  1. yum install haproxy keepalived -y 

2.4 安装nginx(有其他后端测程序,可省略此步)

s1 s2 s3上安装nginx,目的是把nginx作为后端,如果有其他后端程序,这一步可以省略

 
   
   
 
  1. yum install epel-release -y 

  2. yum install nginx -y 

2.3 配置keepalived

KeepAlived是基于VRRP(Virtual Router Redundancy Protocol,虚拟路由冗余协议)实现的一个高可用方案,通过VIP(虚拟IP)和心跳检测来实现高可用

Keepalived有两个角色,Master和Backup。一般会是1个Master,多个Backup。

Master会绑定VIP到自己网卡上,对外提供服务。Master和Backup会定时确定对方状态,当Master不可用的时候,Backup会通知网关,并把VIP绑定到自己的网卡上,实现服务不中断,高可用

2.3.1 配置Master

 
   
   
 
  1. ! Configuration File for keepalived 

  2.  

  3. global_defs { 

  4.    # 通知邮件服务器的配置 

  5.    notification_email { 

  6.      # 当master失去VIP或则VIP的时候,会发一封通知邮件到your-email@qq.com 

  7.      your-email@qq.com 

  8.    } 

  9.    # 发件人信息 

  10.    notification_email_from keepalived@qq.com 

  11.    smtp_server 127.0.0.1 

  12.    # 邮件服务器超时时间 

  13.    smtp_connect_timeout 30 

  14.    # 邮件TITLE 

  15.    router_id LVS_DEVEL 

  16.  

  17. vrrp_instance VI_1 { 

  18.     # 主机: MASTER 

  19.     # 备机: BACKUP 

  20.     state MASTER 

  21.     # 实例绑定的网卡, 用ip a命令查看网卡编号 

  22.     interface eno16777984 

  23.     # 虚拟路由标识,这个标识是一个数字(1-255),在一个VRRP实例中主备服务器ID必须一样 

  24.     virtual_router_id 88 

  25.     # 优先级,数字越大优先级越高,在一个实例中主服务器优先级要高于备服务器 

  26.     priority 100 

  27.     # 主备之间同步检查的时间间隔单位秒 

  28.     advert_int 1 

  29.     # 验证类型和密码 

  30.     authentication { 

  31.         # 验证类型有两种 PASS和HA 

  32.         auth_type PASS 

  33.         # 验证密码,在一个实例中主备密码保持一样 

  34.         auth_pass 11111111 

  35.     } 

  36.     virtual_ipaddress { 

  37.         192.168.1.100 

  38.     } 

  39.  

  40. virtual_server 192.168.1.100 443 { 

  41.     # 健康检查时间间隔 

  42.     delay_loop 6 

  43.     # 调度算法 

  44.     # Doc: http://www.keepalived.org/doc/scheduling_algorithms.html 

  45.     # Round Robin (rr) 

  46.     # Weighted Round Robin (wrr) 

  47.     # Least Connection (lc) 

  48.     # Weighted Least Connection (wlc) 

  49.     # Locality-Based Least Connection (lblc) 

  50.     # Locality-Based Least Connection with Replication (lblcr) 

  51.     # Destination Hashing (dh) 

  52.     # Source Hashing (sh) 

  53.     # Shortest Expected Delay (seq) 

  54.     # Never Queue (nq) 

  55.     # Overflow-Connection (ovf) 

  56.     lb_algo rr 

  57.     lb_kind NAT 

  58.     persistence_timeout 50 

  59.     protocol TCP 

  60.     # 通过调度算法把Master切换到真实的负载均衡服务器上 

  61.     # 真实的主机会定期确定进行健康检查,如果MASTER不可用,则切换到备机上 

  62.     real_server 192.168.1.101 443 { 

  63.         weight 1 

  64.         TCP_CHECK { 

  65.             # 连接超端口 

  66.             connect_port 443 

  67.             # 连接超时时间 

  68.             connect_timeout 3 

  69.         } 

  70.     } 

  71.     real_server 192.168.1.102 443 { 

  72.         weight 1 

  73.         TCP_CHECK { 

  74.             connect_port 443 

  75.             connect_timeout 3 

  76.         } 

  77.     } 

2.3.2 配置BACKUP

编辑lb2(192.168.1.102)上的/etc/keepalived/keepalived.conf

 
   
   
 
  1. ! Configuration File for keepalived 

  2.  

  3. global_defs { 

  4.    # 通知邮件服务器的配置 

  5.    notification_email { 

  6.      # 当master失去VIP或则VIP的时候,会发一封通知邮件到your-email@qq.com 

  7.      your-email@qq.com 

  8.    } 

  9.    # 发件人信息 

  10.    notification_email_from keepalived@qq.com 

  11.    smtp_server 127.0.0.1 

  12.    # 邮件服务器超时时间 

  13.    smtp_connect_timeout 30 

  14.    # 邮件TITLE 

  15.    router_id LVS_DEVEL 

  16.  

  17. vrrp_instance VI_1 { 

  18.     # 主机: MASTER 

  19.     # 备机: BACKUP 

  20.     state BACKUP 

  21.     # 实例绑定的网卡, 用ip a命令查看网卡编号 

  22.     interface eno16777984 

  23.     # 虚拟路由标识,这个标识是一个数字(1-255),在一个VRRP实例中主备服务器ID必须一样 

  24.     virtual_router_id 88 

  25.     # 优先级,数字越大优先级越高,在一个实例中主服务器优先级要高于备服务器 

  26.     priority 99 

  27.     # 主备之间同步检查的时间间隔单位秒 

  28.     advert_int 1 

  29.     # 验证类型和密码 

  30.     authentication { 

  31.         # 验证类型有两种 PASS和HA 

  32.         auth_type PASS 

  33.         # 验证密码,在一个实例中主备密码保持一样 

  34.         auth_pass 11111111 

  35.     } 

  36.     virtual_ipaddress { 

  37.         192.168.1.100 

  38.     } 

  39.  

  40. virtual_server 192.168.1.100 443 { 

  41.     # 健康检查时间间隔 

  42.     delay_loop 6 

  43.     # 调度算法 

  44.     # Doc: http://www.keepalived.org/doc/scheduling_algorithms.html 

  45.     # Round Robin (rr) 

  46.     # Weighted Round Robin (wrr) 

  47.     # Least Connection (lc) 

  48.     # Weighted Least Connection (wlc) 

  49.     # Locality-Based Least Connection (lblc) 

  50.     # Locality-Based Least Connection with Replication (lblcr) 

  51.     # Destination Hashing (dh) 

  52.     # Source Hashing (sh) 

  53.     # Shortest Expected Delay (seq) 

  54.     # Never Queue (nq) 

  55.     # Overflow-Connection (ovf) 

  56.     lb_algo rr 

  57.     lb_kind NAT 

  58.     persistence_timeout 50 

  59.     protocol TCP 

  60.     # 通过调度算法把Master切换到真实的负载均衡服务器上 

  61.     # 真实的主机会定期确定进行健康检查,如果MASTER不可用,则切换到备机上 

  62.     real_server 192.168.1.101 443 { 

  63.         weight 1 

  64.         TCP_CHECK { 

  65.             # 连接超端口 

  66.             connect_port 443 

  67.             # 连接超时时间 

  68.             connect_timeout 3 

  69.         } 

  70.     } 

  71.     real_server 192.168.1.102 443 { 

  72.         weight 1 

  73.         TCP_CHECK { 

  74.             connect_port 443 

  75.             connect_timeout 3 

  76.         } 

  77.     } 

2.4 配置haproxy

编辑lb1(192.168.1.101)和lb2(192.168.1.102)上的/etc/haproxy/haproxy.cfg

把后端服务器IP(192.168.1.2, 192.168.1.3, 192.168.1.4)加到backend里

 
   
   
 
  1. #--------------------------------------------------------------------- 

  2. Global settings 

  3. #--------------------------------------------------------------------- 

  4. global 

  5.     log         127.0.0.1 local2 

  6.  

  7.     chroot      /var/lib/haproxy 

  8.     pidfile     /var/run/haproxy.pid 

  9.     maxconn     4096 

  10.     user        haproxy 

  11.     group       haproxy 

  12.     daemon 

  13.  

  14.     # turn on stats unix socket 

  15.     stats socket /var/lib/haproxy/stats 

  16.  

  17. listen stats 

  18.     bind    *:9000 

  19.     mode    http 

  20.     stats   enable 

  21.     stats   hide-version 

  22.     stats   uri       /stats 

  23.     stats   refresh   30s 

  24.     stats   realm     Haproxy\ Statistics 

  25.     stats   auth      admin:admin 

  26.  

  27.  

  28. frontend  k8s-api 

  29.     bind *:443 

  30.     mode tcp 

  31.     option tcplog 

  32.     tcp-request inspect-delay 5s 

  33.     tcp-request content accept if { req_ssl_hello_type 1 } 

  34.     default_backend k8s-api-backend 

  35.  

  36. backend k8s-api-backend 

  37.     mode tcp 

  38.     option tcplog 

  39.     option tcp-check 

  40.     balance roundrobin 

  41.     server master1 192.167.1.2:80 maxconn 1024 weight 5 check 

  42.     server master2 192.167.1.3:80 maxconn 1024 weight 5 check 

  43.     server master3 192.167.1.4:80 maxconn 1024 weight 5 check 

2.5 配置nginx

给nginx添加SSL证书,配置过程略

 
   
   
 
  1. vi /usr/share/nginx/html/index.html 

把index.html里面字符串Welcome to nginx改成Welcome to nginx HA

3 启动服务

3.1 启动nginx

 
   
   
 
  1. sudo systemctl start nginx 

  2. sudo systemctl enable nginx 

3.2 启动haproxy

 
   
   
 
  1. sudo systemctl start haproxy 

  2. sudo systemctl enable haproxy 

3.3 启动keepalived

 
   
   
 
  1. sudo systemctl start keepalived 

  2. sudo systemctl enable keepalived 

在MASTER上运行ip a

 
   
   
 
  1. eno16777984: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP qlen 1000 

  2.     link/ether 00:xx:xx:xx:3d:0c brd ff:ff:ff:ff:ff:ff 

  3.     inet 192.168.1.101/24 brd 192.168.1.255 scope global eno16777984 

  4.        valid_lft forever preferred_lft forever 

  5.     inet 192.168.1.100/32 scope global eno16777984 

  6.        valid_lft forever preferred_lft forever 

  7.     inet6 eeee:eeee:1c9d:2009:250:56ff:fe9c:3d0c/64 scope global noprefixroute dynamic 

  8.        valid_lft 7171sec preferred_lft 7171sec 

  9.     inet6 eeee::250:56ff:eeee:3d0c/64 scope link 

  10.        valid_lft forever preferred_lft forever 

会发现VIP(192.168.1.100)已经绑定好了

 
   
   
 
  1. inet 192.168.1.100/32 scope global eno16777984 

  2.        valid_lft forever preferred_lft forever 

如果发现VIP无法绑定

 
   
   
 
  1. vi /etc/sysctl.conf 

添加两行

 
   
   
 
  1. net.ipv4.ip_forward = 1 

  2. net.ipv4.ip_nonlocal_bind = 1 

让新配置生效

 
   
   
 
  1. sysctl -p 

4 验证

4.1 查看状态

1. 在浏览器输入 http://192.168.1.100:9000/stats 查看haproxy状态

2. 在浏览器输入 https://192.168.1.100 查看服务状态

 是否成功显示为nginx欢迎页面

4.2 主备切换

1. 在浏览器输入 https://192.168.1.100 查看是否成功显示nginx欢迎页面

2. lb1(192.168.1.101)关机,查看是否还可以访问https://192.168.1.100, 如果成功,则说明VIP成功切换到备机

3. 在lb2(192.168.1.102)上执行ip a,查看网卡是否绑定VIP(192.168.1.100)

3. 启动lb1(192.168.1.101)

目的是为了验证VIP是否切回MASTER主机(因为MASTER端的配置文件中priority为100,而BACKUP为99,health check会自动把VIP绑定到priority高的主机上)。


以上是关于搭建高可用负载均衡器: haproxy+keepalived的主要内容,如果未能解决你的问题,请参考以下文章

HAProxy+mongos搭建高可用负载均衡mongodb

Kubernetes云原生实战03 搭建高可用负载均衡器(Keepalived 和 HAproxy)

Kubernetes云原生实战03 搭建高可用负载均衡器(Keepalived 和 HAproxy)

Kubernetes云原生实战03 搭建高可用负载均衡器(Keepalived 和 HAproxy)

高可用篇之Keepalived (HAProxy+keepalived 搭建高可用负载均衡集群)

Haproxy+Keepalived(双机热备)搭建高可用web架构