nginx学习——nginx高可用方案nginx+keepalived

Posted 2020-11-25 TvvT_kevin

一、nginx+tomcat实现集群

当我们网站并发量高的时候，一台tomcat无法承受大量并发，可以考虑Nginx+Tomcat集群来实现。咱们这就做一个集群演示。

步骤说明

 

 

 

 

　　1、我这里准备3台tomcat，端口分别是8081、8082、8083

　　针对同一个域名，每次用Nginx实现不同的转发，分别在每个tomcat的webapps目录下创建ROOT目录，并创建index.html，分别在html的body里标记1/2/3以示区分。

　　2、配置负载均衡upstream实现集群

upstream testtomcat  {
    server 192.168.126.99:8081 weight=3;
    server 192.168.126.99:8082 weight=1;
    server 192.168.126.99:8083 weight=1;
}
server {
    listen       80;
    server_name  localhost;

    #charset koi8-r;

    #access_log  logs/host.access.log  main;
    location / {
    proxy_pass  http://testtomcat;
    }
}

 

二、keepalived+nginx 集群解决单点故障

　　再牛逼的软件我们也不能保证它一定不挂，为了防止Nginx挂了导致整个服务无法使用的灾难发生，我们这里可以考虑使用Keepalived+Nginx集群实现高可用。

keepalived介绍

　　Keepalived 是一种高性能的服务器高可用或热备解决方案，Keepalived 可以用来防止服务器单点故障的发生，通过配合 Nginx 可以实现 web 前端服务的高可用。

　　Keepalived 以 VRRP （路由器冗余协议）协议为实现基础，用 VRRP 协议来实现高可用性(HA)。VRRP(Virtual Router Redundancy Protocol)协议是用于实现路由器冗余的协议，VRRP 协议将两台或多台路由器设备虚拟成一个设备，对外提供虚拟路由器 IP(一个或多个)，而在路由器组内部，如果实际拥有这个对外 IP 的路由器如果工作正常的话就是 MASTER，或者是通过算法选举产生，MASTER 实现针对虚拟路由器 IP 的各种网络功能，如 ARP 请求，ICMP，以及数据的转发等；其他设备不拥有该虚拟 IP，状态是 BACKUP，除了接收 MASTER 的VRRP 状态通告信息外，不执行对外的网络功能。当主机失效时，BACKUP 将接管原先 MASTER 的网络功能。

　　VRRP 协议使用多播数据来传输 VRRP 数据，VRRP 数据使用特殊的虚拟源 MAC 地址发送数据而不是自身网卡的 MAC 地址，VRRP 运行时只有 MASTER 路由器定时发送 VRRP 通告信息，表示 MASTER 工作正常以及虚拟路由器 IP(组)，BACKUP 只接收 VRRP 数据，不发送数据，如果一定时间内没有接收到 MASTER 的通告信息，各 BACKUP 将宣告自己成为 MASTER，发送通告信息，重新进行 MASTER 选举状态。

方案介绍

VIP	IP	主机名	主从
192.168.126.98	192.168.126.99	keep99	master
	192.168.126.100	keep100	backup

keepalived安装配置

1、Nginx安装

　　在99和100虚拟机两台上都安装nginx，安装过程参考前面学的Nginx。

2、keepalived安装

　　将文件上传到服务器，然后解压安装

# 解压keepalived安装包
tar -zxvf keepalived-2.0.19.tar.gz -C /usr/local/server  #解压keepalived到指定目录

#进入解压包
cd /usr/local/server/keepalived-2.0.19

# 执行命令生成MakeFile
./configure --prefix=/usr/local/server/keepalived

# 编译和安装
make && make install

3、设置 keepalived 服务开机启动

　　因为没有使用 keepalived 的默认路径安装（默认是/usr/local）,安装完成之后，需要做一些工作复制默认配置文件到默认路径

# 创建一个keepalived配置目录， keepalived启动时默认去这个路径加载配置文件
mkdir /etc/keepalived

# 复制配置
cp /usr/local/server/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/

#复制 keepalived 服务脚本到默认的地址

cp /usr/local/server/keepalived/sbin/keepalived /etc/init.d/ #2.0.19版本
cp /usr/local/server/keepalived/etc/sysconfig/keepalived /etc/sysconfig/

#拷贝执行文件至 /usr/sbin/ ，可直接根据执行文件在任何地方执行
cp /usr/local/server/keepalived/sbin/keepalived /usr/sbin/ 

# 创建执行文件keepalived的软连接到 /usr/sbin/ 目录中。可在系统任何地方输入keepalived执行。
ln -s /usr/local/server/keepalived/sbin/keepalived /usr/sbin/ 

#设置 keepalived 服务开机启动
chkconfig keepalived on

4、配置主节点

　　1、找到99主机，覆盖/keepalived/etc/keepalived 下的keepalived.conf文件，内容如下

global_defs {
   router_id keep99;
}

vrrp_script chk_nginx {
 script "/etc/keepalived/nginx_check.sh"
 interval 2 
 weight -20 
}


vrrp_instance VI_1 {
    state MASTER
    interface ens33
    virtual_router_id 99
    mcast_src_ip 192.168.126.99
    priority 100
    nopreempt
    advert_int 1
    authentication {
        auth_type PASS  
        auth_pass 1111 
    }

    track_script {
     chk_nginx
    }
    virtual_ipaddress {
        192.168.126.98 
    }
}

　　2、配置host主机名

#添加keep99主机名
vim /etc/hosts

 

 

 

5、配置从节点

　　找到100主机的keepalived的配置文件keepalived.conf

global_defs {
   router_id keep100
}

vrrp_script chk_nginx {
 script "/etc/keepalived/nginx_check.sh"
 interval 2
 weight -20
}

vrrp_instance VI_1 {
    state BACKUP
    interface ens33
    virtual_router_id 100
    priority 90
    mcast_src_ip 192.168.126.100
    advert_int 1
    authentication {
        auth_type PASS
        auth_pass 1111
    }
    track_script {
    chk_nginx
    }
    virtual_ipaddress {
        192.168.126.98
    }
}

　　配置说明

global_defs {
 ## keepalived 自带的邮件提醒需要开启 sendmail 服务。建议用独立的监控或第三方 SMTP 
 router_id keep99 ## 标识本节点的字条串，通常与host文件的主机名一致，访问keep99就是访问主机
}
## keepalived 会定时执行脚本并对脚本执行的结果进行分析，动态调整 vrrp_instance 的优先级。如果
脚本执行结果为 0，并且 weight 配置的值大于 0，则优先级相应的增加。如果脚本执行结果非 0，并且 weight
配置的值小于 0，则优先级相应的减少。其他情况，维持原本配置的优先级，即配置文件中 priority 对应
的值。
vrrp_script chk_nginx {
 script "/etc/keepalived/nginx_check.sh" ## 检测 nginx 状态的脚本路径
 interval 2 ## 检测时间间隔
 weight -20 ## 如果条件成立，权重-20
}
## 定义虚拟路由，VI_1 为虚拟路由的标示符，自己定义名称
vrrp_instance VI_1 {
 state MASTER ## 主节点为 MASTER，对应的备份节点为 BACKUP
 interface ens33 ## 绑定虚拟 IP 的网络接口，我的是 ens33
 virtual_router_id 99 ## 虚拟路由的 ID 号，两个节点设置必须一样，可选 IP 最后一段使用, 相
同的 VRID 为一个组，他将决定多播的 MAC 地址
 mcast_src_ip 192.168.126.99 ## 本机 IP 地址
 priority 100 ## 节点优先级，值范围 0-254，MASTER 要比 BACKUP 高
nopreempt ## 优先级高的设置 nopreempt 解决异常恢复后再次抢占的问题
advert_int 1 ## 组播信息发送间隔，两个节点设置必须一样，默认 1s
## 设置验证信息，两个节点必须一致
authentication {
 auth_type PASS
 auth_pass 1111 ## 真实生产，按需求对应该过来
}
## 将 track_script 块加入 instance 配置块
 track_script {
 chk_nginx ## 执行 Nginx 监控的服务
}
## 虚拟 IP 池, 两个节点设置必须一样
 virtual_ipaddress {
    192.168.126.98 ## 虚拟 ip，可以定义多个
 }
}

6、覆盖主、副节节点的配置到 /etc/keepalived/

# 覆盖主节点以及副节点目录 /etc/keepalived/下的keepalived.conf 配置
cp /usr/local/server/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/

7、Nginx检查脚本

　　在/etc/keepalived目录下创建nginx_check.sh文件；用于keepalived检查nginx是否运行正常，运行异常就杀掉nginx进程

#!/bin/bash
A=`ps -C nginx –no-header |wc -l`
if [ $A -eq 0 ];then
   # 尝试重新启动nginx  
   # /usr/local/myserver/nginx/sbin/nginx 

   # 此操作睡眠2秒
   # sleep 2

   # 如发现nginx挂掉，直接kill进程
    if [ `ps -C nginx --no-header |wc -l` -eq 0 ];then
        killall keepalived
    fi
fi

8、启用测试

　　注意：启动时如有问题可查看日志， keepalived日志文件路径：/var/log/messages

　　1、主、从机器都启动keepalived,这时访问192.168.126.98时路由到主节点99的nginx;

　　2、这时 ./nginx -s quit 停止nginx程序，脚本感应到后就killall keepalived ，keepalived程序关闭；这时继续访问192.168.126.98时路由到100的从节点上；

　　3、重新启动nginx以及keepalived后，访问192.168.126.98时路由到主节点99的nginxkep

三、keepalived常用命令

#启动keepalived
keepalived

#杀掉keepalived的进程
killall keepalived