NAT模式与DR模式群集

Posted 2021-06-28 阳光小王子

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了NAT模式与DR模式群集相关的知识，希望对你有一定的参考价值。

群集的含义

Cluster、集群、群集
由多台主机构成，但对外，只表现为一个整体，只提供一个访问入口（域名或IP），相当于一台大型计算机

群集存在的必要

互联网应用中，随着站点对硬件性能、响应速度、服务稳定性、数据可靠性等要求越来越高，单台服务器无法满足负载均衡及高可用的需求
解决方法
使用价格昂贵的小型机、大型机
使用多台相对廉价的普通服务器构建服务群集
通过整合多台服务器，使用LVS来达到服务器高可用和负载均衡，并于同一个IP地址对外提供相同服务
这就是企业中常用的一种群集技术——LVS（Linux Virtual Server ，Linux虚拟服务器）

群集的分类

根据集群针对的目标差异，可分为三类

负载均衡群集
高可用群集
高性能群集

1.负载均衡群集(Load Balance Cluster)

提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标，获得高并发、高负载(LB)的整体性能
LB的负载分配依赖于主节点的分流算法，将来自客户机的访问请求分担给多个服务器节点，从而缓解整个系统的负载

2.高可用群集 (High Availability Cluster)

提高应用系统的可靠性、尽可能地减少中断时间为目标，确保服务的连续性，达到高可用(HA) 的容错效果
HA的工作方式包括双工和主从两种模式，双工即所有节点同时在线；主从则只有主节点在线，但当出现故障时从节点能自动切换为主节点
例如：“故障切换”、“双机热备” 等

3.高性能运算群集(High Performance Computer Cluster)

以提高应用系统的CPU运算速度、扩展硬件资源和分析能力为目标，获得相当于大型、超级计算机的高性能运算(HPC)能力
高性能依赖于"分布式运算”、“并行计算” ，通过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起，实现只有大型、超级计算机才具备的计算能力。例如，“云计算”、“网格计算”等

负载均衡群集架构

负载均衡的结构共分为三层：

第一层：负载调度器(Load Balancer或Director)
访问整个群集系统的唯一入口，对外使用所有服务器共有的VIP地址，也称为群集IP地址。通常会配置主、备两台调度器实现热备份，当主调度器失效以后能够平滑替换至备用调度器，确保高可用性
第二层：服务器池(Server Pool)
群集所提供的应用服务、由服务器池承担，其中每个节点具有独立的RIP地址(真实IP)，只处理调度器分发过来的客户机请求。当某个节点暂时失效时，负载调度器的容错机制会将其隔离，等待错误排除以后再重新纳入服务器池
第三层：共享存储(Share Storage)
为服务器池中的所有节点提供稳定、一致的文件存取服务，确保整个群集的统一性共享存储可以使用NAS设备,或者提供NFS共享服务的专用服务器

负载均衡群集工作模式分析

负载均衡群集是目前企业用得最多的群集类型
群集的负载调度技术有三种工作模式
地址转换（NAT模式）
IP隧道（TUN模式）
直接路由（DR模式）

1.NAT模式

Network Address Translation，简称NAT模式
类似于防火墙的私有网络结构，负载调度器作为所有服务器节点的网关，即作为客户机的访问入口，也是各节点回应客户机的访问出口
服务器节点使用私有IP地址，与负载调度器位于同一个物理网络，安全性要优于其他两种方式

2.TUN模式

IP Tunnel,简称TUN模式
采用开放式的网络结构，负载调度器仅作为客户机的访问入口，各节点通过各自的Internet连接直接回应客户机，而不再经过负载调度器
服务器节点分散在互联网中的不同位置,具有独立的公网IP地址，通过专用IP隧道与负载调度器相互通信

3.DR模式

Direct Routing，简称DR模式
采用半开放式的网络结构，与TUN模式的结构类似，但各节点并不是分散在各地，而是与调度器位于同一个物理网络
负载调度器与各节点服务器通过本地网络连接，不需要建立专用的IP隧道

NAT模式与DR模式的区别

NAT模式调度器既作为客户机访问的入口也作为节点回应客户机的出口而DR模式中的调度器仅作为客户机访问的入口
NAT模式中节点回应客户机时将源IP通过SNAT/NAT转换为公网IP，从而起到了保护节点作用，提高了安全性。

LVS虚拟服务器

Linux Virtual Server
针对Linux内核开发的负载均衡解决方案
1998年5月，由我国的章文嵩博士创建
官方网站: http://www.linuxvirtualserver.orgl
LVS 实际上相当于基于IP地址的虚拟化应用，为基于IP地址和内容请求分发的负载均衡提出了一种高效的解决方法
LVS现在已成为Linux内核的一部分，默认编译为ip_ vs模块，必要时能够自动调用。在CentOS 7系统中，以下操作可以手动加载ip_ vs模块，并查看当前系统中ip_ vs模块的版本信息

modprobe ip_vs
cat /proc/net/ip_vs    /查看ip_vs内核版本

LVS的负载调度算法

轮询(Round Robin)
将收到的访问请求按照顺序轮流分配给群集中的各节点(真实服务器) ,均等地对待每一台服务器，而不管服务器实际的连接数和系统负载
加权轮询 (Weighted Round Robin)
根据调度器设置的权重值来分发请求，权重值高的节点优先获得任务，分配的请求数越多
保证性能强的服务器承担更多的访问流量
最少连接 (Least Connections )
根据真实服务器已建立的连接数进行分配，将收到的访问请求优先分配给连接数最少的节点
加权最少连接(Weighted L east Connections )
在服务器节点的性能差异较大时，可以为真实服务器自动调整权重
性能较高的节点将承担更大比例的活动连接负载

ipvsadm工具

ipvsadm常用选项

-A	添加虚拟服务器
-D	删除整个虚拟服务器
-s	指定负载调度算法（轮询：rr、加权轮询：wrr、最少连接：lc、加权最少连接：wlc）
-a	表示添加真实服务器（节点服务器）
-d	删除某一个节点
-t	指定 VIP地址及 TCP端口
-r	指定 RIP地址及 TCP端口
-m	表示使用 NAT群集模式
-g	表示使用 DR模式
-i	表示使用 TUN模式
-w	设置权重（权重为 0 时表示暂停节点）
-p 60	表示保持长连接60秒
-l	列表查看 LVS 虚拟服务器（默认为查看所有）
-n	以数字形式显示地址、端口等信息，常与“-l”选项组合使用。ipvsadm -ln

LVS负载均衡群集部署(NAT模式)

部署共享存储（NFS服务器：192.168.1.50）

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

yum -y install nfs-utils rpcbind

systemctl start rpcbind.service
systemctl start nfs.service

systemctl enable nfs.service
systemctl enable rpcbind.service

mkdir /opt/accp
mkdir /opt/benet

chmod 777 /opt/accp 
chmod 777 /opt/benet

vim /etc/exports
/usr/share *(ro,sync)
/opt/lic 192.168.1.0/24(rw,sync)
/opt/kiki 192.168.1.0/24(rw,sync)

exportfs -rv

在这里插入图片描述

配置节点服务器（192.168.1.30、192.168.1.40）

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

yum install httpd -y
systemctl start httpd.service
systemctl enable httpd.service

yum -y install nfs-utils rpcbind
showmount -e 192.168.1.50

systemctl start rpcbind
systemctl enable rpcbind

在这里插入图片描述

Web-1（192.168.1.30）

mount 192.168.1.50:/opt/accp /var/www/html
echo 'this is accp web!' > /var/www/html/index.html

在这里插入图片描述

修改30节点服务器网关为192.168.1.10

在这里插入图片描述

在NFS服务器上查看30节点注入内容
Web-2（192.168.1.40）

mount.nfs 192.168.1.50:/opt/benet /var/www/html
echo 'this is benet web!' > /var/www/html/index.html

在这里插入图片描述

配置负载调度器（内网关 ens33：192.168.1.10，外网关 ens37：12.0.0.1）

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

----------------------------------------------------
配置SNAT转发规则
vim /etc/sysctl.conf
net.ipv4.ip_forward = 1
或
echo '1' > /proc/sys/net/ipv4/ip_forward
sysctl -p

iptables -t nat -F
iptables -F
iptables -t nat -A POSTROUTING -s 192.168.1.0/24 -o ens37 -j SNAT --to-source 12.0.0.1

---------------------------------------------------------------------------------------
加载LVS内核模块
modprobe ip_vs					#加载 ip_vs模块
cat /proc/net/ip_vs				#查看 ip_vs版本信息
---------------------------------------------------------------
安装ipvsadm 管理工具
yum -y install ipvsadm
-----------------------------------------------
保存负载分配策略并启动
ipvsadm-save > /etc/sysconfig/ipvsadm
或
ipvsadm --save > /etc/sysconfig/ipvsadm

systemctl start ipvsadm.service

-------------------------------------------------------------
配置负载分配策略（NAT模式只要在服务器上配置，节点服务器不需要特殊配置）
ipvsadm -C 					
#清除原有策略
ipvsadm -A -t 12.0.0.1:80 -s rr
ipvsadm -a -t 12.0.0.1:80 -r 192.168.1.30:80 -m
ipvsadm -a -t 12.0.0.1:80 -r 192.168.1.40:80 -m
ipvsadm	
#启用策略

ipvsadm -ln					
#查看节点状态，Masq代表 NAT模式
ipvsadm-save > /etc/sysconfig/ipvsadm		
#保存策略

在这里插入图片描述

配上图添加IP转发

在这里插入图片描述

验证结果
修改ip地址跟外网网段同ip

在这里插入图片描述

LVS负载均衡群集部署(DR模式)

LVS-DR数据包流向分析

客户端发送请求到Director Server (负载均衡器)，请求的数据报文(源IP是CIP, 目标IP是VIP)到达内核空间
Director Server和Real Server在同一个网络中，数据通过二层数据链路层来传输
内核空间判断数据包的目标IP是本机VIP，此时IPVS (IP虚拟服务器) 比对数据包请求的服务是否是集群服务，是集群服务就重新封装数据包。修改源MAC地址为Director Server 的MAC地址，修改目标MAC地址为Real Server 的MAC地址，源IP地址与目标IP地址没有改变，然后将数据包发送给Real Server
到达Real Server 的请求报文的MAC 地址是自身的MAC地址，就接收此报文。数据包重新封装报文 (源IP地址为VIP，目标IP为CIP)，将响应报文通过 lo 接口传送给物理网卡然后向外发出
Real Server 直接将响应报文传送到客户端

DR模式的特点

Director Server 和 Real Server 必须在同一个物理网络中
Real Server 可以使用私有地址，也可以使用公网地址。如果使用公网地址，可以通过互联网对 RIP 进行直接访问
Director Server 作为群集的访问入口，但不作为网关使用
所有的请求报文经由 Director Server，但回复响应报文不能经过 Director Server
Real Server的网关不允许指向Director Server IP，即 Real Server 发送的数据包不允许经过 Director Server
Real Server 上的 lo 接口配置 VIP 的 IP 地址

LVS-DR中出现的ARP问题

在LVS-DR负载均衡集群中，负载均衡与节点服务器都要配置相同的VIP地址
在局域网中具有相同的IP地址，势必会造成各服务器ARP通信的紊乱
解决思路
当ARP广播发送到LVS-DR集群时，因为负载均衡器和节点服务器都是连接到相同网络上，它们都会接收到ARP广播
只有前端的负载均衡器进行响应，其他节点服务器不应该响应ARP广播
对节点服务器进行处理，使其不响应针对VIP的ARP请求
解决办法
使用虚接口lo:0承载VIP地址
设置内核参数arp_ignore=1:系统只响应目的IP为本地IP的ARP请求
RealServer返回报文（源IP是VIP）经路由器转发，重新封装报文时，需要先获取路由器的MAC地址。
发送ARP请求时，Linux默认使用IP包的源IP地址（即VIP）作为ARP请求包中的源IP地址，而不使用发送接口的IP地址
如：ens33
路由器收到ARP请求后，将更新ARP表项
原有的VIP对应Director的MAC地址会被更新为VIP对应RealServer的MAC地址
路由器根据ARP表项，会将新来的请求报文转发给RealServer，导致Director的VIP失效
解决办法
对节点服务器进行处理，设置内核参数arp_announce=2：系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址

解决ARP的两个问题的设置方法

vim /etc/sysctl.conf 

net.ipv4.conf.lo.arp_ignore=1
net.ipv4.conf.lo.arp_announce=2
net.ipv4.conf.all.arp_ignore=1
net.ipv4.conf.all.arp_announce=2

DR模式群集部署

配置负载调度器

负载调度器：192.168.1.50 ens33:0 (VIP)：192.168.1.100

关闭防火墙，加载ip_vs模块
systemctl stop firewalld.service 
systemctl disable firewalld.service 
setenforce 0
---------------------------------------
加载ip_vs模块，并安装ipvsadm工具

modprobe ip_vs
cat /proc/net/ip_vs
yum install -y ipvsadm

在这里插入图片描述

配置虚拟 IP 地址（VIP：192.168.19.100）

cd /etc/sysconfig/network-scripts
cp ifcfg-ens33 ifcfg-ens33:0
vim ifcfg-ens33:0

DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.1.100
NETMASK=255.255.255.255

ifup ens33:0
ifconfig ens33:0

在这里插入图片描述

调整 proc 响应参数

/由于LVS负载调度器和各节点需要共用 VIP 地址，应该关闭Linux 内核的重定向参数响应，不充当路由器

vim /etc/sysctl.conf

net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0

sysctl -p

在这里插入图片描述

配置负载分配策略

ipvsadm-save > /etc/sysconfig/ipvsadm
或者
ipvsadm --save > /etc/sysconfig/ipvsadm

systemctl start ipvsadm.service

#清除原有策略
ipvsadm -C
ipvsadm -A -t 192.168.1.100:80 -s rr
ipvsadm -a -t 192.168.1.100:80 -r 192.168.1.30:80 -g #如果这里是隧道模式，直接将-g替换成-i即可
ipvsadm -a -t 192.168.1.100:80 -r 192.168.1.40:80 -g

#查看节点状态，Route代表 DR模式
ipvsadm   
ipvsadm -ln

在这里插入图片描述

配置节点服务器（192.168.1.30与192.168.1.1.40）

Web节点服务器1 ：192.168.1.30 lo:0 (VIP)：192.168.1.100
Web节点服务器2： 192.168.1.40 lo:0 (VIP)：192.168.1.100

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

配置虚拟 IP 地址（VIP：192.168.19.100）

#此地址仅用做发送 Web 响应数据包的源地址，并不需要监听客户机的访问请求（改由调度器监听并分发）。
#因此使用虚接口 lo:0 来承载 VIP 地址，并为本机添加一条路有记录，将访问 VIP 的数据限制在本地，以避免通信紊乱。

cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0
vim ifcfg-lo:0

DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.1.100
NETMASK=255.255.255.255

ifup lo:0
ifconfig 

#设置临时的路由，重启失效；禁锢路由
route add -host 192.168.1.100 dev lo:0
#查看路由
route -n

#补充：
开机自动添加路由，生产环境应用这个
vim /etc/rc.local
/sbin/route add -host 192.168.1.100 dev lo:0
chmod +x /etc/rc.d/rc.local

在这里插入图片描述

调整内核的ARP 响应参数以阻止更新 VIP 的MAC 地址，避免发生冲突

vim /etc/sysctl.conf
......
net.ipv4.conf.lo.arp_ignore = 1 #系统只响应目的IP为本地IP的ARP请求
net.ipv4.conf.lo.arp_announce = 2 #系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2

sysctl -p

yum install -y nfs-utils rpcbind httpd

systemctl start rpcbind
systemctl enable rpcbind
systemctl start httpd.service
systemctl enable httpd.service

---------------------------------------------------
web1节点服务器：(192.168.1.30)
[root@localhost network-scripts]# cd /var/www/html/
[root@localhost html]# ls
[root@localhost html]# vim index.html
[root@localhost html]# cat index.html
this is new web!


web2节点服务器：(192.168.1.40)
[root@localhost network-scripts]# cd /var/www/html/
[root@localhost html]# ls
[root@localhost html]# vim index.html
[root@localhost html]# cat index.html
this is old web!