群集 之 LVS负载均衡（NAT模式）
Posted 奋斗的蜗牛灬
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了群集 之 LVS负载均衡（NAT模式）相关的知识，希望对你有一定的参考价值。
目录
前言
要理解群集（集群）的含义；
一、企业群集应用概述
1.1 群集的概念
群集的含义：
- Cluster，集群、群集
- 由多台主机构成，但对外只表现为一个整体，只提供一个访问入口（域名或IP地址），相当于一台大型计算机。
现阶段存在的问题：
- 互联网应用中，随着站点对硬件性能、响应速度、服务稳定性、数据可靠性等要求越来越高，单台服务器已经无法满足负载均衡及高可用的要求。
解决方法：
-
纵向扩展：提升服务器的硬件配置，提高CPU核数、内存大小，如使用价格昂贵的小型机、大型机；
-
横向扩展：增加提供服务的服务器数量，使用多台廉价的普通服务器构建服务群集；
1.2 企业群集分类
根据群集所针对的 目标差异，可分为三种类型：
- 负载均衡群集
- 高可用群集
- 高性能运算群集
负载均衡群集（Load Balance Cluster）：
- 提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标，获得高并发、高负载 (LB) 的整体性能。
- LB 的负载分配 依赖于主节点的分流算法，将来自客户机的访问请求分担给多个服务器节点，从而缓解整个系统的负载。
- 例如：“DNS轮询”、“反向代理”等。
- 负载均衡算法有： 轮询算法 rr 、加权轮询 、最小连接 、 ip_hash 、url_hash、fair。
高可用群集（High Availability Cluster）：
- 提高应用系统的可靠性、尽可能地 减少中断时间 为目标，确保服务的连续性，达到 高可用 (HA) 的容错效果。
- HA 的工作方式包括： 双工 和 主从 两种模式；双工即所有节点同时在线；主从则只有主节点在线，但当出现故障时从节点能自动切换为主节点。
- 例如：“故障切换”、“双机热备” 等。
高性能运算群集（High Performance Computer Cluster）：
- 以 提高应用系统的 CPU运算速度、扩展硬件资源 和 分析能力为目标，获得相当于大型、超级计算机的高性能运算(HPC)能力。
- 高性能依赖于"分布式运算”、“并行计算” ， 通过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起，实现只有大型、超级计算机才具备的计算能力。
- 例如，“云计算”、“网格计算”等。
这三种类型中，负载均衡群集和高可用群集 通常结合起来进行使用。
二、LVS 负载均衡群集
-
在企业中常用的一种群集技术 —— LVS （Linux Virtual Server，Linux 虚拟服务器)
-
通过整合多台服务器，使用 LVS 来达到服务器的 高可用 和 负载均衡，并以 同一个IP地址 对外提供相同的服务。
2.1 负载均衡群集架构
【负载均衡的结构】：
第一层：负载均衡/调度器（Load Balancer 或 Director）
- 访问整个群集系统的唯一入口， 对外使用所有服务器共有的 VIP地址（虚拟IP地址），也称为 群集IP地址。
- 通常会配置主、备两台调度器实现热备份，当主调度器失效以后能够平滑替换至备用调度器，确保高可用性。
- 调度器通过算法把用户的请求 分给 服务器池中的真实服务器
- 客户端通过 VIP 来访问群集
第二层：服务器池（Server Pool）
- 群集所 提供的应用服务、由服务器池承担，其中每个节点具有独立的RIP地址（真实IP），只处理调度器分发过来的客户机请求。
- 当某个节点暂时失效时，负载调度器的容错机制会将其 隔离，等待错误排除以后再重新纳入服务器池。
第三层：共享存储（Share Storage）
- 为服务器池中的所有节点提供稳定、一致的文件存取服务， 确保整个群集的统一性。
- 共享存储可以使用 NAS设备（网络附属存储设备），或者提供 NFS共享服务的专用服务器。
- 如使用 NFS 协议，需要在服务器池中的服务器上 远程挂载这个NFS共享出来的文件，才能进行读写。
- 如使用 NAS 设备，也需要做主备
负载均衡结构图解：
2.2 负载均衡群集工作模式分析
- 负载均衡群集 是目前企业用得最多的群集类型
- 群集的负载调度技术有三种工作模式，模式如下：
2.2.1 NAT 模式 ------ NAT 地址转换
- Network Address Translation，简称 NAT 模式；
- 类似于防火墙的私有网络结构，负载调度器 作为 所有服务器节点的网关，即作为客户机的 访问入口，也是各节点回应客户机的 访问出口；因此这台负载调度器的压力会大。
- 服务器节点使用私有IP地址，与负载调度器位于同一个物理网络，安全性要优于其他两种方式；
- 配置时需要结合 iptables 防火墙 的 SNAT 和 DNAT 使用 ；
- 出口时，要将私网IP转换成公网IP
2.2.2 TUN 模式 ------ IP 隧道
- IP Tunnel，简称 TUN 模式
- 采用开放式的网络结构，负载调度器仅作为客户机的访问入口，各节点通过各自的 Internet 连接直接 回应客户机，而不再经过负载调度器；
- 服务器节点分散在互联网中的不同位置，具有独立的公网IP地址，通过专用 IP 隧道 与 负载调度器相互通信；
- 由于服务器面向公网，是开放式网络，容易受到攻击
2.2.3 DR 模式 ------ 直接路由
- Direct Routing，简称 DR 模式
- 采用半开放式的网络结构，与 TUN 模式 的结构类似，但各节点并不是分散在各地，而是与调度器位于同一个物理网络；
- 负载调度器与各节点服务器通过本地网络连接，不需要建立专用的 IP 隧道
隧道模式与 NAT 模式区别：
- NAT 模式进出都要经过调度器，隧道模式只有进入才会经过调度器。
NAT 模式 和 DR模式的区别：
-
相同点：两者都会将 负载调度器 作为访问的入口，
-
区别1： NAT 模式进行回应客户机的请求的时候，也是用调度器作为出口，而DR模式 节点服务器作为响应的时候，消息直接返回给客户机，不经过调度器。
-
区别2：NAT模式在出网关的时候会经过一次NAT转换，将源地址从内网IP转换成公网IP，会起到保护结点服务器的作用。 而 DR模式 的服务器地址会直接暴露给客户端。
隧道模式与 DR 模式区别：
- DR的调度器和服务器是在同一个局域网中，TUN模式不在同一个局域网中，使用IP隧道进行通信。
NAT模式（VS-NAT）
原理：首先负载均衡器接收到客户的请求数据包时，根据调度算法决定将请求发送给哪个后端的真实服务器（RS）。然后负载均衡器就把客户端发送的请求数据包的目标IP地址及端口改成后端真实服务器的IP地址（RIP）。真实服务器响应完请求后，查看默认路由，把响应后的数据包发送给负载均衡器，负载均衡器在接收到响应包后，把包的源地址改成虚拟地址（VIP）然后发送回给客户端。
优点：集群中的服务器可以使用任何支持TCP/IP的操作系统，只要负载均衡器有一个合法的IP地址。
缺点：扩展性有限，当服务器节点增长过多时，由于所有的请求和应答都需要经过负载均衡器，因此负载均衡器将成为整个系统的瓶颈。
直接路由模式（VS-DR）
原理：首先负载均衡器接收到客户的请求数据包时，根据调度算法决定将请求发送给哪个后端的真实服务器（RS）。然后负载均衡器就把客户端发送的请求数据包的目标MAC地址改成后端真实服务器的MAC地址（R-MAC）。真实服务器响应完请求后，查看默认路由，把响应后的数据包直接发送给客户端，不需要经过负载均衡器。
优点：负载均衡器只负责将请求包分发给后端节点服务器，而RS将应答包直接发给用户。所以，减少了负载均衡器的大量数据流动，负载均衡器不再是系统的瓶颈，也能处理很巨大的请求量。
缺点：需要负载均衡器与真实服务器RS都有一块网卡连接到同一物理网段上，必须在同一个局域网环境。
IP隧道模式（VS-TUN）
原理：首先负载均衡器接收到客户的请求数据包时，根据调度算法决定将请求发送给哪个后端的真实服务器（RS）。然后负载均衡器就把客户端发送的请求报文封装一层IP隧道（T-IP）转发到真实服务器（RS）。真实服务器响应完请求后，查看默认路由，把响应后的数据包直接发送给客户端，不需要经过负载均衡器。
优点：负载均衡器只负责将请求包分发给后端节点服务器，而RS将应答包直接发给用户。所以，减少了负载均衡器的大量数据流动，负载均衡器不再是系统的瓶颈，也能处理很巨大的请求量。
缺点：隧道模式的RS节点需要合法IP，这种方式需要所有的服务器支持“IP Tunneling”。
http://www.360doc.com/content/18/0316/15/597197_737525322.shtml
net.ipv4等系统优化-----sysctl.conf文件内核设置参数详解
三、LVS 虚拟服务器
3.1 Linux Virtual Server
LVS （Linux Virtual Server），是 针对 Linux 内核开发的负载均衡解决方案，在 1998年5月，由我国的章文嵩博士创建，官方网站 。
-
LVS 实际上相当于 基于IP地址的虚拟化应用， 为 基于IP地址和内容请求分发的负载均衡 提出了一种高效的解决方法。（四层传输）
-
LVS 现在已成为 Linux 内核的一部分，默认编译为
ip_vs模块，必要时能够自动调用。
在CentOS 7系统中，以下操作可以手动加载 ip_vs 模块，并查看当前系统中ip_vs 模块的版本信息。
其实 LVS 有很多模块，不同的算法也有不同的模块。
modprobe ip_vs #加载ip_vs 模块
cat /proc/net/ip_vs #确认内核对LVS的支持
要使用 LVS 的更多功能，只需安装一个 LVS 的管理工具：ipvsadm
ipvsadm 的功能与选项说明：
| 选项 | 功能 |
|---|---|
| -A | 添加虚拟服务器 |
| -D | 删除整个虚拟服务器 |
| -C | 清除所有策略 |
| -s | 指定负载调度算法（轮询：rr、加权轮询：wrr、最少连接：lc、加权最少连接：wlc） |
| -a | 表示添加真实服务器（节点服务器） |
| -d | 删除某一个节点服务器 |
| -t | 指定 VIP 地址及 TCP 端口，给调度器用的 |
| -r | 指定 RIP 地址及 TCP 端口，给真实服务器节点用的 |
| -m | 表示使用 NAT 群集模式 |
| -g | 表示使用 DR 模式 |
| -i | 表示使用 TUN 模式 |
| -w | 设置权重（权重为 0 时表示暂停节点） |
| -p 60 | 表示保持长连接60秒 |
| -l | 列表查看 LVS 虚拟服务器（默认为查看所有） |
| -n | 以数字形式显示地址、端口等信息，常与 “ -l ” 选项组合使用。ipvsadm -ln |
使用 ipvsadm 工具 进行 LVS群集 创建与管理大概步骤：
- 创建虚拟服务器
- 添加、删除服务器节点
- 查看群集及节点情况
- 保存负载分配策略
3.2 LVS的负载调度算法
轮询（Round Robin）
- 将收到的访问请求 按照顺序 轮流分配给 群集中的各节点（真实服务器)，均等地 对待每一台服务器 ，而不管服务器实际的连接数和系统负载；
加权轮询（Weighted Round Robin）
- 根据调度器设置的权重值来分发请求，权重值高的节点优先获得任务，分配的请求数越多；
- 保证性能强的服务器承担更多的访问流量；
最少连接（Least Connections）
- 根据真实服务器已建立的连接数进行分配，将收到的访问请求 优先分配给连接数最少的节点；
加权最少连接（Weighted L east Connections）
- 在服务器节点的性能差异较大时，可以为真实服务器 自动调整权重；
- 性能较高的节点将承担更大比例的活动连接负载；
source_hash
- 上次访问的是这台机器，下次请求还是这台机器处理
四、基于NAT模式的 LVS负载均衡群集部署
- 部署要求：LVS调度器作为Web 服务器池的网关，LVS具有两块网卡，分别连接内外网，使用轮询（rr）调度算法。
环境参数:
| 主机 | 操作系统 | IP地址 | 所需软件服务 |
|---|---|---|---|
| 负载调度器（网关服务器） | CentOS7 | 内网关：192.168.10.30 外网关：12.0.0.1 | ipvsadm |
| NFS 服务器 | CentOS7 | 192.168.10.101 | rpcbind、nfs-utils |
| Web节点服务器1 | CentOS7 | 192.168.10.10 | rpcbind、nfs-utils、httpd |
| Web节点服务器2 | CentOS7 | 192.168.10.20 | rpcbind、nfs-utils、httpd |
| 客户端 | Windows10 | 12.0.0.12 |
- 服务器和客户机的网关都要设置，为负载调度器的内外网关地址。（跨网段访问必须要网关）
要保证几台服务器使用的都是 NAT 模式
4.1 部署共享存储 NFS 服务
NFS服务器：192.168.10.101
systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0
yum -y install nfs-utils rpcbind
systemctl start rpcbind.service
systemctl start nfs.service
systemctl enable nfs.service
systemctl enable rpcbind.service
mkdir /opt/test1
mkdir /opt/test2
chmod 777 /opt/test1
chmod 777 /opt/test2
vim /etc/exports
/usr/share *(ro,sync)
/opt/test1 192.168.10.0/24(rw,sync)
/opt/test2 192.168.10.0/24(rw,sync)
exportfs -rv
4.2 配置Web节点服务器
Web节点服务器1：192.168.10.10
Web节点服务器2：192.168.20.20
两台节点服务器步骤一样
systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0
yum install httpd -y
systemctl start httpd.service
systemctl enable httpd.service
yum -y install nfs-utils rpcbind
systemctl start rpcbind
systemctl enable rpcbind
showmount -e 192.168.10.101 #查看192.168.10.101 共享NFS服务
web 节点的网卡需要指定 负载均衡器的内网接口IP为其 网关。
192.168.10.10 配置自动挂载 NFS 共享目录
#手动临时挂载也可以
mount.nfs 192.168.163.11:/opt/test1 /var/www/html
echo 'this is test1 web!' > /var/www/html/index.html
192.168.10.20 配置自动挂载 NFS 共享目录
web 节点的网卡需要指定 负载均衡器的内网接口IP为其 网关。
4.3 配置负载调度器
需要进行IP转发，与网络地址转换
内网卡 ens33：192.168.10.30
外网卡 ens36：12.0.0.1
systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0
（1）配置SNAT转发规则
#首先要打开IP转发功能
vim /etc/sysctl.conf
net.ipv4.ip_forward = 1 #添加一行
或
echo '1' > /proc/sys/net/ipv4/ip_forward
sysctl -p #使配置生效
添加一张网卡ens36，并进行配置
#配置防护墙规则，先清空策略，再添加
iptables -t nat -F
iptables -F
iptables -t nat -A POSTROUTING -s 192.168.10.0/24 -o ens36 -j SNAT --to 12.0.0.1
#-s 源IP -o 从哪个网卡出
iptables -nL -t nat 查看nat策略
（2）加载LVS内核模块
#加载 ip_vs模块
modprobe ip_vs
#查看 ip_vs版本信息
cat /proc/net/ip_vs
全部加载
for i in $(ls /usr/lib/modules/$(uname -r)/kernel/net/netfilter/ipvs|grep -o "^[^.]*");do echo $i; /sbin/modinfo -F filename $i >/dev/null 2>&1 && /sbin/modprobe $i;done
（3）安装ipvsadm 管理工具，启并动 ipvsadm 服务
yum -y install ipvsadm
#启动服务前须保存负载分配策略，否则会启动失败 在 /var/log/messages 中能看到
ipvsadm-save > /etc/sysconfig/ipvsadm
或
ipvsadm --save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm.service
（4）配置负载分配策略
（NAT模式只要在负载均衡器服务器上配置，节点服务器不需要特殊配置）
ipvsadm -C #清除原有策略
ipvsadm -A -t 12.0.0.1:80 -s rr
ipvsadm -a -t 12.0.0.1:80 -r 192.168.10.10:80 -m [-w 1]
ipvsadm -a -t 12.0.0.1:80 -r 192.168.10.20:80 -m [-w 1]
ipvsadm
ipvsadm -nl
ipvsadm-save > /etc/sysconfig/ipvsadm
#样例，用不到
ipvsadm -d -t 12.0.0.1:80 -r 192.168.10.11:80 #删除群集中某一节点服务器
ipvsadm -D -t 12.0.0.1:80 #删除整个虚拟服务器
4.4 客户端验证
windows 客户端配置IP 12.0.0.12 、网关为 负载均衡器入口的 ens36 的 IP网卡地址
开启服务器池中 两台web 服务器的 httpd 服务。
使用浏览器访问 http://12.0.0.1/ ，不断刷新浏览器测试负载均衡效果，刷新间隔需长点.
客户端发送请求，经过 负载均衡服务器，将请求通过 轮询算法，分别执行两台 web服务器中的web 主页。
负载均衡的作用：把访问的请求按照调度策略分发到不同的服务器上面，从而加快请求响应，减少延迟，提高高并发与高负载的能力。
可以在客户端中直接访问服务器，验证主页内容
以上是关于群集 之 LVS负载均衡（NAT模式）的主要内容，如果未能解决你的问题，请参考以下文章