初识LVS负载均衡群集+NET模式群集部署 ^O^

Posted 28线不知名云架构师

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了初识LVS负载均衡群集+NET模式群集部署 ^O^相关的知识，希望对你有一定的参考价值。

一、LVS简介

 LVS是Linux Virtual Server的简称，即Linux虚拟服务器，创始人前阿里云首席科学家章文嵩博士(现已经在滴滴)，官方网站：www.linuxvirtualserver.org。从内核版本2.4开始，已经完全内置了LVS的各个功能模块，无需给内核打任何补丁，可以直接使用LVS提供的各种功能。通过LVS提供的负载均衡技术和Linux操作系统可实现一个高性能、高可用的服务器群集，它具有良好可靠性、可扩展性和可操作性，以低廉的成本实现最优的服务性能。

二、LVS基本原理

  1. 当用户向负载均衡调度器（Director Server）发起请求，调度器将请求发往至内核空间。
  2. PREROUTING链首先会接收到用户请求，判断目标IP确定是本机IP，将数据包发往INPUT链。
  3. IPVS是工作在INPUT链上的，当用户请求到达INPUT时，IPVS会将用户请求和自己已定义好的集群服务进行比对，如果用户请求的就是定义的集群服务，那么此时IPVS会强行修改数据包里的目标IP地址及端口，并将新的数据包发往POSTROUTING链。
  4. POSTROUTING链接收数据包后发现目标IP地址刚好是自己的后端服务器，那么此时通过选路，将数据包最终发送给后端的服务器。

三、LVS组成

LVS 由2部分程序组成，包括 ipvs 和 ipvsadm。

  1. IPVS(ip virtual server)：一段代码工作在内核空间，叫IPVS，是真正生效实现调度的代码。IPVS的总体结构主要由IP包处理、负载均衡算法、系统配置与管理三个模块及虚拟服务器与真实服务器链表组成。
  2. ipvsadm：另外一段是工作在用户空间，叫ipvsadm，即IPVS管理器，负责为ipvs内核框架编写规则，定义谁是集群服务，而谁是后端真实的服务器(Real Server)。

四、LVS技术术语

  • DS：Director Server。指的是前端负载均衡器节点。
  • RS：Real Server。后端真实的工作服务器。
  • VIP：Virtual IP，向外部直接面向用户请求，作为用户请求的目标的IP地址。
  • DIP：Director Server IP，主要用于和内部主机通讯的IP地址。
  • RIP：Real Server IP，后端服务器的IP地址。
  • CIP：Client IP，访问客户端的IP地址。

五、LVS工作模式和原理

5.1、NET模式

5.1.1、NET模式及工作原理

  1. 当用户请求到达Director Server，此时请求的数据报文会先到内核空间的PREROUTING链。 此时报文的源IP为CIP，目标IP为VIP。
  2. PREROUTING检查发现数据包的目标IP是本机，将数据包送至INPUT链。
  3. IPVS比对数据包请求的服务是否为集群服务，若是，修改数据包的目标IP地址为后端服务器IP，然后将数据包发至POSTROUTING链。 此时报文的源IP为CIP，目标IP为RIP。
  4. POSTROUTING链通过选路，将数据包发送给Real Server
  5. Real Server比对发现目标为自己的IP，开始构建响应报文发回给Director Server。 此时报文的源IP为RIP，目标IP为CIP。
  6. Director Server在响应客户端前，此时会将源IP地址修改为自己的VIP地址，然后响应给客户端。 此时报文的源IP为VIP，目标IP为CIP。

5.1.2、NET特性

  • RIP最好是内网IP
  • RS的网关必须指向DIP。
  • DIP和RIP必须在同一个网段内。
  • 请求和回应的报文都必须经过director，director容易成为瓶颈。
  • nat支持端口转发。

5.2、DR模式

5.2.1、DR模式工作原理

  1. 首先用户用CIP请求VIP。
  2. 根据上图可以看到,不管是Director Server还是Real Server上都需要配置相同的VIP,那么当用户请求到达我们的集群网络的前端路由器的时候,请求数据包的源地址为CIP目标地址为VIP,此时路由器会发广播问谁是VIP,那么我们集群中所有的节点都配置有VIP,此时谁先响应路由器那么路由器就会将用户请求发给谁,这样一来我们的集群系统是不是没有意义了,那我们可以在网关路由器上配置静态路由指定VIP就是Director Server,或者使用一种机制不让Real Server 接收来自网络中的ARP地址解析请求,这样一来用户的请求数据包都会经过Director Servrer。
  3. 当用户请求到达Director Server，此时请求的数据报文会先到内核空间的PREROUTING链。 此时报文的源IP为CIP，目标IP为VIP。
  4.  PREROUTING检查发现数据包的目标IP是本机，将数据包送至INPUT链。
  5.  IPVS比对数据包请求的服务是否为集群服务，若是，将请求报文中的源MAC地址修改为DIP的MAC地址，将目标MAC地址修改RIP的MAC地址，然后将数据包发至POSTROUTING链。 此时的源IP和目的IP均未修改，仅修改了源MAC地址为DIP的MAC地址，目标MAC地址为RIP的MAC地址
  6.  由于DS和RS在同一个网络中，所以是通过二层来传输。POSTROUTING链检查目标MAC地址为RIP的MAC地址，那么此时数据包将会发至Real Server。
  7.  RS发现请求报文的MAC地址是自己的MAC地址，就接收此报文。处理完成之后，将响应报文通过lo接口传送给eth0网卡然后向外发出。 此时的源IP地址为VIP，目标IP为CIP
  8. 响应报文最终送达至客户端。

5.2.2、配置DR有三种方式

第一种方式：

在路由器上明显说明vip对应的地址一定是Director上的MAC，只要绑定，以后再跟vip通信也不用再请求了，这个绑定是静态的，所以它也不会失效，也不会再次发起请求，但是有个前提，我们的路由设备必须有操作权限能够绑定MAC地址，万一这个路由器是运行商操作的，我们没法操作怎么办？第一种方式固然很简便，但未必可行。

第二种方式：

在给别主机上（例如：红帽）它们引进的有一种程序arptables,它有点类似于iptables,它肯定是基于arp或基于MAC做访问控制的，很显然我们只需要在每一个real server上定义arptables规则，如果用户arp广播请求的目标地址是本机的vip则不予相应，或者说相应的报文不让出去，很显然网关（gateway）是接受不到的，也就是director相应的报文才能到达gateway，这个也行。第二种方式我们可以基于arptables。

第三种方式：

在相对较新的版本中新增了两个内核参数(kernelparameter)，第一个是arp_ignore定义接受到ARP请求时的相应级别;第二个是arp_announce定义将自己地址向外通告时的通告级别。【提示：很显然我们现在的系统一般在内核中都是支持这些参数的，我们用参数的方式进行调整更具有朴实性，它还不依赖于额外的条件，像arptables,也不依赖外在路由配置的设置，反而通常我们使用的是第三种配置】

arp_ignore:定义接受到ARP请求时的相应级别

0：  只要本地配置的有相应地址，就给予响应。（默认）

1：  仅回应目标IP地址是本地的入网地址的arp请求。

2：  仅回应目标IP地址是本地的入网地址，而且源IP和目标IP在同一个子网的arp请   求。

3：  不回应该网络界面的arp请求，而只对设置的唯一和连接地址做出回应

4-7：保留未使用

8：  不回应所有的arp请求。

arp_announce：定义将自己地址向外通告是的通告级别;

0:    将本地任何接口上的任何地址向外通告

1：  试图仅向目标网络通告与其网络匹配的地址

2：  仅向与本地接口上地址匹配的网络进行通告

5.2.3、DR特性

  • 特点1：保证前端路由将目标地址为VIP报文统统发给Director Server，而不是RS。
  • Director和RS的VIP为同一个VIP。
  • RS可以使用私有地址；也可以是公网地址，如果使用公网地址，此时可以通过互联网对RIP进行直接访问。
  • RS跟Director Server必须在同一个物理网络中。
  • 所有的请求报文经由Director Server，但响应报文必须不能进过Director Server。
  • 不支持地址转换，也不支持端口映射
  • RS可以是大多数常见的操作系统
  • RS的网关绝不允许指向DIP(因为我们不允许他经过director)
  • RS上的lo接口配置VIP的IP地址
  • DR模式是市面上用得最广的。
  • 缺陷：RS和DS必须在同一机房中

补充：特点1的解决方法

  1. 在前端路由器做静态地址路由绑定，将对于VIP的地址仅路由到Director Server。存在问题：用户未必有路由操作权限，因为有可能是运营商提供的，所以这个方法未必实用。
  2. arptables：在arp的层次上实现在ARP解析时做防火墙规则，过滤RS响应ARP请求。这是由iptables提供的。
  3. 修改RS上内核参数（arp_ignore和arp_announce）将RS上的VIP配置在lo接口的别名上，并限制其不能响应对VIP地址解析请求

5.3、Tunnel模式

5.3.1、Tunnel模式工作原理

  1. 当用户请求到达Director Server，此时请求的数据报文会先到内核空间的PREROUTING链。 此时报文的源IP为CIP，目标IP为VIP 。
  2. PREROUTING检查发现数据包的目标IP是本机，将数据包送至INPUT链。
  3. IPVS比对数据包请求的服务是否为集群服务，若是，在请求报文的首部再次封装一层IP报文，封装源IP为为DIP，目标IP为RIP。然后发至POSTROUTING链。 此时源IP为DIP，目标IP为RIP。
  4. POSTROUTING链根据最新封装的IP报文，将数据包发至RS（因为在外层封装多了一层IP首部，所以可以理解为此时通过隧道传输）。 此时源IP为DIP，目标IP为RIP。
  5. RS接收到报文后发现是自己的IP地址，就将报文接收下来，拆除掉最外层的IP后，会发现里面还有一层IP首部，而且目标是自己的lo接口VIP，那么此时RS开始处理此请求，处理完成之后，通过lo接口送给eth0网卡，然后向外传递。 此时的源IP地址为VIP，目标IP为CIP
  6. 响应报文最终送达至客户端

5.3.2、Tunnel模式特性

  • RIP、VIP、DIP全是公网地址。
  • RS的网关不会也不可能指向DIP
  • 所有的请求报文经由Director Server，但响应报文必须不能进过Director Server
  • 不支持端口映射
  • RS的系统必须支持隧道

5.4、三种工作模式区别

 

5.5、LVS的管理工具–ipvsadm

ipvsadm功能与选项说明：

 

六、LVS的负载调度算法

1、轮询(Round Robin)

将收到的访问请求按照顺序轮流分配给群集中的各节点(真实服务器) ,均等地对待每一台服务器 ，而不管服务器实际的连接数和系统负载

2、加权轮询 (Weighted Round Robin)

根据调度器设置的权重值来分发请求，权重值高的节点优先获得任务，分配的请求数越多
保证性能强的服务器承担更多的访问流量

3、最少连接 (Least Connections )

根据真实服务器已建立的连接数进行分配，将收到的访问请求优先分配给连接数最少的节点

4、加权最少连接(Weighted L east Connections )

在服务器节点的性能差异较大时，可以为真实服务器自动调整权重
性能较高的节点将承担更大比例的活动连接负载

七、群集的概念

  • 集群、群集
  • 由多台主机构成，但对外，只表现为一个整体，只提供一个访问入口（域名或IP），相当于一台大型计算机。

7.1、群集存在的必要

互联网应用中，随着站点对硬件性能、响应速度、服务稳定性、数据可靠性等要求越来越高，单台服务器无法满足负载均衡及高可用的需求

7.2、解决方法

  • 使用价格昂贵的小型机、大型机。
  • 使用多台相对廉价的普通服务器构建服务群集。
  • 通过整合多台服务器，使用LVS来达到服务器高可用和负载均衡，并于同一个IP地址对外提供相同服务。
  • 这就是企业中常用的一种群集技术——LVS（Linux Virtual Server ，Linux虚拟服务器）

7.3、群集的分类

负载均衡群集 代理服务器服务器的参与 分配资源来处理
高可用群集 虚拟ip的参与 两台代理服务器 只要有一台代理节点存活的话 虚拟ip就存在
高性能运算群集 云平台

负载均衡群集（Load Balance Cluster）
以提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标，获得高并发、高负载(LB)的整体性能，
例如，"轮询”“应用层交换”“反向代理”等都可用作负载均衡群集

依赖的机制：LB的负载分配依赖于主节点的分流算法，将来自客户机的访问请求分担给多个服务器节点，从而缓解整个系统的负载

高可用群集（High Availability Cluster）
以提高应用系统的可靠性、尽可能地减少中断时间为目标，确保服务的连续性，达到高可用（HA）的容错效果
例如，“故障切换”“双机热备”“多机热备”等都属于高可用群集技术

HA的工作方式包括双工和主从两种模式：
双工，两个平级状态的协同工作，随时顶替对方
带有主从模式的，一台主，多台从，称为中心化群集
去中心化机制：没有真正的主，如果有，也是象征意义的，所有节点都干活（Redis的群集就是典型去中心化机制）

高性能运算群集 (High Performance Computer Cluster)
以提高应用系统的CPU运算速度、扩展硬件资源和分析能力为目标，获得相当于大型、超级计算机的高性能运算（HPC）能力，依赖于“分布式运算″、“并行计算”，通过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起，实现只有大型、超级计算机才具备的计算能力
例如，“云计算”“网格计算”也可视为高性能运算的一种体现

 八、NAT模式LVS负载均衡群集部署

  • LVS调度器作为Web 服务器池的网关，LVS具有两块网卡，分别连接内外网，使用轮询（rr）调度算法

环境配置

主机操作系统IP地址工具/软件/安装包
负载均衡器centos7

内网：192.168.184.10 

外网：12.0.0.1

ipsadm
NFS服务器centos7192.168.184.20rpcbind、nfs-utils
web节点服务器1centos7192.168.184.30rpcbind、nfs-utils、httpd
web节点服务器2centos7192.168.184.40rpcbind、nfs-utils、httpd
客户端windos1012.0.0.12---------------

 1、部署共享存储（NFS服务器：192.168.184.20）

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

yum -y install nfs-utils rpcbind

systemctl start rpcbind.service
systemctl start nfs.service

systemctl enable nfs.service
systemctl enable rpcbind.service

mkdir /opt/lic
mkdir /opt/kiki

chmod 777 /opt/lic 
chmod 777 /opt/kiki

vim /etc/exports
/usr/share *(ro,sync)
/opt/lic 192.168.184.0/24(rw,sync)
/opt/kiki 192.168.184.0/24(rw,sync)

exportfs -rv

2、配置节点服务器（192.168.184.30、192.168.184.40）

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

yum install httpd -y
systemctl start httpd.service
systemctl enable httpd.service

yum -y install nfs-utils rpcbind
showmount -e 192.168.184.20

systemctl start rpcbind
systemctl enable rpcbind

Web-1（192.168.184.30）

mount.nfs 192.168.184.20:/opt/lic /var/www/html
echo 'this is lic web!' > /var/www/html/index.html

Web-2（192.168.184.40）

mount.nfs 192.168.184.20:/opt/kiki /var/www/html
echo 'this is kiki web!' > /var/www/html/index.html

3、配置负载调度器（内网关 ens33：192.168.184.10，外网关 ens37：12.0.0.1）

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

（1）配置SNAT转发规则

vim /etc/sysctl.conf
net.ipv4.ip_forward = 1
或
echo '1' > /proc/sys/net/ipv4/ip_forward
sysctl -p

iptables -t nat -F
iptables -F
iptables -t nat -A POSTROUTING -s 192.168.184.0/24 -o ens37 -j SNAT --to-source 12.0.0.1

（2）加载LVS内核模块

modprobe ip_vs					#加载 ip_vs模块
cat /proc/net/ip_vs				#查看 ip_vs版本信息

（3）安装ipvsadm 管理工具

yum -y install ipvsadm

启动服务前须保存负载分配策略

ipvsadm-save > /etc/sysconfig/ipvsadm
或
ipvsadm --save > /etc/sysconfig/ipvsadm

systemctl start ipvsadm.service

（4）配置负载分配策略（NAT模式只要在服务器上配置，节点服务器不需要特殊配置）

ipvsadm -C 					#清除原有策略
ipvsadm -A -t 12.0.0.1:80 -s rr
ipvsadm -a -t 12.0.0.1:80 -r 192.168.184.30:80 -m
ipvsadm -a -t 12.0.0.1:80 -r 192.168.184.40:80 -m
ipvsadm						#启用策略

ipvsadm -ln					#查看节点状态，Masq代表 NAT模式
ipvsadm-save > /etc/sysconfig/ipvsadm						#保存策略

4、验证

在一台IP为12.0.0.12的客户机使用浏览器访问 http://12.0.0.1/ ，不断刷新浏览器测试负载均衡效果，刷新间隔需长点。

以上是关于初识LVS负载均衡群集+NET模式群集部署 ^O^的主要内容，如果未能解决你的问题，请参考以下文章

LVS负载均衡群集架构：NET模式群集部署

LVS负载均衡群集部署之——NAT模式的介绍及搭建步骤

LVS负载均衡群集与NAT模式LVS负载均衡部署

群集 之 LVS负载均衡（NAT模式）

LVS负载均衡群集与NAT模式LVS负载均衡部署

LVS负载均衡群集概念NAT模式LVS负载均衡实战部署