负载均衡（集群介绍,lvs介绍，LVS调度算法，NAT模式搭建）

Posted 2020-10-22

一、负载均衡集群介绍

负载均衡集群：简单地说就是让多台服务器均衡地去承载压力。

实现负载均衡的开源软件有：LVS，keepalived，haproxy,nginx等

其中相对于（网络OSI七层模型），LVS属于四层，Nginx属于七层，haproxy既可以认为四层，也可以认为是七层。

keepalived的负载均衡功能其实就是lvs

lvs这种4层的负载均衡是可以分发出80外的其他端口通信的，比如mysql，而七层nginx仅仅支持http.https,mail,haproxy也支持mysql这种。

相比较来说，LVS这种4层的更稳定，能承受更多的情趣，而Nginx这种7层的更加灵活，能实现更多的个性化需求。

二、LVS介绍

LVS由国人章文嵩开发，流行度不亚于httpd，基于TCP/IP做的路由和转发，稳定性和效率很高

LVS有三种常见的模式：NAT，DR，IP Tunnel

LVS架构中有一个核心角色叫做分发器（Load Balancer），它用来分发用户的请求，还有诸多处理用户请求的服务器（RealServer,简称rs）

LVS的NAT模式：

这种模式借助iptables的nat表来实现，用户的请求到分发器后，通过预设的iptables规则，把请求的数据包转发到后端的rs上去。

rs需要设定网关为分发器的内网ip，用户请求的数据包和返回的用户的数据包全部经过分发器，所以分发器成为瓶颈。

优点：在NAT模式中，只需要分发器有公网Ip，分发器和rs之间可以用内网通信，所以比较节省公网ip资源

缺点：分发器成为瓶颈，请求量不能太大。规模保持在10台左右。

删除笔记修改笔记

LVS IP Tunnel模式

我们可以想象分发器和每个rs之间建立了一个虚拟通道。这种模式，需要有一个公共的IP配置在分发器和所有rs上，我们把它叫做vip，

原理是客户端请求的目标IP为vip，分发器接收到请求数据包后，会对数据包做一个交工，会把目标IP由vip更改为rs的IP，这样数据包就到了rs上。

rs接受数据包后，会还原原始数据包，这样目标IP为vip，因为所有的rs上配置了这样一个vip，所以它会认为是它自己。

LVS DR模式

这种模式也需要一个公共的ip配置在分发器和所有rs上，也就是vip，

和IP Tunnel不同的是，它会把所有的MAC地址修改为rs的MAC，

rs接收数据包后，会还原原始数据包，这样目标IP为vip,因为所有rs上配置了这个vip，所以它会认识是它自己。

三、LVS调度算法

常用的4种

轮询：Round-Robin rr                        （任务均衡的分发到rs上）

加权轮询：Weight Round-Robin wrr                 （带权重的轮询，例如一个rs的配置好，你可以将它权重设置高一点）

最小连接：Least-Connection lc                     （把新的任务发送到请求数少的rs上）

加权最小连接：Weight Least-Connection wlc           （带权重的最小连接）

不常用的4种

基于局部性的最小连接：Locality-Based Least Connections lblc    

带复制的基于局部性最小链接：Locality-Based Least Connections with Replication lblcr

目标地址散列调度：Destination Hashing dh

源地址散列调度：Source Hashing sh

四、NAT模式搭建

准备工作：

三台机器

分发器，也叫调度器（dir）

内网：192.168.52.100  外网：192.168.211.100 （vmware仅主机模式）

rs1：

内网：192.168.52.101  网关GATEWAY：192.168.52.100  （将网关设置成分发器的内网）

[[email protected] ~]# route -n

Kernel IP routing table

Destination     Gateway         Genmask         Flags Metric Ref    Use Iface

0.0.0.0       192.168.52.100    0.0.0.0         UG    100    0        0 ens33

192.168.52.0    0.0.0.0         255.255.255.0     U     100    0        0 ens33

rs2:

外网：192.168.52.102  网关GATEWAY：192.168.52.100  （将网关设置成分发器的内网）

[[email protected] ~]# route -n

Kernel IP routing table

Destination     Gateway         Genmask         Flags Metric Ref    Use Iface

0.0.0.0       192.168.52.100    0.0.0.0        UG    100    0        0 ens33

192.168.52.0    0.0.0.0         255.255.255.0    U     100    0        0 ens33

三台机器关闭防火墙：

[[email protected] ~]# systemctl stop firewalld

[[email protected] ~]# systemctl disable firewalld

三台机器使用centos6中iptables的规则：

[[email protected] ~]# yum install iptable-service -y

[[email protected] ~]# systemctl start iptables

[[email protected] ~]# iptables -F

[[email protected] ~]# service iptables save

[[email protected] ~]# systemctl enable iptables

三台机器关闭selinux：

[[email protected] ~]# setenforce 0

配置：

在dir上安装ipvsadm （这个工具是实现lvs的重要工具，只用在分发器上安装）

[[email protected] ~]# yum install ipvsadm -y

在dir上编辑脚本，在ipvsadm上最好用脚本去执行命令，方便简洁：

[[email protected] ~]# vim /usr/local/sbin/lvs.nat.sh

#! /bin/bash

# director 服务器上开启路由转发功能

echo 1 > /proc/sys/net/ipv4/ip_forward

# 关闭icmp的重定向

echo 0 > /proc/sys/net/ipv4/conf/all/send_redirects

echo 0 > /proc/sys/net/ipv4/conf/default/send_redirects

# 注意区分网卡名字，阿铭的两个网卡分别为ens33和ens37

echo 0 > /proc/sys/net/ipv4/conf/ens33/send_redirects

echo 0 > /proc/sys/net/ipv4/conf/ens37/send_redirects

# director 设置nat防火墙

iptables -t nat -F

iptables -t nat -X

#同网段的内网可以上网

iptables -t nat -A POSTROUTING -s 192.168.52.0/24  -j MASQUERADE

# director设置ipvsadm

IPVSADM='/usr/sbin/ipvsadm'

$IPVSADM -C

$IPVSADM -A -t 192.168.221.100:80 -s rr 

$IPVSADM -a -t 192.168.221.100:80 -r 192.168.52.101:80 -m -w 1

$IPVSADM -a -t 192.168.221.100:80 -r 192.168.52.102:80 -m -w 1

[[email protected] ~]# sh !$

sh /usr/local/sbin/lvs.nat.sh

测试：两台机子上都要安装Nginx/

dir用Yum安装nginx，修改主页：

[[email protected] ~]# vim /usr/share/nginx/html/index.html

dir,dir,dir

rs1用源码包安装nginx，修改主页：

[[email protected] ~]# vim /data/wwwroot/default/index.html 

rs1,rs1,rs1

rs2用yum 安装，修改主页：

[[email protected] ~]# vim /usr/share/nginx/html/index.html

rs2,rs2,rs2

curl测试：

[[email protected] ~]# curl 192.168.221.100

rs2,rs2,rs2

[[email protected] ~]# curl 192.168.221.100

rs1,rs1,rs1

[[email protected] ~]# curl 192.168.221.100

rs2,rs2,rs2

[[email protected] ~]# curl 192.168.221.100

rs1,rs1,rs1

[[email protected] ~]# curl 192.168.221.100

rs2,rs2,rs2

[[email protected] ~]# curl 192.168.221.100

rs1,rs1,rs1