01-LVS工作原理和NAT模型

Posted 2020-12-20 zhouweiping

系统性能扩展
?系统性能扩展方式：
Scale UP：垂直扩展，向上扩展,增强，性能更强的计算机运行同样的服务
Scale Out：水平扩展，向外扩展,增加设备，并行地运行多个服务调度分配
问题，Cluster
?垂直扩展不再提及：
?随着计算机性能的增长，其价格会成倍增长
?单台计算机的性能是有上限的，不可能无限制地垂直扩展
?多核CPU意味着即使是单台计算机也可以并行的。那么，为什么不一开始就
并行化技术？

Cluster概念
?Cluster：集群,为解决某个特定问题将多台计算机组合起来形成的单个系统
?Linux Cluster类型：
?LB：Load Balancing，负载均衡
?HA：High Availiablity，高可用，SPOF（single Point Of failure）
MTBF:Mean Time Between Failure 平均无故障时间
MTTR:Mean Time To Restoration（ repair）平均恢复前时间
A=MTBF/（MTBF+MTTR） (0,1)：99%, 99.5%, 99.9%, 99.99%,
99.999%
?HPC：High-performance computing，高性能 www.top500.org
?分布式系统：
分布式存储： Ceph，GlusterFS，FastDFS，MogileFS
分布式计算：hadoop，Spark

集群和分布式
? 集群：同一个业务系统，部署在多台服务器上。集群中，
每一台服务器实现的功能没有差别，数据和代码都是一
样的
? 分布式：一个业务被拆成多个子业务，或者本身就是不
同的业务，部署在多台服务器上。分布式中，每一台服
务器实现的功能是有差别的，数据和代码也是不一样的，
分布式每台服务器功能加起来，才是完整的业务
? 分布式是以缩短单个任务的执行时间来提升效率的，而
集群则是通过提高单位时间内执行的任务数来提升效率。
? 对于大型网站，访问用户很多，实现一个群集，在前面
部署一个负载均衡服务器，后面几台服务器完成同一业
务。如果有用户进行相应业务访问时，负载均衡器根据
后端哪台服务器的负载情况，决定由给哪一台去完成响
应，并且一台服务器垮了，其它的服务器可以顶上来。
分布式的每一个节点，都完成不同的业务，如果一个节
点垮了，那这个业务可能就会失败

集群设计原则
?可扩展性—集群的横向扩展能力
?可用性—无故障时间(SLA)
?性能—访问响应时间
?容量—单位时间内的最大并发吞吐量(C10K 并发问题)
集群设计原则
?基础设施层面：
? 提升硬件资源性能—从入口防火墙到后端web server均使用更高性能的硬件资源
? 多域名—DNS 轮询A记录解析
? 多入口—将A记录解析到多个公网IP入口
? 多机房—同城+异地容灾
? CDN(Content Delivery Network)—基于GSLB(Global Server Load Balance)实现
全局负载均衡，如DNS

?业务层面：
? 分层：安全层、负载层、静态层、动态层、(缓存层、存储层)持久化与非持久化
? 分割：基于功能分割大业务为小服务
? 分布式：对于特殊场景的业务，使用分布式计算
分布式
?分布式应用-服务按照功能拆分，使用微服务
?分布式静态资源--静态资源放在不同的存储集群上
?分布式数据和存储--使用key-value缓存系统
?分布式计算--对特殊业务使用分布式计算，比如Hadoop集群
Cluster分类
?LB Cluster的实现

?硬件
F5 Big-IP
Citrix Netscaler
A10 A10
?软件
lvs：Linux Virtual Server，阿里四层SLB (Server Load Balance)使用
nginx：支持七层调度，阿里七层SLB使用Tengine
haproxy：支持七层调度
ats：Apache Traffic Server，yahoo捐助给apache
perlbal：Perl 编写
pound
Cluster分类
?基于工作的协议层次划分：
?传输层（通用）：DPORT

LVS：
nginx：stream
haproxy：mode tcp
?应用层（专用）：针对特定协议，自定义的请求模型分类
proxy server：
http：nginx, httpd, haproxy(mode http), ...
fastcgi：nginx, httpd, ...
mysql：mysql-proxy, ...

Cluster相关
?会话保持：负载均衡
(1) session sticky：同一用户调度固定服务器
Source IP：LVS sh算法（对某一特定服务而言）
Cookie
(2) session replication：每台服务器拥有全部session
session multicast cluster
(3) session server：专门的session服务器
Memcached，Redis

 

 

HA集群实现方案
?keepalived：vrrp协议
?Ais：应用接口规范
heartbeat
cman+rgmanager(RHCS)
coresync_pacemaker

 

LVS介绍
? LVS：Linux Virtual Server，负载调度器，内核集成，章文嵩（花名 正明）
官网：http://www.linuxvirtualserver.org/
VS: Virtual Server，负责调度
RS: Real Server，负责真正提供服务
L4：四层路由器或交换机
阿里的四层LSB(Server Load Balance)是基于LVS+keepalived实现

? 工作原理：
VS根据请求报文的目标IP和目标协议及端口将其调度转发至某RS，根据调度算法来
挑选RS
netfilter
?iptables/netfilter：
iptables：用户空间的管理工具
netfilter：内核空间上的框架
流入：PREROUTING --> INPUT
流出：OUTPUT --> POSTROUTING
转发：PREROUTING --> FORWARD --> POSTROUTING
DNAT：目标地址转换； PREROUTING

 

 

 

 

 

 

内核支持
[root@magedu ~]# grep -i -A 10 "IPVS" /boot/config-3.10.0-862.el7.x86_64
# IPVS transport protocol load balancing support
CONFIG_IP_VS_PROTO_TCP=y #开启tcp
CONFIG_IP_VS_PROTO_UDP=y #开启udp
CONFIG_IP_VS_PROTO_AH_ESP=y
CONFIG_IP_VS_PROTO_ESP=y
CONFIG_IP_VS_PROTO_AH=y
CONFIG_IP_VS_PROTO_SCTP=y #
# IPVS scheduler #默认支持的算法
CONFIG_IP_VS_RR=m
CONFIG_IP_VS_WRR=m
CONFIG_IP_VS_LC=m
CONFIG_IP_VS_WLC=m
CONFIG_IP_VS_LBLC=m
CONFIG_IP_VS_LBLCR=m
CONFIG_IP_VS_DH=m
CONFIG_IP_VS_SH=m
CONFIG_IP_VS_SED=m

 

同构和异构，lvs不支持同构异构，只支持四层传输层协议的调度

 

 

 

 

 

 

LVS概念
?lvs集群类型中的术语：
?VS：Virtual Server，Director Server(DS)
Dispatcher(调度器)，Load Balancer
?RS：Real Server(lvs), upstream server(nginx)
backend server(haproxy)
?CIP：Client IP
?VIP: Virtual serve IP VS外网的IP
?DIP: Director IP VS内网的IP
?RIP: Real server IP
?访问流程：CIP <--> VIP == DIP <--> RIP

 

 

lvs集群的类型
?lvs: ipvsadm/ipvs
ipvsadm：用户空间的命令行工具，规则管理器
用于管理集群服务及RealServer
ipvs：工作于内核空间netfilter的INPUT钩子上的框架
?lvs集群的类型：
lvs-nat：修改请求报文的目标IP,多目标IP的DNAT
lvs-dr：操纵封装新的MAC地址
lvs-tun：在原请求IP报文之外新加一个IP首部
lvs-fullnat：修改请求报文的源和目标IP

 

lvs-nat模式
?lvs-nat：
本质是多目标IP的DNAT，通过将请求报文中的目标地址和目标端口修改为某挑
出的RS的RIP和PORT实现转发
（1）RIP和DIP应在同一个IP网络，且应使用私网地址；RS的网关要指向DIP
（2）请求报文和响应报文都必须经由Director转发，Director易于成为系统瓶颈
（3）支持端口映射，可修改请求报文的目标PORT
（4）VS必须是Linux系统，RS可以是任意OS系统

 

 

 

 

 

 

 

LVS-DR模式
?LVS-DR：Direct Routing，直接路由，LVS默认模式,应用最广泛,通过为请求报
文重新封装一个MAC首部进行转发，源MAC是DIP所在的接口的MAC，目标
MAC是某挑选出的RS的RIP所在接口的MAC地址；源IP/PORT，以及目标
IP/PORT均保持不变
（1） Director和各RS都配置有VIP
（2） 确保前端路由器将目标IP为VIP的请求报文发往Director
?在前端网关做静态绑定VIP和Director的MAC地址
? 在RS上使用arptables工具
arptables -A IN -d $VIP -j DROP
arptables -A OUT -s $VIP -j mangle --mangle-ip-s $RIP
? 在RS上修改内核参数以限制arp通告及应答级别
/proc/sys/net/ipv4/conf/all/arp_ignore
/proc/sys/net/ipv4/conf/all/arp_announce

 

LVS-DR模式
（3）RS的RIP可以使用私网地址，也可以是公网地址；RIP与DIP在同一IP网络；
RIP的网关不能指向DIP，以确保响应报文不会经由Director
（4）RS和Director要在同一个物理网络
（5）请求报文要经由Director，但响应报文不经由Director，而由RS直接发往
Client
（6）不支持端口映射（端口不能修败）
（7）RS可使用大多数OS系统

 

 

 

 

 

 

 

lvs-tun模式
?lvs-tun：
转发方式：不修改请求报文的IP首部（源IP为CIP，目标IP为VIP），而在原IP报文
之外再封装一个IP首部（源IP是DIP，目标IP是RIP），将报文发往挑选出的目标
RS；RS直接响应给客户端（源IP是VIP，目标IP是CIP）
(1) DIP, VIP, RIP都应该是公网地址
(2) RS的网关一般不能指向DIP
(3) 请求报文要经由Director，但响应不经由Director
(4) 不支持端口映射
(5) RS的OS须支持隧道功能

 

 

 

 

 

lvs-fullnat模式
?lvs-fullnat：通过同时修改请求报文的源IP地址和目标IP地址进行转发
CIP --> DIP
VIP --> RIP
(1) VIP是公网地址，RIP和DIP是私网地址，且通常不在同一IP网络；因此，
RIP的网关一般不会指向DIP
(2) RS收到的请求报文源地址是DIP，因此，只需响应给DIP；但Director还
要将其发往Client
(3) 请求和响应报文都经由Director
(4) 支持端口映射
注意：此类型kernel默认不支持

 

LVS工作模式总结

 

 

?lvs-nat与lvs-fullnat：请求和响应报文都经由Director
lvs-nat：RIP的网关要指向DIP
lvs-fullnat：RIP和DIP未必在同一IP网络，但要能通信
?lvs-dr与lvs-tun：请求报文要经由Director，但响应报文由RS直接发往Client
lvs-dr：通过封装新的MAC首部实现，通过MAC网络转发
lvs-tun：通过在原IP报文外封装新IP头实现转发，支持远距离通信

 

ipvs scheduler
?ipvs scheduler：根据其调度时是否考虑各RS当前的负载状态
两种：静态方法和动态方法
?静态方法：仅根据算法本身进行调度
1、RR：roundrobin，轮询
2、WRR：Weighted RR，加权轮询
3、SH：Source Hashing，实现session sticky，源IP地址hash；将来自于同一
个IP地址的请求始终发往第一次挑中的RS，从而实现会话绑定
4、DH：Destination Hashing；目标地址哈希，第一次轮询调度至RS，后续将
发往同一个目标地址的请求始终转发至第一次挑中的RS，典型使用场景是正向代
理缓存场景中的负载均衡，如：宽带运营商

 

ipvs scheduler
?动态方法：主要根据每RS当前的负载状态及调度算法进行调度Overhead=value
较小的RS将被调度
1、LC：least connections 适用于长连接应用
Overhead=activeconns*256+inactiveconns
2、WLC：Weighted LC，默认调度方法
Overhead=(activeconns*256+inactiveconns)/weight
3、SED：Shortest Expection Delay,初始连接高权重优先
Overhead=(activeconns+1)*256/weight
4、NQ：Never Queue，第一轮均匀分配，后续SED
5、LBLC：Locality-Based LC，动态的DH算法，使用场景：根据负载状态实现
正向代理
6、LBLCR：LBLC with Replication，带复制功能的LBLC，解决LBLC负载不均衡
问题，从负载重的复制到负载轻的RS
ipvs
?ipvsadm/ipvs：
?ipvs：
grep -i -A 10 "ipvs" /boot/config-VERSION-RELEASE.x86_64
支持的协议：TCP， UDP， AH， ESP， AH_ESP, SCTP
?ipvs集群：
管理集群服务
管理服务上的RS

ipvsadm包构成
?ipvsadm：
?程序包：ipvsadm
?Unit File: ipvsadm.service
?主程序：/usr/sbin/ipvsadm
?规则保存工具：/usr/sbin/ipvsadm-save
?规则重载工具：/usr/sbin/ipvsadm-restore
?配置文件：/etc/sysconfig/ipvsadm-config

ipvsadm命令
? ipvsadm命令：
? 核心功能：
集群服务管理：增、删、改
集群服务的RS管理：增、删、改
查看
ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]] [-M netmask] [--pe
persistence_engine] [-b sched-flags]
ipvsadm -D -t|u|f service-address 删除
ipvsadm –C 清空
ipvsadm –R 重载
ipvsadm -S [-n] 保存
ipvsadm -a|e -t|u|f service-address -r server-address [options]
ipvsadm -d -t|u|f service-address -r server-address
ipvsadm -L|l [options]
ipvsadm -Z [-t|u|f service-address]

ipvsadm命令
?管理集群服务：增、改、删
?增、改：
ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]]
?删除：
ipvsadm -D -t|u|f service-address
?service-address：
-t|u|f：
-t: TCP协议的端口，VIP:TCP_PORT
-u: UDP协议的端口，VIP:UDP_PORT
-f：firewall MARK，标记，一个数字
?[-s scheduler]：指定集群的调度算法，默认为wlc

ipvsadm命令
?管理集群上的RS：增、改、删
?增、改：ipvsadm -a|e -t|u|f service-address -r server-address [-g|i|m] [-w
weight]
?删：ipvsadm -d -t|u|f service-address -r server-address
?server-address：
rip[:port] 如省略port，不作端口映射
?选项：
lvs类型：
-g: gateway, dr类型，默认
-i: ipip, tun类型
-m: masquerade, nat类型
-w weight：权重

ipvsadm命令
?清空定义的所有内容：ipvsadm –C
?清空计数器：ipvsadm -Z [-t|u|f service-address]
?查看：ipvsadm -L|l [options]
--numeric, -n：以数字形式输出地址和端口号
--exact：扩展信息，精确值
--connection，-c：当前IPVS连接输出
--stats：统计信息
--rate ：输出速率信息
?ipvs规则：/proc/net/ip_vs
?ipvs连接：/proc/net/ip_vs_conn