聊聊微服务中的负载均衡

Posted 轩语记

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了聊聊微服务中的负载均衡相关的知识,希望对你有一定的参考价值。

简介

在微服务架构中,负载均衡器是常见的一类组件,它可以将各种形式的网络Request负载“均摊”到不同的机器上,在不同场景选用不同的负载均衡算法,能够避免集群中部分服务器压力过大,而另一些服务器比较空闲的情况,让每台服务器获取到适合自己处理能力的负载。

负载均衡可分为软件负载均衡和硬件负载均衡,本篇主要分析软件负载均衡,这是我们后端开发比较经常接触的均衡器,常见的如HAProxy、LVS、nginx、定制化的应用请求负载(RPC框架如Dubbo)等,诸如CDN、DNS也运用到了负载均衡算法。

根据网络层区分负载类型

通常会根据转发的协议类型区分为四层负载(TCP、UDP)与七层负载(HTTP、HTTPS),当然还有其他类型,例如三层甚至二层。

四层负载均衡

七层负载均衡器

七层负载均衡器根据监控应用层来决定怎样分发请求,可以根据URL、请求头的内容、甚至cookie来进行分发。七层服务只能先与负载均衡设备进行TCP连接,然后负载均衡设备再与后端服务器建立另外一条TCP连接通道,因此会比四层负载多一层的连接,在网络性能损耗会更多一些。七层负载对应用具体报内容进行处理分发,可以做一些更加精细的定制化逻辑,如针对包大小分发不同的机器。

虽然七层负载均衡比四层负载均衡花费更少时间和计算资源,但实际上依照现在一般机器的配置,对性能影响甚微。

负载均衡算法

负载均衡器会根据不同的算法dispatch请求到不同的机器,以下介绍常见的几种负载均衡算法

1.随机算法Random随机,可以按权重设置随机概率。比如有三台机器,对每个请求运行随机算法路由到不同的机器

int serverIndex = random.nextInt(serverSize);

优点是算法简单,调用量越大分布越均匀。调用量小的时候很容易不均

2.轮询及加权轮询轮询(RoundRobbin)当服务器群中各服务器的处理能力相同时,且每笔业务处理量差异不大时,最适合使用这种算法。顺序把请求给到不同的机器,比如请求1给机器A,请求2给机器B。

j = i;do { j = (j + 1) % n; i = j; return Si;} while (j != i);return null;

如果各个服务器直接性能不一,还可以给不同的机器加权,给性能好的机器更多请求,为轮询中的每台服务器附加一定权重的算法。比如服务器1权重1,服务器2权重2,服务器3权重3,则顺序为1-2-2-3-3-3-1-2-2-3-3-3。

3.最小连接最少连接(Least Connections)在多个服务器中,与处理连接数(会话数)最少的服务器进行通信的算法。即使在每台服务器处理能力各不相同,每笔业务处理量也不相同的情况下,也能够在一定程度上降低服务器的负载。

public static String getLeasetConnServer() { Map<String, ConnectionsServer> serverMap = new TreeMap<>(ConnectionsServerManager.serverMap); Iterator<String> iterator = serverMap.keySet().iterator();  ConnectionsServer minConnectionsServer = null; while (iterator.hasNext()){ ConnectionsServer server = serverMap.get(iterator.next()); if(minConnectionsServer == null){ minConnectionsServer = server; }  if(minConnectionsServer.getConnnections() > server.getConnnections()){ minConnectionsServer = server; } } // TODO 记录各server的连接数 return minConnectionsServer.getServer(); } 

4.哈希算法

相同参数的请求总是发到同一提供者,这种方式可以保证某个请求一定发到某台机器,比如使用ip哈希或者url哈希,通常还会使用一致性hash,当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。

普通的hash不固定节点数,即当node数发生变化(增加、移除)后,数据项会被重新“打散”,导致大部分数据项不能落到原来的节点上,从而导致大量数据需要迁移。一致性Hash使用虚拟节点,固定节点数,保证原来分配到的某个node,现在仍然应该分配到那个node,请求会更分散。

我们常用的Nginx有5种负载算法,轮询、加权、iphash、fair(按照响应时间负载,需要安装单独模块)、urlhash


参考链接

常见负载均衡算法的实现:https://www.nginx.com/resources/glossary/load-balancing/


以上是关于聊聊微服务中的负载均衡的主要内容,如果未能解决你的问题,请参考以下文章

布道微服务_14常见的五种负载均衡算法实现及其应用场景

微服务架构三高极端场景负载均衡方案解析

聊聊Ribbon获取服务列表和负载均衡策略

分布式事务+DDD+负载均衡+服务治理已撸!微服务不就这点事?

微服务SpringCloud中的负载均衡

微服务SpringCloud中的负载均衡