Ribbon负载均衡策略懒加载及饥饿加载

Posted 2022-11-12

目录

​​一、负载均衡概述​​

​​二、负载均衡策略​​

​​三、懒加载及饥饿加载​​

---

一、负载均衡概述

        在业务初期，我们一般会先使用单台服务器对外提供服务。随着业务流量越来越大，单台服务器无论如何优化，无论采用多好的硬件，总会有性能天花板，当单服务器的性能无法满足业务需求时，就需要把多台服务器组成集群系统提高整体的处理性能。

        基于上述需求，我们要使用统一的流量入口来对外提供服务，本质上就是需要一个流量调度器，通过均衡的算法，将用户大量的请求流量均衡地分发到集群中不同的服务器上。这就是负载均衡。

使用负载均衡可以给我们带来的几个好处：

提高了系统的整体性能

提高了系统的扩展性

提高了系统的可用性

LoadBalancerInterceptor负载均衡拦截器

二、负载均衡策略

Ribbon的负载均衡规则是一个叫做IRule的接口来定义的，每一个子接口都是一种规则：

内置负载均衡规则类	规则描述
RoundRobinRule	简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则
AvailabilityFilteringRule	对以下两种服务器进行忽略：  （1）在默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为“短路”状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。 （2）并发数过高的服务器。如果一个服务器的并发连接数过高，配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限，可以由客户端的<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit属性进行配置
WeightedResponseTimeRule	为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择
ZoneAvoidanceRule	以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询
BestAvailableRule	忽略那些短路的服务器，并选择并发数较低的服务器
RandomRule	随机选择一个可用的服务器
RetryRule	重试机制的选择逻辑

通过定义IRule实现可以修改负载均衡规则，有两种方式：

1、代码方式：在order-service中的OrderApplication类中，定义一个新的IRule：

@Bean
public IRule randomRule()
    return new RandomRule();

2、配置文件方式：在order-service的application.yml文件中，添加新的配置也可以修改规则：

userservice:  
    ribbon:    
        NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule# 负载均衡规则

三、懒加载及饥饿加载

Ribbon默认是采用懒加载，即第一次访问时才会去创建LoadBalanceClient，请求时间会很长。

而饥饿加载则会在项目启动时创建，降低第一次访问的耗时，通过下面配置开启饥饿加载：

ribbon:  
    eager-load:    
        enabled: true # 开启饥饿加载    
        clients: userservice # 指定对userservice这个服务饥饿加载