SpringCloud负载均衡-Ribbon

Posted 2022-06-30 熊猫IT

1.Ribbon负载均衡简介

1.1Ribbon概述

1.1.1Ribbon是什么

SpringCloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具。
简单的说，Ribbon是Netflix发布的开源项目，主要功能是提供客户端的软件负载均衡算法，将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时，重试等。简单的说，就是在配置文件中列出LoadBalanCer（简称LB）后面所有的机器，Ribbon会自动的帮助你基于某种规则（如简单轮询，随机连接等）去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法。

1.2 Ribbon主要职责

• LB（负载均衡）
  LB，即负载均衡（ Load Balanoe )，在微服务或分布式集群中经常用的一种应用。
  负载均衡简单的说就是将用户的请求平摊的分配到多个服务上，从而达到系统的HA。
  常见的负载均衡有软件nginx , LVS,硬件F5等。
  相应的在中间件，例如：dubbo。和 SpringCloud中均给我们提供了负载均衡，SpringCloud的负载均衡算法可以自定义。
  LB又分为两种，集中式LB和进程内LB
• 集中式LB（偏硬件）
  即在服务的消费方和提供方之间使用独立的LB设施（可以是硬件，如F5，也可以是软件，如nginx ) ，由该设施负责把访问请求通过某种策略转发至服务的提供方；
• 进程内LB（偏软件）
  将LB逻辑集成到消费方，消费方从服务注册中心获知有哪些地址可用，然后自己再从这些地址中选择出一个合适的服务器。
  Ribbon就属于进程内LB，它只是一个类库，集成于消费方进程，消费方通过它来获取到服各提供方的地址。

1.3官方资料

​​https://github.com/Netflix/ribbon/wiki​​

2.Ribbon实例

上一篇的案例中，我们启动了一个springcloud-demo，然后通过DiscoveryClient来获取服务实例信息，然后获取ip和端口来访问。

但是实际环境中，我们往往会开启很多个user-service的集群。此时我们获取的服务列表中就会有多个，到底该访问哪一个呢？

一般这种情况下我们就需要编写负载均衡算法，在多个实例列表中进行选择。
不过Eureka中已经帮我们集成了负载均衡组件：Ribbon，简单修改代码即可使用。

接下来，我们就来使用Ribbon实现负载均衡。

2.1.Ribbon架构说明

Ribbon 在工作时分成两步:
第一步先选择 EurekaServer，它优先选择在同一个区域内负载较少的 server。
第二步再根据用户指定的策略，在从server取到的服务注册列表中选择一个地址。
其中Ribbon 提供了多种策略：比如轮询、随机和根据响应时间加权。

2.2.启动两个服务实例

首先我们启动两个springcloud-demo实例，一个80，一个81。

Eureka监控面板：

2.3.开启负载均衡

• 因为Eureka中已经集成了Ribbon，所以我们无需引入新的依赖
• 加入Ribbon的配置

# EurekaServer地址
eureka.client.service-url.defaultZone=http://eureka7001.com:7001/eureka/,http://eureka7002.com:7002/eureka/,http://eureka7003.com:7003/eureka/

• 在RestTemplate的配置方法上添加​​@LoadBalanced​​注解：

@Bean
@LoadBalanced
public RestTemplate restTemplate() 
    return new RestTemplate(new OkHttp3ClientHttpRequestFactory());

• 修改调用方式，不再手动获取ip和端口，而是直接通过服务名称调用：

/**
 * @author bruceliu
 * @create 2019-05-02 15:52
 * @description
 */
@RestController
@RequestMapping("consumer")
public class ConsumerController 

    //改成下面这行
    private static final String REST_URL_PREFIX = "http://SPRINGCLOUD-DEMO-SERVICE";

    @Autowired
    private RestTemplate restTemplate;

    @Autowired
    private DiscoveryClient client;// Eureka客户端，可以获取到服务实例信息

    @RequestMapping("/test")
    public List<User> consumerTest()
        List<String>list=client.getServices();
        System.out.println("*服务列表*"+list);
        List<ServiceInstance> srvList=client.getInstances("springcloud-demo-service");
        for(ServiceInstance element:srvList)
            System.out.println(element.getServiceId()+"\\t"+element.getHost()+"\\t"+element.getPort()+"\\t" +element.getUri());
        
        // 因为只有一个UserService,因此我们直接get(0)获取
        ServiceInstance instance = srvList.get(0);

        // 获取ip和端口信息
        String baseUrl = "http://"+instance.getHost() + ":" + instance.getPort()+"/all";
        System.out.println("访问地址:"+baseUrl);

        return this.restTemplate.getForObject(REST_URL_PREFIX+"/all",List.class);
    

• 测试：
  
  
  Ribbon整合后可以直接调用微服务而不再关心地址和端口!!!

2.4.源码跟踪

为什么我们只输入了service名称就可以访问了呢？之前还要获取ip和端口。显然有人帮我们根据service名称，获取到了服务实例的ip和端口。它就是​​LoadBalancerInterceptor​​​ 我们进行源码跟踪：

继续跟入execute方法：发现获取了8001端口的服务

如果再跟下一次，发现获取的是8002

2.5.负载均衡策略

Ribbon默认的负载均衡策略是简单的轮询，我们可以测试一下：
编写测试类，在刚才的源码中我们看到拦截中是使用​​​RibbonLoadBalanceClient​​​来进行负载均衡的，其中有一个​​choose​​​方法，是这样介绍的：

现在这个就是负载均衡获取实例的方法。我们对注入这个类的对象，然后对其测试：

package com.bruceliu.test;

import com.bruceliu.SpringcloudDemoConsumerApplication;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.netflix.ribbon.RibbonLoadBalancerClient;
import org.springframework.test.context.junit4.SpringRunner;

/**
 * @author bruceliu
 * @create 2019-05-04 11:33
 * @description 负载均衡算法测试
 */
@RunWith(SpringRunner.class)
@SpringBootTest(classes = SpringcloudDemoConsumerApplication.class)
public class LoadBalanceTest 

    @Autowired
    RibbonLoadBalancerClient client;

    @Test
    public void test1()
        for (int i = 0; i <10 ; i++) 
            ServiceInstance instance = this.client.choose("SPRINGCLOUD-DEMO-SERVICE");
            System.out.println(instance.getHost() + ":" + instance.getPort());
        
    

运行结果：

符合了我们的预期推测，确实是轮询方式。
我们是否可以修改负载均衡的策略呢？
继续跟踪源码，发现这么一段代码：

我们看看这个rule是谁：

这里的rule默认值是一个​​​RoundRobinRule​​​，看类的介绍：

这不就是轮询的意思嘛。
我们注意到，这个类其实是实现了接口IRule的，查看一下：

定义负载均衡的规则接口。
它有以下实现：

SpringBoot也帮我们提供了修改负载均衡规则的配置入口：

SPRINGCLOUD-DEMO-SERVICE:
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

格式是：​​服务名称.ribbon.NFLoadBalancerRuleClassName​​​，值就是IRule的实现类。
再次测试，发现结果变成了随机：

2.6.重试机制

Eureka的服务治理强调了CAP原则中的AP，即可用性和可靠性。它与Zookeeper这一类强调CP（一致性，可靠性）的服务治理框架最大的区别在于：Eureka为了实现更高的服务可用性，牺牲了一定的一致性，极端情况下它宁愿接收故障实例也不愿丢掉健康实例，正如我们上面所说的自我保护机制。

但是，此时如果我们调用了这些不正常的服务，调用就会失败，从而导致其它服务不能正常工作！这显然不是我们愿意看到的。

我们现在关闭一个springcloud-demo-8001实例
因为服务剔除的延迟，consumer并不会立即得到最新的服务列表，此时再次访问你会得到错误提示：

但是此时，8002服务其实是正常的。
因此Spring Cloud 整合了Spring Retry 来增强RestTemplate的重试能力，当一次服务调用失败后，不会立即抛出一次，而是再次重试另一个服务。
只需要简单配置即可实现Ribbon的重试：

spring:
  cloud:
    loadbalancer:
      retry:
        enabled: true # 开启Spring Cloud的重试功能
SPRINGCLOUD-DEMO-SERVICE:
  ribbon:
    ConnectTimeout: 250 # Ribbon的连接超时时间
    ReadTimeout: 1000 Springcloud + nacos + gateway 负载均衡(ribbon)

 SpringCloud微服务负载均衡器Ribbon
 SpringCloud微服务负载均衡器Ribbon
 springcloud之Ribbon负载均衡
 springcloud-Ribbon-负载均衡组件
 springcloud之负载均衡