gRPC负载均衡（自定义负载均衡策略--etcd 实现）

Posted 2023-04-08

参考技术A 在工作学习中使用gRPC的地方比较多，通常我们都使用的是自带的负载均衡算法，但是在某些场景下我们需要对服务的版本进行控制
比如 [app V2 只能去链接 user V3],在这样的情况下就只能选自定义负载均衡策略

实现基于版本（version）的grpc负载均衡器，了解过程后可自己实现更多的负载均衡功能

源码 register.go

在etcd里面我们可以看到如下信息
APP v1版本服务在节点的key /hwholiday/srv/app/app-beb3cb56-eb61-11eb-858d-2cf05dc7c711

APP v2版本服务在节点的key /hwholiday/srv/app/app-beb3cb56-eb61-11eb-858d-2cf05dc7c711

源码 discovery.go
实现 grpc内的 resolver.Builder 接口（Builder 创建一个解析器，用于监视名称解析更新）

源码 version_balancer.go

测试源码

详情介绍地址
源码地址: https://github.com/hwholiday/learning_tools/tree/master/etcd
通过学习我们可以实现基于version的负载策略，这里只是提供一种思路怎么去实现可能我的这个例子不太适合这个，但是提供了一种思路,欢迎一起讨论

自定义Ribbon负载均衡策略

官方文档指出：自定义的负载均衡配置类不能放在 @componentScan 所扫描的当前包下及其子包下，否则我们自定义的这个配置类就会被所有的Ribbon客户端所共享，也就是说我们达不到特殊化定制的目的了；

要求自定义的算法：依旧是轮询策略，但是每个服务器被调用5次后轮到下一个服务，即以前是每个服务被调用1次，现在是每个被调用5次。

打开消费者工程：

1、自定义算法类必须继承 AbstractLoadBalanceRule 类

启动类在com.bruce.springcloud 包下，所以我们新建一个包: con.bruce.myrule，并在该包下新建一个类：CustomeRule

public class CustomeRule extends AbstractLoadBalancerRule

     /*
     total = 0 // 当total==5以后，我们指针才能往下走，
     index = 0 // 当前对外提供服务的服务器地址，
     total需要重新置为零，但是已经达到过一个5次，我们的index = 1
     */

    private int total = 0;             // 总共被调用的次数，目前要求每台被调用5次
    private int currentIndex = 0;    // 当前提供服务的机器号

    public Server choose(ILoadBalancer lb, Object key) 
        if (lb == null) 
            return null;
        
        Server server = null;

        while (server == null) 
            if (Thread.interrupted()) 
                return null;
            
            List<Server> upList = lb.getReachableServers(); //当前存活的服务
            List<Server> allList = lb.getAllServers();  //获取全部的服务

            int serverCount = allList.size();
            if (serverCount == 0) 
                return null;
            

            //int index = rand.nextInt(serverCount);
            //server = upList.get(index);
            if(total < 5)
            
                server = upList.get(currentIndex);
                total++;
            else 
                total = 0;
                currentIndex++;
                if(currentIndex >= upList.size())
                
                    currentIndex = 0;
                
            

            if (server == null) 
                Thread.yield();
                continue;
            

            if (server.isAlive()) 
                return (server);
            

            // Shouldn't actually happen.. but must be transient or a bug.
            server = null;
            Thread.yield();
        
        return server;
    

    @Override
    public Server choose(Object key) 
        return choose(getLoadBalancer(), key);
    

    @Override
    public void initWithNiwsConfig(IClientConfig clientConfig) 
    

2、配置类中增加自定义规则

@Configuration
public class ConfigBean

    @Bean
    @LoadBalanced //Ribbon 是客户端负载均衡的工具；
    public RestTemplate getRestTemplate()
    
        return new RestTemplate();
    

    @Bean
    public IRule myRule()
    
        return new CustomeRule(); //自定义负载均衡规则
    

3、主启动类添加 @RibbonClient 注解，name和configuration参数很重要；

在启动该微服务的时候就能去加载我们自定义的Ribbon配置类，从而使配置生效：

@RibbonClient(name=“microservicecloud-dept”, configuration=ConfigBean.class)

name指定针对哪个服务 进行负载均衡，而configuration指定负载均衡的算法具体实现类。

4、测试

启动该消费者服务，然后访问：http://localhost/consumer/dept/get/1，可以看到先访问生产者1服务5次，然后访问生产者2服务5次…