Java 微服务之 SpringCloud快速入门day02 Hystrix 线程隔离，服务降级

Posted 2021-08-22 蓝盒子bluebox

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Java 微服务之 SpringCloud快速入门day02 Hystrix 线程隔离，服务降级相关的知识，希望对你有一定的参考价值。

Hystrix

1、简介

Hystrix，英文意思是豪猪，全身都是刺，看起来就不好惹，是一种保护机制。
Hystrix也是Netflix公司的一款组件。
主页：https://github.com/Netflix/Hystrix

那么Hystrix的作用是什么呢？具体要保护什么呢？
Hystrix是Netflix开源的一个延迟和容错库，用于隔离访问远程服务，第三方库，放置出现级联失败。

2、雪崩问题

分布式系统环境下，服务间类似依赖非常常见，一个业务调用通常依赖多个基础服务。
微服务中，服务间调用关系错综复杂，一个请求，可能需要调用多个微服务的接口才能实现，会形成非常复杂的调用链路。
如下图：

如图，一次业务请求，需要调用A、P、H、I四个服务，这四个服务又可能调用其他服务。

如果此时，某个服务出现异常

例如微服务I发送异常，请求阻塞，用户不会得到响应，侧Tomcat的这个线程不会释放，于是越来越多的用户请求到来，越来越多的线程会阻塞：

服务器支持的线程和并发数有限，请求一直阻塞，会导致服务器资源消耗殆尽，从而导致所有其他服务都不可以用，形成雪崩效应。

这就好比，一个汽车生产线，生产不同的汽车，需要使用不同的零件，如果某个零件因为种种原因无法使用，那么就会造成整台车无法装配，陷入等待零件的状态，直到零件到位，才能继续组装。

此时如果有很多个车型都需要这个零件，那么整个工厂都将陷入等待的状态，导致所有生产都陷入瘫痪。一个零件的波及范围不断扩大。

Hystix解决雪崩问题的手段有两个:

线程隔离
服务熔断

3、线程隔离，服务降级

（1）原理

线程隔离示意图，服务降级

解读:
Hystrix为每个依赖服务调用分配一个小的线程池，如果线程池已满调用将被立即拒绝，默认不采用排队.加速失败判定时间。

用户的请求将不再直接访问服务，而是通过线程池中的空闲线程来访问服务，如果线程池已满，或者请求超时，则会进行降级处理，什么是服务降级?

服务降级:优先保证核心服务，而非核心服务不可用或弱可用。

用户的请求故障时，不会被阻塞，更不会无休止的等待或者看到系统崩溃，至少可以看到一个执行结果（例如返回友好的提示信息）。

服务降级虽然会导致请求失败，但是不会导致阻塞，而且最多会影响这个依赖服务对应的线程池中的资源，对其它服务没有响应。

触发Hystix服务降级的情况:

线程池已满
请求超时

（2）动手实践

引入依赖

		<dependency>
            <groupId>org.springframework.cloud</groupId>
            <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
            <version>2.0.1.RELEASE</version>
        </dependency>

添加注解

@EnableCircuitBreaker

等价替换的注解

package com.itzheng;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.SpringCloudApplication;
import org.springframework.cloud.client.circuitbreaker.EnableCircuitBreaker;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;
import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.web.client.RestTemplate;

//@EnableCircuitBreaker
//@EnableDiscoveryClient
//@SpringBootApplication

@SpringCloudApplication
public class ConsumerApplication {
    @Bean
    @LoadBalanced
    public RestTemplate restTemplate(){

        return new RestTemplate();
    }

    public static void main(String[] args) {
        SpringApplication.run(ConsumerApplication.class,args);
    }

}

完善ConsumerController编写熔断机制

package com.itzheng.consumer.web;

import com.itzheng.consumer.pojo.User;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import lombok.val;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import org.springframework.cloud.netflix.ribbon.RibbonLoadBalancerClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

import java.util.List;
import java.util.Map;

@RestController
@RequestMapping("consumer")
public class ConsumerController {

    @Autowired
    private RestTemplate restTemplate;

    @Autowired
    private DiscoveryClient discoveryClient;

    @GetMapping("/{id}")
    @HystrixCommand(fallbackMethod = "queryByIdFallback") //开启线程隔离和服务降级（HystrixCommand失败服务的指令）
    //fallbackMethod失败的时候调用的方法,成功 时候默认调用下面的方法
    public String queryById(@PathVariable("id") Long id) {
        String url = "http://user-service/user/" + id;
        String user = restTemplate.getForObject(url, String.class);
        return user;
    }
    //fallbackMethod失败的时候调用的方法,与成功时候调用的方法的名称可以不一样，但是返回值和参数必须相同
    public String queryByIdFallback(Long id) {
        return "不好意思，服务器态拥挤了";
    }


/*

    @GetMapping("/{id}")
    public User queryById(@PathVariable("id") Long id) {
        //根据服务id获取实例
        //List<ServiceInstance> instances = discoveryClient.getInstances("user-service");
        //从实例当中取出IP和端口
        //ServiceInstance instance = instances.get(0);
        //随机，论询、hash
        //ServiceInstance instance = client.choose("user-service");
        //String url = "http://"+ instance.getHost()+":"+instance.getPort()+"/user/"+id;
        //System.out.println(url);
        //底层还是上述的代码，内部通过拦截器将请求拦截下来，
        //获取到user-service自动去负载均衡后获取ip地址将user-service替换
        String url = "http://user-service/user/" + id;
        User user = restTemplate.getForObject(url, User.class);
        return user;
    }
*/

}

要注意，因为熔断的降级逻辑方法必须跟正常逻辑方法保证:相同的参数列表和返回值己n。返回User对象没有太大意义，一般会返回友好提示。所以我们把queryByld的方法改造为返回String，反正也是Json数据。这样失败逻辑中返回一个错误说明，会比较方便。
说明:

@HystrixCommand(fallbackMethod = “queryByldFallBack”):
用来声明一个降级逻辑的方法测试:
当user-service正常提供服务时，访问与以前一致。

但是当我们将user-service停机时，会发现页面返回了降级处理信息:
手动设置请求超时

package com.itzheng.user.Service;
import com.itzheng.user.mapper.UserMapper;
import com.itzheng.user.pojo.User;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
@Service
public class UserService {
    @Autowired
    private UserMapper userMapper;
    public User queryById(Long id) {
        try {
            Thread.sleep(2000L);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        return userMapper.selectByPrimaryKey(id);
    }
}

启动测试

启动成功

访问项目
http://localhost:8088/consumer/8

默认是隔了一秒钟就服务超时，手动设置了两秒所以超时了

给所有方法设置统一的降级和线程隔离

package com.itzheng.consumer.web;
import com.itzheng.consumer.pojo.User;
import com.netflix.hystrix.contrib.javanica.annotation.DefaultProperties;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import lombok.val;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import org.springframework.cloud.netflix.ribbon.RibbonLoadBalancerClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
import java.util.List;
import java.util.Map;

@RestController
@RequestMapping("consumer")
@DefaultProperties(defaultFallback = "defaultFallback")
public class ConsumerController {
    @Autowired
    private RestTemplate restTemplate;
    @Autowired
    private DiscoveryClient discoveryClient;
    @GetMapping("/{id}")
    //@HystrixCommand(fallbackMethod = "queryByIdFallback") //开启线程隔离和服务降级（HystrixCommand失败服务的指令）
    @HystrixCommand
    //fallbackMethod失败的时候调用的方法,成功 时候默认调用下面的方法
    public String queryById(@PathVariable("id") Long id) {
        String url = "http://user-service/user/" + id;
        String user = restTemplate.getForObject(url, String.class);
        return user;
    }
    //fallbackMethod失败的时候调用的方法,与成功时候调用的方法的名称可以不一样，但是返回值和参数必须相同
    public String queryByIdFallback(Long id) {
        return "不好意思，服务器态拥挤了";
    }
    public String defaultFallback() {
        return "不好意思，服务器态拥挤了";
    }
/*
    @GetMapping("/{id}")
    public User queryById(@PathVariable("id") Long id) {
        //根据服务id获取实例
        //List<ServiceInstance> instances = discoveryClient.getInstances("user-service");
        //从实例当中取出IP和端口
        //ServiceInstance instance = instances.get(0);
        //随机，论询、hash
        //ServiceInstance instance = client.choose("user-service");
        //String url = "http://"+ instance.getHost()+":"+instance.getPort()+"/user/"+id;
        //System.out.println(url);
        //底层还是上述的代码，内部通过拦截器将请求拦截下来，
        //获取到user-service自动去负载均衡后获取ip地址将user-service替换
        String url = "http://user-service/user/" + id;
        User user = restTemplate.getForObject(url, User.class);
        return user;
    }
*/
}

重新启动consumer-demo

访问服务http://localhost:8088/consumer/8

单个方法配置超时时长

 @HystrixCommand(commandProperties = {
            @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "3000")
    })

重新运行并测试项目

http://localhost:8088/consumer/8

整体配置超时时长

在application.yml当中

hystrix:
  command:
    default:
      execution:
          isolation:
            thread:
              timeoutInMilliseconds: 3000

重新运行

http://localhost:8088/consumer/8

在application.yml配置单个超时时长

  queryById:
      execution:
        isolation:
          thread:
            timeoutInMilliseconds: 3000

4、服务熔断

（1）熔断原理

熔断器，也叫断路器，其英文单词为:Circuit Breaker

熔断机制的原理很简单，像家里的电路熔断器，如果电路发生短路能立刻熔断电路，避免发生灾难。在分布式系统中应用这一模式之后，服务调用方可以自己进行判断某些服务反应慢或者存在大量超时的情况时，能够主动熔断，防止整个系统被拖垮。

不同于电路熔断只能断不能自动重连，Hystrix可以实现弹性容错，当情况好转之后，可以自动重连。这就好比魔术师把鸽子变没了容易，但是真正考验技术的是如何把消失的鸽子再变回来。

Hystrix的熔断状态机制模型

状态机有3个状态:

Closed:关闭状态(断路器关闭)，所有请求都正常访问。
Open:打开状态（断路器打开)，所有请求都会被降级。Hystix会对请求情况计数，当一定时间内失败请求百分比达到阈值，则触发熔断，断路器会完全关闭。默认失败比例的阈值是50%，请求次数最少不低于20次。
Half 0pen:半开状态，Closed状态不是永久的，关闭后会进入休眠时间（默认是5S)。随后断路器会自动进入半开状态。
此时会释放部分请求通过，若这些请求都是健康的，则会完全打开断路器，否则继续保持关闭，再次进行休眠计时。

正常情况下熔断器是关闭状态，当发送的请求超过50%是失败的状态的时候，
熔断器打开，然后直接返回对应的错误信息，但是依旧会放过一定的请求用于测试服务是否正常，
如果请求正常则熔断器关闭，如果请求正常则服务器依旧是打开状态拦截所有的请求直接返回对应的错误信息。

（2）动手实践

a、修改UserService类删除对应的线程等待超时代码

package com.itzheng.user.Service;

import com.itzheng.user.mapper.UserMapper;
import com.itzheng.user.pojo.User;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;

@Service
public class UserService {

    @Autowired
    private UserMapper userMapper;

    public User queryById(Long id) {
        return userMapper.selectByPrimaryKey(id);
    }

}

b、完善ConsumerController类实现手动控制请求的状态

package com.itzheng.consumer.web;

import com.itzheng.consumer.pojo.User;
import com.netflix.hystrix.contrib.javanica.annotation.DefaultProperties;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;
import com.netflix.hystrix.contrib.javanica.annotation.HystrixProperty;
import lombok.val;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cloud.client.ServiceInstance;
import org.springframework.cloud.client.discovery.DiscoveryClient;
import org.springframework.cloud.netflix.ribbon.RibbonLoadBalancerClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

import java.util.List;
import java.util.Map;

@RestController
@RequestMapping("consumer")
@DefaultProperties(defaultFallback = "defaultFallback")
public class ConsumerController {
    @Autowired
    private RestTemplate restTemplate;
    @Autowired
    private DiscoveryClient discoveryClient;
    @GetMapping("/{id}")
    //@HystrixCommand(fallbackMethod = "queryByIdFallback") //开启线程隔离和服务降级（HystrixCommand失败服务的指令）
/*    @HystrixCommand(commandProperties = {
            @HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds",value = "3000")
    })
    */
    //fallbackMethod失败的时候调用的方法,成功 时候默认调用下面的方法
    @HystrixCommand(
         commandProperties = {
                 //设置请求的次数为10次当请求请求失败超过5次的时候打开熔断
               @HystrixProperty(name = "circuitBreaker.requestVolumeThreshold",value = "10"),
                 //短路多久以后开始尝试是否恢复，默认5s  这里设置为10s
               @HystrixProperty(name = "circuitBreaker.sleepWindowInMilliseconds",value = "10000"),
                 //出错百分比阈值，当达到此阈值后，开始短路。默认60%
               @HystrixProperty(name = "circuitBreaker.errorThresholdPercentage",value = "60")
         }
    )
    public String queryById(@PathVariable("id") Long id) {

        if(id % 2 == 0){
            throw new RuntimeException("");
        }

        String url = "http://user-service/user/" + id;
        String user = restTemplate.getForObject(url, String.class);
        return user;
    }
    //fallbackMethod失败的时候调用的方法,与成功时候调用的方法的名称可以不一样，但是返回值和参数必须相同
    public String queryByIdFallback(Long id) {
        return "不好意思，服务器态拥挤了";
    }
    public String defaultFallback() {
        return "不好意思，服务器态拥挤了";
    }


/*

    @GetMapping("/以上是关于Java 微服务之 SpringCloud快速入门day02 Hystrix 线程隔离，服务降级的主要内容，如果未能解决你的问题，请参考以下文章 
 Java 微服务之 SpringCloud快速入门day01 初始SpringCloud
 Java 微服务之 SpringCloud快速入门day01 初始SpringCloud
 Java 微服务之 SpringCloud快速入门day01 Eureka注册中心快速入门
 Java 微服务之 SpringCloud快速入门day01 Eureka注册中心快速入门
 Java 微服务之 SpringCloud快速入门day02 Zuul网关，面向服务的路由，Zuul过滤器
 Java 微服务之 SpringCloud快速入门day02 Zuul网关，面向服务的路由，Zuul过滤器