Spring-Cloud之Hystrix
Posted 起岸星辰
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spring-Cloud之Hystrix相关的知识,希望对你有一定的参考价值。
系统负载过高,突发流量或网络等各种异常情况,常用解决方案如下:
- 限流:对访问量进行限制,防止流量太大直接使整个服务发生故障;
- 熔断:为了防止整个系统故障,停止出现问题的服务的访问;
- 降级:抛弃一些非核心的接口和数据;
- 熔断和降级互相交集:
- 相同点:从可用性和可靠信息出发,为防止系统崩溃;最终让用户体验到的是某些功能暂时不可用
- 不同点:服务熔断一般是下游服务故障导致,而服务降级一般是从整个系统负荷考虑,由调用方控制
Hystrix的简介
Netflix的Hystrix(豪猪)通过对调用的服务进行资源隔离,实现熔断降级的功能,提升分布式系统的可用性和稳定性。
设计原则
hystrix为了实现高可用性的架构,设计hystrix的时候,遵循了以下这些设计原则:
- 对依赖服务调用时出现的调用延迟和调用失败进行控制和容错保护;
- 在复杂的分布式系统中,阻止某一个依赖服务的故障在整个系统中蔓延;如有如下调用链:
服务A->服务B->服务C
,当服务C发生故障时,如果没做处理那么服务B和服务A都会受到影响发生故障,导致整套分布式系统全部故障、整体宕机。 - 提供fail-fast(快速失败)和快速恢复的支持;
- 提供fallback优雅降级的支持;
- 支持近实时的监控、报警以及运维操作;
具体实现细节:
- 阻止任何一个依赖服务耗尽所有的资源,比如tomcat中的所有线程资源
- 避免请求排队和积压,采用限流和fail fast来控制故障
- 提供fallback降级机制来应对故障
- 使用资源隔离技术,比如Bulkhead(舱壁隔离技术),Swimlane(泳道技术),circuit breaker(短路技术),来限制任何一个依赖服务的故障的影响
- 通过近实时的统计/监控/报警功能,来提高故障发现的速度
- 通过近实时的属性和配置热修改功能,来提高故障处理和恢复的速度
- 保护依赖服务调用的所有故障情况,而不仅仅只是网络故障情况
实现的方案的简述
- Hystrix通过外部依赖的访问请求进行封装,让其运行在独立的线程中达到资源隔离的目的;
- 对请求的处理时间进行监控,如果超过设置的阀值那么会直接让其超时返回,不允许其耗费过长的时间阻塞住;
- 为每个依赖服务维护一个独立的线程池,当线程池满了的时候就会直接拒绝这个服务的调用;
- 统计依赖服务的调用情况,比如成功数、失败数、拒绝次数、超时次数等;
- 根据依赖服务的调用情况,自动判断其健康状态,如果失败次数超过阀值自动进行熔断(在一定时间内直接对该服务进行降级(也就是在调用的时候直接返回失败),一段时间后再自动恢复尝试);
- 当一个服务调用出现失败,被拒绝,超时,短路等异常情况时,自动调用fallback降级机制;
- 对属性和配置的修改提供近实时的支持;
这里顺便提一下:feign中它自己其实也有fallback降级机制(只是功能没有那么强大),比如如果依赖服务发生故障时虽然有fallback降级机制,但是还是会将请求向该服务发送(该等待的时间依然会等待);
当我们引入Hystrix并启用后,feign中的fallback降级机制将交给Hystrix来实现,而Hystrix会在监控到服务调用发生故障时,它会判断其失败次数,如果超过阀值,在一段时间内其它服务调用它的时候会直接返回降级处理策略,不会再向该服务发送请求了。
Hystrix 使用示例
下面我们通过一些示例让你快速了解它的基本使用。示例使用的Spring-Cloud的版本是Hoxton.SR8,Spring-Boot的版本是2.3.4.RELEASE。示例项目的源代码
相关依赖和配置
添加如下maven的依赖(注意feign的请自行添加,feign的使用参考: https://blog.vchar.top/java/1621167133.html )
<!-- hystrix的依赖-->
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
</dependency>
然后在启动类上添加如下注解:@EnableCircuitBreaker
或者是 @EnableHystrix
; 效果都是一样的(@EnableHystrix继承了@EnableCircuitBreaker注解)。
单独使用 hystrix
通过添加@HystrixCommand注解可以让该方法被hystrix监控到实现熔断降级策略。
示例1:在controller中直接添加熔断降级处理方式
@HystrixCommand(fallbackMethod = "hystrixMethodDemoFail")
@GetMapping("/demo1")
public Train findTrain(){
System.out.println("执行...");
// 这里发送异常时会自动执行hystrixMethodDemoFail方法
return this.hystrixDemoService.hystrixMethodDemo();
}
/**
* 这里一定要和HystrixCommand注解中的方法一致,且参数也必须一致;当服务异常时会调用此方法
*/
private Train hystrixMethodDemoFail(){
System.out.println("调用异常");
return null;
}
}
示例2:在service中直接添加熔断降级处理方式
@HystrixCommand(fallbackMethod = "hystrixMethodDemo2Fail")
@Override
public Train hystrixMethodDemo2() {
System.out.println("hystrixMethodDemo2 调用feign服务:trainFeignClient.findTrain()");
return this.trainFeignClient.findTrain();
}
private Train hystrixMethodDemo2Fail(){
System.out.println("hystrixMethodDemo2Fail ...");
return null;
}
示例3:方法间的调用
@Override
public Train hystrixMethodDemo3() {
// hystrixMethodDemo2做了熔断降级的
return this.hystrixMethodDemo2();
}
因为hystrix是通过AOP来实现的;因此一个类的方法间调用时不会生效的。
结合feign使用hystrix
feign之前的写法不用改变,继续保持即可;只需要添加如下配置就可以将feign的熔断降级处理的方式切换到hystrix:
feign:
hystrix:
# 启用feign中的hystrix
enabled: true
hystrix的监控界面
添加下面的maven依赖:
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix-dashboard</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
在启动类上添加注解: @EnableHystrixDashboard
;然后添加如下配置:
management:
endpoints:
web:
exposure:
include: "*"
然后访问监控界面:http://localhost:8100/hystrix ;在里面输入 http://localhost:8100/actuator/hystrix.stream
点击 Monitor Stream进入监控界面。
以上是关于Spring-Cloud之Hystrix的主要内容,如果未能解决你的问题,请参考以下文章