如何使用Sentinel实现服务熔断和降级,看完你就懂了
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何使用Sentinel实现服务熔断和降级,看完你就懂了相关的知识,希望对你有一定的参考价值。
参考技术A测试:
Sentinel 后台安装 , github
感谢你看到这里,我是 程序员麦冬 ,一个java开发从业者,深耕行业六年了,每天都会分享java相关技术文章或行业资讯
欢迎大家关注和转发文章,后期还有福利赠送!
发布于刚刚
Sentinel.01.Sentinel简介及简单使用
Sentinel简介及简单使用
简介
Sentinel是什么
Sentinel(分布式系统的流量防卫兵**):随着微服务的流行,服务和服务之间的稳定性变得越来越重要。Sentinel 以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度保护服务的稳定性。
Sentinel 基本概念
资源
资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容,例如,由应用程序提供的服务,或由应用程序调用的其它应用提供的服务,甚至可以是一段代码。在接下来的文档中,我们都会用资源来描述代码块。
只要通过 Sentinel API 定义的代码,就是资源,能够被 Sentinel 保护起来。大部分情况下,可以使用方法签名,URL,甚至服务名称作为资源名来标示资源。
规则
围绕资源的实时状态设定的规则,可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。
Sentinel 功能和设计理念
流量控制
流量控制在网络传输中是一个常用的概念,它用于调整网络包的发送数据。然而,从系统稳定性角度考虑,在处理请求的速度上,也有非常多的讲究。任意时间到来的请求往往是随机不可控的,而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel 作为一个调配器,可以根据需要把随机的请求调整成合适的形状,如下图所示:
流量控制有以下几个角度:
- 资源的调用关系,例如资源的调用链路,资源和资源之间的关系;
- 运行指标,例如 QPS、线程池、系统负载等;
- 控制的效果,例如直接限流、冷启动、排队等。
Sentinel 的设计理念是让您自由选择控制的角度,并进行灵活组合,从而达到想要的效果。
熔断降级
什么是熔断降级
除了流量控制以外,降低调用链路中的不稳定资源也是 Sentinel 的使命之一。由于调用关系的复杂性,如果调用链路中的某个资源出现了不稳定,最终会导致请求发生堆积。这个问题和 Hystrix 里面描述的问题是一样的。
Sentinel 和 Hystrix 的原则是一致的: 当调用链路中某个资源出现不稳定,例如,表现为 timeout,异常比例升高的时候,则对这个资源的调用进行限制,并让请求快速失败,避免影响到其它的资源,最终产生雪崩的效果。
熔断降级设计理念
在限制的手段上,Sentinel 和 Hystrix 采取了完全不一样的方法。
Hystrix 通过线程池的方式,来对依赖(在我们的概念中对应资源)进行了隔离。这样做的好处是资源和资源之间做到了最彻底的隔离。缺点是除了增加了线程切换的成本,还需要预先给各个资源做线程池大小的分配。
Sentinel 对这个问题采取了两种手段:
- 通过并发线程数进行限制
和资源池隔离的方法不同,Sentinel 通过限制资源并发线程的数量,来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗,也不需要您预先分配线程池的大小。当某个资源出现不稳定的情况下,例如响应时间变长,对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后,对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。 - 通过响应时间对资源进行降级
除了对并发线程数进行控制以外,Sentinel 还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后,所有对该资源的访问都会被直接拒绝,直到过了指定的时间窗口之后才重新恢复。
系统负载保护
Sentinel 同时提供系统维度的自适应保护能力。防止雪崩,是系统防护中重要的一环。当系统负载较高的时候,如果还持续让请求进入,可能会导致系统崩溃,无法响应。在集群环境下,网络负载均衡会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候,这个增加的流量就会导致这台机器也崩溃,最后导致整个集群不可用。
针对这个情况,Sentinel 提供了对应的保护机制,让系统的入口流量和系统的负载达到一个平衡,保证系统在能力范围之内处理最多的请求。
Sentinel 是如何工作的
Sentinel 的主要工作机制如下:
- 对主流框架提供适配或者显示的 API,来定义需要保护的资源,并提供设施对资源进行实时统计和调用链路分析。
- 根据预设的规则,结合对资源的实时统计信息,对流量进行控制。同时,Sentinel 提供开放的接口,方便您定义及改变规则。
- Sentinel 提供实时的监控系统,方便您快速了解目前系统的状态。
Sentinel 分为两个部分 - 核心库(Java 客户端)不依赖任何框架/库,能够运行于所有 Java 运行时环境,同时对Dubbo / Spring Cloud等框架也有较好的支持。
- 控制台(Dashboard)基于Spring Boot开发,打包后可以直接运行,不需要额外的Tomcat等应用容器。
Sentinel DashBoard
Sentinel 提供一个轻量级的开源控制台,它提供机器发现以及健康情况管理、监控(单机和集群),规则管理和推送的功能。
Sentinel 控制台包含如下功能:
- 查看机器列表以及健康情况:收集 Sentinel 客户端发送的心跳包,用于判断机器是否在线。
- 监控 (单机和集群聚合):通过 Sentinel 客户端暴露的监控 API,定期拉取并且聚合应用监控信息,最终可以实现秒级的实时监控。
- 规则管理和推送:统一管理推送规则。
- 鉴权:生产环境中鉴权非常重要。这里每个开发者需要根据自己的实际情况进行定制。
注意:Sentinel 控制台目前仅支持单机部署。Sentinel 控制台项目提供 Sentinel 功能全集示例,不作为开箱即用的生产环境控制台,若希望在生产环境使用请根据文档自行进行定制和改造。
准备工作
我们按照文章Linux–04、虚拟机的克隆与配置克隆出一台新的虚拟机作为Sentinel服务器,修改主机名为Sentinel
,修改ip为:192.168.8.186
。如下图:
下载jar
我们直接在github上该项目的release页面直接下载,我们这里选择的版本是1.8.2,直接点击jar包即可下载。如下图:
运行Sentinel
我们将上一步下载的jar包上传至Sentinel服务器的/usr/tools
下,然后运行命令java -jar -Dserver.port=8999 sentinel-dashboard-1.8.2.jar
。如下图:
访问控制台后
Sentinel DashBoard启动成功后,我们浏览器访问http://192.168.8.186:8999
,输入用户名|密码(默认都是sentinel)即可登录控制台,如下图:
目前我们还没有接入任何的服务,所以DashBoard的首页是空的。
Sentinel保护微服务
我们知道Sentinel通过响应的规则来保护指定的资源,这里的资源可以指任何内容。在微服务中,我们通常是将一个微服务作为一个资源通过指定DashBoard的地址开启服务的Sentinel的保护。下面我们着手构建一个微服务
1.新建Module
我们新建一个Module-03.springcloud_alibaba_sentinel
,点击finish
;如下图所示:
2.pom.xml
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
<parent>
<artifactId>springcloud_alibaba_parent</artifactId>
<groupId>com.christy</groupId>
<version>1.0-SNAPSHOT</version>
</parent>
<modelVersion>4.0.0</modelVersion>
<artifactId>03.springcloud_alibaba_sentinel</artifactId>
<properties>
<maven.compiler.source>8</maven.compiler.source>
<maven.compiler.target>8</maven.compiler.target>
</properties>
<dependencies>
<!--web-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!--nacos client-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
<!--引入sentinel依赖-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
</dependencies>
</project>
3.application.properties
server.port=8990
spring.application.name=SENTINEL
# nacos server
spring.cloud.nacos.server-addr=192.168.8.190:8848
# 开启sentinel保护(默认为true)
spring.cloud.sentinel.enabled=true
# sentinel与DashBoard的tcp/ip通信端口
spring.cloud.sentinel.transport.port=8719
# 指定sentinel dashboard web地址
spring.cloud.sentinel.transport.dashboard=192.168.8.186:8999
4.SentinelApplication.java
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
/**
* @Author Christy
* @Date 2021/8/6 10:16
**/
@SpringBootApplication
public class SentinelApplication {
public static void main(String[] args) {
SpringApplication.run(SentinelApplication.class, args);
}
}
5.TestController.java
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
/**
* @Author Christy
* @Date 2021/8/6 10:17
**/
@RestController
@RequestMapping("/test")
public class TestController {
private static final Logger log = LoggerFactory.getLogger(TestController.class);
@RequestMapping("/hello")
public String sayHello(){
log.info("Hello, Sentinel!");
return "Hello, Sentinel!";
}
}
6.测试
我们启动SentinelApplication,点击nacos的服务列表,可以看到SENTINEL服务已经成功注册到nacos,如下图:
但是我们查看Sentinel DashBoard控制台,发现并没有SENTINEL服务,如下图:
之所以在DashBoard中没有发现SENTINEL服务是因为在没有配置spring.cloud.sentinel.eager=true(完成sentinel与DashBoard立即通信),在这种情况下我们只需要访问一次接口,就可以建立两者之间的通信,之后就能在DashBoard中看到我们的SENTINEL服务。如下图:
我们也可以在application.properties中设置
spring.cloud.sentinel.eager=true
,该设置意思是项目启动后立即建立与DashBoard的链接QPS(Query-Per-Second):系统每秒的请求数
上面操作只是将微服务作为资源交给了Sentinel进行保护,但是具体的保护规则尚未指定,也就是说现在Sentinel还不能保护我们的微服务。需要对响应的微服务指定具体的规则。
从上面控制台中我们可以看到Sentinel提供了流控规则
、熔断规则
、热点规则
、系统规则
以及授权规则
等5个规则,其中前三个是开发中常用也是程序猿必须掌握的规则。
可能遇见的问题
作为学习,在测试的时候遇到了下图中的问题
看到这个是一脸懵逼,192.168.8.192是我本机的ip地址,nacos和Sentinel服务器都是在虚拟机中。该问题值得是发送心跳到DashBoard的主机地址不正确 出现此问题的原因是我的电脑插了网线,192.168.8.192
是以太网的地址而不是VMnet8的地址192.168.8.139
(虚拟机和宿主机通过NAT模式连接),如下图所示:
我们修改application.properties的文件内容,指定发送心跳到DashBoard的主机地址
即可,如下图所示:
以上是关于如何使用Sentinel实现服务熔断和降级,看完你就懂了的主要内容,如果未能解决你的问题,请参考以下文章