sentinel中的QPS降级操作-DegradeSlot

Posted 2023-05-02

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了sentinel中的QPS降级操作-DegradeSlot相关的知识，希望对你有一定的参考价值。

参考技术A

sentinel通过在各种slot来实现不同的功能，其中的DegradeSlot就是根据各种规则来进降级操作，下面介绍一下DegradeSlot。

DegradeSlot #entry

Degrade通过函数checkDegrade来实现降级操作。先通过资源名从degradeRules中获取降级规则DegradeRule的集合，然后逐个调用DegradeRule中的函数passCheck来进行校验。

DegradeRule#passCheck

这个方法首先会去获取cut的值，如果是true那么就直接进行限流操作。然后会根据resource获取ClusterNode全局节点。往下分别根据三种不同的策略来进行降级。

如果是根据响应时间进行降级，那么会获取clusterNode的平均响应时间，如果平均响应时间大于所设定的count（默认是毫秒），那么就调用passCount加1，如果passCount大于5，那么直接降级。

所以看到这里我们应该知道根据平均响应时间降级前几个请求即使响应过长也不会立马降级，而是要等到第六个请求到来才会进行降级。

我们进入到clusterNode的avgRt方法中看一下是如何获取到clusterNode的平均响应时间的。

这个方法主要是调用rollingCounterInSecond获取成功次数，然后再获取窗口内的响应时间，用总响应时间除以次数得到平均每次成功调用的响应时间。而在时间窗口内的总相应时间和总成功次数，则是通过StatisticSlot整个slot中的滑窗功能来统计。

DEGRADE_GRADE_RT根据响应时间进行降级

这个方法中获取成功调用的Qps和异常调用的Qps，验证后，然后求一下比率，如果没有大于count，那么就返回true，否则返回false抛出异常。

们再进入到exceptionQps方法中看一下：

rollingCounterInSecond.getWindowIntervalInSec方法是表示窗口的时间长度，用秒来表示。这里返回的是1。

根据异常数降级是非常的直接的，直接根据统计的异常总次数判断是否超过count。

SpringCloud 学习笔记总结

文章目录

1. Spring Cloud Alibaba 之 Sentinel(哨兵)概述
2. Sentinel 之下载安装
3. Sentinel 之初始化监控
4. Sentinel 之流控限流
5. Sentinel 之熔断降级
6. Sentinel 之热点key
- 6.1 热点规则之参数索引 + @SentinelResource
- 6.2 热点规则之参数例外项
7. Sentinel 之系统规则
8. Sentinel 之 SentinelResource配置
8. Sentinel 之服务熔断功能
9. Sentinel 之服务熔断OpenFeign
10. Sentinel 之持久化规则

1. Spring Cloud Alibaba 之 Sentinel(哨兵)概述

2. Sentinel 之下载安装

去官方下载：https://github.com/alibaba/Sentinel/releases

本次下载的是1.7.0版本。

运行jar包：java -jar sentinel-dashboard-1.7.0.jar。(nohup)

用户名和密码默认都是sentinel。

3. Sentinel 之初始化监控

第一步：创建项目，导入依赖。

<!--nacos 服务注册发现-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>
<!--sentinel-datasource-nacos 后续做持久化用到-->
<dependency>
    <groupId>com.alibaba.csp</groupId>
    <artifactId>sentinel-datasource-nacos</artifactId>
</dependency>
<!--sentinel依赖-->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
<!--openfeign-->
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-openfeign</artifactId>
</dependency>

第二步：配置application.yml文件。

server:
  port: 8401

spring:
  application:
    name: cloudalibaba-sentinel-service
  cloud:
    nacos:
      discovery:
        server-addr: localhost:8848 # Nacos服务注册中心地址
    sentinel:
      transport:
        # 配置Sentinel dashboard地址
        dashboard: localhost:8080
        # 默认8719端口，假如被占用从8719开始依次+1扫描，直至找到未被占用的端口
        port: 8719

management:
  endpoint:
    web:
      exposure:
        include: '*'

第三步：创建启动类。

package com.itholmes.springcloud;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.client.discovery.EnableDiscoveryClient;

/**
 * @description: TODO
 * @date: 2022/8/8 21:26
 */
@EnableDiscoveryClient
@SpringBootApplication
public class MainApp8401 
    public static void main(String[] args) 
        SpringApplication.run(MainApp8401.class,args);

第四步：创建controller，测试。

package com.itholmes.springcloud.controller;

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * @description: TODO
 * @date: 2022/8/8 21:28
 */
@RestController
public class FlowLimitController 

    @GetMapping("/testA")
    public String testA()
        return "----testA";
    

    @GetMapping("/testB")
    public String testB()
        return "----testB";

第五步：启动Sentinel 和创建的启动类。

注意：Sentinel默认是懒加载模式。

所以启动开始并没有检测什么东西。

发起请求后，就有东西了。

4. Sentinel 之流控限流

4.1 流控规则名词解释

实时监控的效果：

4.2 流控 QPS直接失败

阈值类型：QPS(每秒的请求数量) 、线程数。

QPS：当调用该api的QPS达到阈值的时候，进行限流。

新增流控规则：

可以在簇点链路的流控新增
还可以在流控规则里面的新增流控规则添加。

一旦访问超过阈值就会直接限流（这里设置的是快速失败）：

上面设置QPS阈值为1，就是1秒钟超过1个访问量就会限流。

直接失败的源码，见：

4.3 流控线程数直接失败

阈值类型：QPS(每秒的请求数量) 、线程数。

线程数：当调用该api的线程数达到阈值的时候，进行限流。

4.4 流控关联

流控关联就是当关联的资源达到阈值时，就限流自己。

就是B导致A限流了。

4.5 流控预热

Warm Up方式，即预热/冷启动方式。

Warm Up：根据codeFactor(冷加载因子，默认3)的值，从阈值/codeFactor，经过预热时长，才达到设置的QPS阈值。

就是突然请求量增多，通过冷启动，让通过的流量缓慢增加，在一定时间内逐渐增加到阈值上线，给冷系统一个预热的时间，避免冷系统被压垮。

Warm Up详细解释：

效果就是开始访问达到了阈值/3(默认) = 3(10/3=3) ，就会限流；慢慢的阈值会达到

4.6 流控排队等待

超过设置阈值就等待，可能设置等待超时时间。

详细介绍如下：

5. Sentinel 之熔断降级

5.1 降级简介

新增降级规则：

三个名词解释：

详细解释：

Sentinel的断路器是没有半开状态的，要么开启，要么断开。

5.2 降级之 RT

RT(平均响应时间)：例如：当1s内持续进入5个请求，对应时刻的平均响应时间(秒级) 均超过阈值(count，以ms为单位)，那么在接下的时间窗口(DegradeRule 中的timeWindow，以s为单位)之内，对这个方法的调用都会自动地熔断(抛出DegradeException)。

注意：Sentinel默认统计的RT上限是4900ms，超出此阈值的都会算作4900ms，若需要变更此上限可以通过启动配置项 -Dcsp.sentinel.statistic.max.rt=xxx来配置。

流程如下：

5.3 降级之异常比例

异常比例(DEGRADE_GRADE_EXCEPTION_RATIO)：当资源的每秒请求量 >= 5 ，并且每秒异常总数占通过量的比值超过阈值(DegradeRule中的count)之后，资源进入降级状态，即在接下的时间窗口(DegradeRule中的timeWindow，以s为单位)之内，对这个方法的调用都会自动地返回。异常比率的阈值范围是[0.0 ， 1.0]，代表0% ~ 100%。

流程如下：

就是我们访问接口，当资源每秒请求量超过了规定次数，并且异常数/总数超过了规定的阈值，就会熔断降级。

一定要注意是每秒请求量超过了一定次数！！！

5.4 降级之异常数

异常数：就是当资源近1分钟的异常数目超过阈值之后就会进行熔断降级。

一定理解好，时间窗口的概念！！！

流程如下：

6. Sentinel 之热点key

6.1 热点规则之参数索引 + @SentinelResource

热点key就可以理解为针对请求参数key的限流。

代码路径：

代码如下：

两个关键，一个是@SentinelResource注解的使用，一个是添加热点规则。

@GetMapping(value = "/testHotKey")
//@SentinelResource的value一般设置为上面路径名一样。添加热点的资源名就是该value值。
@SentinelResource(value = "testHotKey_SentinelResource",blockHandler = "deal_testHotKey")
public String testHotKey(
        @RequestParam(value = "p1",required = false) String p1,
        @RequestParam(value = "p2",required = false) String p2
)
    return "----testHotKey";


public String deal_testHotKey(String p1, String p2, BlockException exception)
    return "---------deal_testHotKey";

注意：如果blockHandler没有设置，那么就会将限流的异常页面返回给前端。因此，必须要配置blockHandler！！

6.2 热点规则之参数例外项

6.1目录下面只是普通情况，针对某个参数索引熔断限流。

但是，我们能期望某个参数当它是某个特殊值时，它的限流值和平时不一样。

例如：p1参数，阈值为1；但是当p1的值等于5时，它的阈值可以达到200。

新增页面如下：

注意点：

7. Sentinel 之系统规则

Sentinel 系统自适应限流：是从整体维度对应用入口流量进行控制。

系统规则支持以下的模式：

页面新增如下：

就是个总入口，在总入口处进行限流。

8. Sentinel 之 SentinelResource配置

8.1 URL限流和资源名限流

也就是限流方式有两种：

URL限流：会返回Sentinel自带默认的限流处理信息。
资源名限流：@SentinelResource的value资源名的方式，可以通过blockHandler指定兜底方法。

8.2 blockHandlerClass属性指定全局统一的处理类

在@SentinelResource属性中：

限流后，由blockHandlerClass来指定哪个类。
blockHandler就指定这个类下面的哪个方法。

(上面没有指定blockHandlerClass，写了blockHandler走的就是当前类的方法)

@GetMapping(value = "/rateLimit/customerBlockHandler")
@SentinelResource(
        value = "customerBlockHandler",
        blockHandlerClass = CustomerBlockHandler.class, //指定好哪个类(一般是统一异常处理类)
        blockHandler = "handlerException2"  //类下面的哪个方法。
)
public CommonResult customerBlockHandler()
    return new CommonResult(200,"按客户自定义",new Payment(2020L,"serial003"));

统一返回类：

package com.itholmes.springcloud.myhandler;

import com.alibaba.csp.sentinel.slots.block.BlockException;
import com.itholmes.springcloud.entities.CommonResult;
/**
 * @description: TODO
 * @date: 2022/8/11 21:22
 */
public class CustomerBlockHandler 
    public static CommonResult handlerException(BlockException exception)
        return new CommonResult(200,"按客户自定定义--global");
    
    public static CommonResult handlerException2(BlockException exception)
        return new CommonResult(200,"按客户自定定义--global2");

8.3 @SentinelResource 其他

@SentinelResource注解，注解方式不支持private的方法。

其实他的效果就是通过try-catch-finally来解决：

8. Sentinel 之服务熔断功能

8.1 服务熔断之 ribbon

ribbon是用来做负载均衡的，如下：

@LoadBalanced注解做负载均衡：

package com.itholmes.springcloud.config;

import org.springframework.cloud.client.loadbalancer.LoadBalanced;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.web.client.RestTemplate;

@Configuration
public class ApplicationContextConfig 

    @Bean
    @LoadBalanced // @LoadBalanced负载均衡注解很重要，不要忘记配置，，没有它启动不起来项目
    public RestTemplate getRestTemplate()
        return new RestTemplate();

使用配合nacos如下使用访问：

package com.itholmes.springcloud.controller;

import com.alibaba.csp.sentinel.annotation.SentinelResource;
import com.itholmes.springcloud.entities.CommonResult;
import com.itholmes.springcloud.entities.Payment;
import lombok.extern.slf4j.Slf4j;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

import javax.annotation.Resource;

/**
 * @description: TODO
 * @date: 2022/8/12 20:38
 */
@RestController
@Slf4j
public class CircleBreakerController 

    public static final String SERVICE_URL = "http://nacos-payment-provider";

    @Resource
    private RestTemplate restTemplate;

    @RequestMapping("/consumer/fallback/id")
    @SentinelResource(value = "fallback")
    public CommonResult<Payment> fallback(@PathVariable Long id)
        CommonResult<Payment> result = restTemplate.getForObject(SERVICE_URL + "/paymentSQL/" + id, CommonResult.class, id);
        if (id == 4)
            throw new IllegalArgumentException("IllegalArgument");
        else if (result.getData() == null)
            throw new NullPointerException("NullPointException");
        
        return result;

8.2 服务熔断之只配置fallback属性

只配置fallback属性，程序只要碰到异常，注意这里指的是java代码里面的异常，并不是sentinel那一套的限流，就会走兜底的方法：

package com.itholmes.springcloud.controller;

import com.alibaba.csp.sentinel.annotation.SentinelResource;
import com.itholmes.springcloud.entities.CommonResult;
import com.itholmes.springcloud.entities.Payment;
import lombok.extern.slf4j.Slf4j;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

import javax.annotation.Resource;

/**
 * @description: TODO
 * @date: 2022/8/12 20:38
 */
@RestController
@Slf4j
public class CircleBreakerController 

    public static final String SERVICE_URL = "http://nacos-payment-provider";

    @Resource
    private RestTemplate restTemplate;

    @RequestMapping("/consumer/fallback/id")
    @SentinelResource(
            value = "fallback",
            fallback = "handlerFallback"
    )
    public CommonResult<Payment> fallback(@PathVariable Long id)
        CommonResult<Payment> result = restTemplate.getForObject(SERVICE_URL + "/paymentSQL/" + id, CommonResult.class, id);
        if (id == 4)
            throw new IllegalArgumentException("IllegalArgument非法参数异常");
        else if (result.getData() == null)
            throw new NullPointerException("NullPointException空指针异常");
        
        return result;
    

    public CommonResult handlerFallback(@PathVariable Long id,Throwable e)
        Payment payment = new Payment(id, "null");
        return new CommonResult(444,"兜底异常handlerFallback，异常信息" + e.getMessage(),payment);

8.3 服务熔断之只配置blockHandler

blockHandler需要注意的是，只要有达到流控/降级/热点等等设置的条件才会走对应兜底的方法，只要不违背配置规则，还会将异常信息抛给前台的。

package com.itholmes.springcloud.controller;

import com.alibaba.csp.sentinel.annotation.SentinelResource;
import com.itholmes.springcloud.entities.CommonResult;
import com.itholmes.springcloud.entities.Payment;
import lombok.extern.slf4j.Slf4j;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;

import javax.annotation.Resource;

/**
 * @description: TODO
 * @date: 2022/8/12 20:38
 */
@RestController
@Slf4j
public class CircleBreakerController 

    public static final String SERVICE_URL = "http://nacos-payment-provider";

    @Resource
    private RestTemplate restTemplate;
    
    @RequestMapping("/consumer/fallback/id")
    @SentinelResource(
            value = "fallback",
            blockHandler = "blockHandler"
    )
    public CommonResult<Payment> fallback(以上是关于sentinel中的QPS降级操作-DegradeSlot的主要内容，如果未能解决你的问题，请参考以下文章 
 Sentinel
 4.Sentinel源码分析— Sentinel是如何做到降级的？
 SpringCloud 学习笔记总结
 SpringCloud 学习笔记总结
 熔断限流
 ubuntu gcc degrade

sentinel中的QPS降级操作-DegradeSlot

SpringCloud 学习笔记总结

文章目录

1. Spring Cloud Alibaba 之 Sentinel(哨兵)概述

2. Sentinel 之 下载安装

3. Sentinel 之 初始化监控

4. Sentinel 之 流控限流

4.1 流控规则 名词解释

4.2 流控 QPS直接失败

4.3 流控 线程数直接失败

4.4 流控 关联

4.5 流控 预热

4.6 流控 排队等待

5. Sentinel 之 熔断降级

5.1 降级 简介

5.2 降级 之 RT

5.3 降级 之 异常比例

5.4 降级 之 异常数

6. Sentinel 之 热点key

6.1 热点规则 之 参数索引 + @SentinelResource

6.2 热点规则 之 参数例外项

7. Sentinel 之 系统规则

8. Sentinel 之 SentinelResource配置

8.1 URL限流 和 资源名限流

8.2 blockHandlerClass属性 指定全局统一的处理类

8.3 @SentinelResource 其他

8. Sentinel 之 服务熔断功能

8.1 服务熔断 之 ribbon

8.2 服务熔断 之 只配置fallback属性

8.3 服务熔断 之 只配置blockHandler

2. Sentinel 之下载安装

3. Sentinel 之初始化监控

4. Sentinel 之流控限流

4.1 流控规则名词解释

4.3 流控线程数直接失败

4.4 流控关联

4.5 流控预热

4.6 流控排队等待

5. Sentinel 之熔断降级

5.1 降级简介

5.2 降级之 RT

5.3 降级之异常比例

5.4 降级之异常数

6. Sentinel 之热点key

6.1 热点规则之参数索引 + @SentinelResource

6.2 热点规则之参数例外项

7. Sentinel 之系统规则

8.1 URL限流和资源名限流

8.2 blockHandlerClass属性指定全局统一的处理类

8. Sentinel 之服务熔断功能

8.1 服务熔断之 ribbon

8.2 服务熔断之只配置fallback属性

8.3 服务熔断之只配置blockHandler