SpringCloudSpring Cloud Alibaba 之 Sentinel热点参数限流与系统自适应限流(三十二)

Posted H__D

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了SpringCloudSpring Cloud Alibaba 之 Sentinel热点参数限流与系统自适应限流(三十二)相关的知识,希望对你有一定的参考价值。

Sentinel热点参数限流

  何为热点?热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的 Top K 数据,并对其访问进行限制。比如:

  • 商品 ID 为参数,统计一段时间内最常购买的商品 ID 并进行限制
  • 用户 ID 为参数,针对一段时间内频繁访问的用户 ID 进行限制

  热点参数限流会统计传入参数中的热点参数,并根据配置的限流阈值与模式,对包含热点参数的资源调用进行限流。热点参数限流可以看做是一种特殊的流量控制,仅对包含热点参数的资源调用生效。

  Sentinel 利用 LRU 策略统计最近最常访问的热点参数,结合令牌桶算法来进行参数级别的流控。热点参数限流支持集群模式。

热点参数限流DEMO

  示例代码搭建参考:Spring Cloud Alibaba 之 Sentinel哨兵介绍入门(二十九) 

  1、编辑项目Controller中的代码,增加方法testHotKey

 1 @GetMapping("/testHotKey")
 2 // 定义资源名称及处理方法
 3 @SentinelResource(value = "testHotKey", blockHandler = "deal_testHotKey")
 4 public String testHotKey(@RequestParam(value = "p1", required = false) String p1,
 5                          @RequestParam(value = "p2", required = false)  String p2){
 6     System.out.println(Thread.currentThread().getName() + "--------testHotKey");
 7     return "--------testHotKey";
 8 }
 9 
10 public String deal_testHotKey(String p1, String p2, BlockException excetion){
11     System.out.println(Thread.currentThread().getName() + "--------deal_testHotKey");
12     return "--------deal_testHotKey";
13 }

  2、在Sentinel控制台,热点规则,设置对第一个参数的请求阀值为1

    

  3、测试

    1)启动项目(启动项目-访问-设置规则-测试)

    2)访问地址:http://localhost:8401/testHotKey?p1=1,正常响应

         访问地址:http://localhost:8401/testHotKey?p2=1,正常响应

    3)高频(快速刷新界面)访问地址:http://localhost:8401/testHotKey?p1=1,被限流

      

        高频(快速刷新界面)访问地址:http://localhost:8401/testHotKey?p2=1,正常响应

      

热点参数限流-

  1、沿用上面代码示例

  2、编辑热点规则,设置对第一个参数的请求阀值为1,且设置参数例外项,但参数值为5的时候,阀值为200

    

  3、测试

    1)启动项目(启动项目-访问-设置规则-测试)

    2)访问地址:http://localhost:8401/testHotKey?p1=1,正常响应

         访问地址:http://localhost:8401/testHotKey?p1=5,正常响应

    3)高频(快速刷新界面)访问地址:http://localhost:8401/testHotKey?p1=1,被限流

       高频(快速刷新界面,未超过没秒200次请求)访问地址:http://localhost:8401/testHotKey?p1=5,正常响应

Sentinel系统自适应限流

  Sentinel 系统自适应限流从整体维度对应用入口流量进行控制,结合应用的 Load、CPU 使用率、总体平均 RT、入口 QPS 和并发线程数等几个维度的监控指标,通过自适应的流控策略,让系统的入口流量和系统的负载达到一个平衡,让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

系统规则

  系统保护规则是从应用级别的入口流量进行控制,从单台机器的 load、CPU 使用率、平均 RT、入口 QPS 和并发线程数等几个维度监控应用指标,让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

  系统保护规则是应用整体维度的,而不是资源维度的,并且仅对入口流量生效。入口流量指的是进入应用的流量(EntryType.IN),比如 Web 服务或 Dubbo 服务端接收的请求,都属于入口流量。

  系统规则支持以下的模式:

  • Load 自适应(仅对 Linux/Unix-like 机器生效):系统的 load1 作为启发指标,进行自适应系统保护。当系统 load1 超过设定的启发值,且系统当前的并发线程数超过估算的系统容量时才会触发系统保护(BBR 阶段)。系统容量由系统的 maxQps * minRt 估算得出。设定参考值一般是 CPU cores * 2.5
  • CPU usage(1.5.0+ 版本):当系统 CPU 使用率超过阈值即触发系统保护(取值范围 0.0-1.0),比较灵敏。
  • 平均 RT:当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护,单位是毫秒。
  • 并发线程数:当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。
  • 入口 QPS:当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。

入口 QPS系统规则示例

  1、编辑项目Controller中的代码,增加方法testE

1 @GetMapping("/testE")
2 public String testE(){
3     System.out.println(Thread.currentThread().getName() + "--------testE");
4     return "--------testE";
5 }

  2、新增系统规则,设置阀值类型为入口QPS,阀值为1

    

  3、测试

    1)启动项目(启动项目-访问-设置规则-测试)

    2)访问地址:http://localhost:8401/testE,正常访问

    3)高频(快速刷新界面)访问地址:http://localhost:8401/testE,被限流,说明系统规则已生效

 

以上是关于SpringCloudSpring Cloud Alibaba 之 Sentinel热点参数限流与系统自适应限流(三十二)的主要内容,如果未能解决你的问题,请参考以下文章

SpringCloudSpring Cloud Config 配置中心(二十)

SpringCloudSpring Cloud Config 客户端(二十一)

SpringCloudSpring Cloud Alibaba 及 Nacos介绍(二十六)

SpringCloudSpring Cloud Alibaba 之 Nacos配置中心(二十八)

SpringCloudSpring Cloud Bus 服务总线(二十二)

SpringCloudSpring Cloud Alibaba 之 Sentinel熔断降级(三十一)