SpringCloudSpring Cloud Alibaba 之 Sentinel热点参数限流与系统自适应限流（三十二）

Posted 2021-02-18 H__D

Sentinel热点参数限流

　　何为热点？热点即经常访问的数据。很多时候我们希望统计某个热点数据中访问频次最高的 Top K 数据，并对其访问进行限制。比如：

• 商品 ID 为参数，统计一段时间内最常购买的商品 ID 并进行限制
• 用户 ID 为参数，针对一段时间内频繁访问的用户 ID 进行限制

　　热点参数限流会统计传入参数中的热点参数，并根据配置的限流阈值与模式，对包含热点参数的资源调用进行限流。热点参数限流可以看做是一种特殊的流量控制，仅对包含热点参数的资源调用生效。

　　Sentinel 利用 LRU 策略统计最近最常访问的热点参数，结合令牌桶算法来进行参数级别的流控。热点参数限流支持集群模式。

热点参数限流DEMO

　　示例代码搭建参考：Spring Cloud Alibaba 之 Sentinel哨兵介绍入门（二十九） 

　　1、编辑项目Controller中的代码，增加方法testHotKey

 1 @GetMapping("/testHotKey")
 2 // 定义资源名称及处理方法
 3 @SentinelResource(value = "testHotKey", blockHandler = "deal_testHotKey")
 4 public String testHotKey(@RequestParam(value = "p1", required = false) String p1,
 5                          @RequestParam(value = "p2", required = false)  String p2){
 6     System.out.println(Thread.currentThread().getName() + "--------testHotKey");
 7     return "--------testHotKey";
 8 }
 9 
10 public String deal_testHotKey(String p1, String p2, BlockException excetion){
11     System.out.println(Thread.currentThread().getName() + "--------deal_testHotKey");
12     return "--------deal_testHotKey";
13 }

　　2、在Sentinel控制台，热点规则，设置对第一个参数的请求阀值为1

　　　　

　　3、测试

　　　　1）启动项目（启动项目-访问-设置规则-测试）

　　　　2）访问地址：http://localhost:8401/testHotKey?p1=1，正常响应

　　　　     访问地址：http://localhost:8401/testHotKey?p2=1，正常响应

　　　　3）高频（快速刷新界面）访问地址：http://localhost:8401/testHotKey?p1=1，被限流

　　　　　　

　　　　    高频（快速刷新界面）访问地址：http://localhost:8401/testHotKey?p2=1，正常响应

　　　　　　

热点参数限流-参数例外项

　　1、沿用上面代码示例

　　2、编辑热点规则，设置对第一个参数的请求阀值为1，且设置参数例外项，但参数值为5的时候，阀值为200

　　　　

　　3、测试

　　　　1）启动项目（启动项目-访问-设置规则-测试）

　　　　2）访问地址：http://localhost:8401/testHotKey?p1=1，正常响应

　　　　     访问地址：http://localhost:8401/testHotKey?p1=5，正常响应

　　　　3）高频（快速刷新界面）访问地址：http://localhost:8401/testHotKey?p1=1，被限流

　　　　　  高频（快速刷新界面，未超过没秒200次请求）访问地址：http://localhost:8401/testHotKey?p1=5，正常响应

Sentinel系统自适应限流

　　Sentinel 系统自适应限流从整体维度对应用入口流量进行控制，结合应用的 Load、CPU 使用率、总体平均 RT、入口 QPS 和并发线程数等几个维度的监控指标，通过自适应的流控策略，让系统的入口流量和系统的负载达到一个平衡，让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

系统规则

　　系统保护规则是从应用级别的入口流量进行控制，从单台机器的 load、CPU 使用率、平均 RT、入口 QPS 和并发线程数等几个维度监控应用指标，让系统尽可能跑在最大吞吐量的同时保证系统整体的稳定性。

　　系统保护规则是应用整体维度的，而不是资源维度的，并且仅对入口流量生效。入口流量指的是进入应用的流量（EntryType.IN），比如 Web 服务或 Dubbo 服务端接收的请求，都属于入口流量。

　　系统规则支持以下的模式：

• Load 自适应（仅对 Linux/Unix-like 机器生效）：系统的 load1 作为启发指标，进行自适应系统保护。当系统 load1 超过设定的启发值，且系统当前的并发线程数超过估算的系统容量时才会触发系统保护（BBR 阶段）。系统容量由系统的 maxQps * minRt 估算得出。设定参考值一般是 CPU cores * 2.5。
• CPU usage（1.5.0+ 版本）：当系统 CPU 使用率超过阈值即触发系统保护（取值范围 0.0-1.0），比较灵敏。
• 平均 RT：当单台机器上所有入口流量的平均 RT 达到阈值即触发系统保护，单位是毫秒。
• 并发线程数：当单台机器上所有入口流量的并发线程数达到阈值即触发系统保护。
• 入口 QPS：当单台机器上所有入口流量的 QPS 达到阈值即触发系统保护。

入口 QPS系统规则示例

　　1、编辑项目Controller中的代码，增加方法testE

1 @GetMapping("/testE")
2 public String testE(){
3     System.out.println(Thread.currentThread().getName() + "--------testE");
4     return "--------testE";
5 }

　　2、新增系统规则，设置阀值类型为入口QPS，阀值为1

　　　　

　　3、测试

　　　　1）启动项目（启动项目-访问-设置规则-测试）

　　　　2）访问地址：http://localhost:8401/testE，正常访问

　　　　3）高频（快速刷新界面）访问地址：http://localhost:8401/testE，被限流，说明系统规则已生效