SpringBoot如何进行限流？封装AOP注解实现吧

Posted 2022-10-15 Joker_Ye

首先说说，为什么现在要Api接口限流呢？

在互联网时代，高并发、大数据量访问已经成为常态，怎样避免系统资源被耗尽，防止并发过高，在资源内存是你硬件瓶颈的时候，该通过一定限制访问来控制系统的资源分配，避免冲击服务器，把服务器突然击垮，击垮了服务器对大家都没好处，因为这样系统在短时间没法恢复，反而会影响整体的性能。

例如，抢购商品的系统，在面对高并发的情况下，就是采用了限流。在流量高峰期间经常会出现类似提示语；"当前排队人数较多，请稍后再试！"

关于限流有哪些算法？

限流是对某一时间窗口内的请求数进行限制，保持系统的可用性和稳定性，防止因流量暴增而导致的系统运行缓慢或宕机。

常见的限流算法有三种：

1. 计数器限流

计数器算法是限流算法里最简单也是最容易实现的一种算法。比如我们规定，对于A接口来说，我们1分钟的访问次数不能超过100个。那么我们可以这么做：在一开 始的时候，我们可以设置一个计数器counter，每当一个请求过来的时候，counter就加1，如果counter的值大于100并且该请求与第一个 请求的间隔时间还在1分钟之内，那么说明请求数过多；如果该请求与第一个请求的间隔时间大于1分钟，且counter的值还在限流范围内，那么就重置 counter，具体算法的示意图如下：

 2. 漏桶算法

漏桶算法其实很简单，可以粗略的认为就是注水漏水过程，往桶中以一定速率流出水，以任意速率流入水，当水超过桶流量则丢弃，因为桶容量是不变的，保证了整体的速率。

 3. 令牌桶算法

令牌桶算法是比较常见的限流算法之一，大概描述如下：
1）、所有的请求在处理之前都需要拿到一个可用的令牌才会被处理；
2）、根据限流大小，设置按照一定的速率往桶里添加令牌；
3）、桶设置最大的放置令牌限制，当桶满时、新添加的令牌就被丢弃或者拒绝；
4）、请求达到后首先要获取令牌桶中的令牌，拿着令牌才可以进行其他的业务逻辑，处理完业务逻辑之后，将令牌直接删除；
5）、令牌桶有最低限额，当桶中的令牌达到最低限额的时候，请求处理完之后将不会删除令牌，以此保证足够的限流；

关于实现

在当今的时代，其实我们不用再写具体的逻辑，我们可以使用封装好插件，例如Google开源工具包Guava提供了限流工具类RateLimiter，该类基于令牌桶算法实现流量限制，使用十分方便，而且十分高效

第一步：引入guava依赖包 

pom.xml

<dependency>
    <groupId>com.google.guava</groupId>
    <artifactId>guava</artifactId>
    <version>30.1-jre</version>
</dependency>

加入AOP依赖，这个如果项目已经引入可忽略

<dependency>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-aop</artifactId>
</dependency>

第二步：定义限流注解

@Retention(RetentionPolicy.RUNTIME)
@Target(ElementType.METHOD)
@Documented
public @interface Limit 
    /**
     * 资源的key,唯一
     * 作用：不同的接口，不同的流量控制
     */
    String key() default "";

    /**
     * 最多的访问限制次数
     */
    double permitsPerSecond () ;

    /**
     * 获取令牌最大等待时间
     */
    long timeout();

    /**
     * 获取令牌最大等待时间,单位(例:分钟/秒/毫秒) 默认:毫秒
     */
    TimeUnit timeunit() default TimeUnit.MILLISECONDS;

    /**
     * 得不到令牌的提示语
     */
    String msg() default "系统繁忙,请稍后再试.";

第三步：实现拦截限流注解的逻辑

@Slf4j
@Aspect
@Component
public class LimitAop 
    /**
     * 不同的接口，不同的流量控制
     * map的key为 Limiter.key
     */
    private final Map<String, RateLimiter> limitMap = Maps.newConcurrentMap();

    @Around("@annotation(com.jy.interceptor.limit.Limit)")
    public Object around(ProceedingJoinPoint joinPoint) throws Throwable
        MethodSignature signature = (MethodSignature) joinPoint.getSignature();
        Method method = signature.getMethod();
        //拿limit的注解
        Limit limit = method.getAnnotation(Limit.class);
        if (limit != null) 
            //key作用：不同的接口，不同的流量控制
            String key=limit.key();
            RateLimiter rateLimiter = null;
            //验证缓存是否有命中key
            if (!limitMap.containsKey(key)) 
                // 创建令牌桶
                rateLimiter = RateLimiter.create(limit.permitsPerSecond());
                limitMap.put(key, rateLimiter);
                log.info("新建了令牌桶=，容量=",key,limit.permitsPerSecond());
            
            rateLimiter = limitMap.get(key);
            // 拿令牌
            boolean acquire = rateLimiter.tryAcquire(limit.timeout(), limit.timeunit());
            // 拿不到命令，直接返回异常提示
            if (!acquire) 
                log.debug("令牌桶=，获取令牌失败",key);
                this.responseFail(limit.msg());
                return null;
            
        
        return joinPoint.proceed();
    

    /**
     * 直接向前端抛出异常
     * @param msg 提示信息
     */
    private void responseFail(String msg)  
        //这里的实现返回，可以根据自己项目返回对应Json或者对象
        HttpServletResponse response=((ServletRequestAttributes) RequestContextHolder.getRequestAttributes()).getResponse();
        ResultData<Object> resultData = ResultData.fail(ReturnCode.LIMIT_ERROR.getCode(), msg);
        WebUtils.writeJson(response,resultData);
    

Ps：其实这里around的逻辑可以根据需要切换不同的算法哦~~

 第四步：给需要限流的Controller接口加上注解

@Slf4j
@RestController
@RequestMapping("/limit")
public class LimitController 
    
    @GetMapping("/test2")
    @Limit(key = "limit2", permitsPerSecond = 1, timeout = 500, timeunit = TimeUnit.MILLISECONDS,msg = "当前排队人数较多，请稍后再试！")
    public String limit2() 
        log.info("令牌桶limit2获取令牌成功");
        return "ok";
    


    @GetMapping("/test3")
    @Limit(key = "limit3", permitsPerSecond = 2, timeout = 500, timeunit = TimeUnit.MILLISECONDS,msg = "系统繁忙，请稍后再试！")
    public String limit3() 
        log.info("令牌桶limit3获取令牌成功");
        return "ok";
    

测试效果

通过访问测试地址：http://127.0.0.1:8080/limit/test2，反复刷新并观察输出结果：

正常响应时：

"status":100,"message":"操作成功","data":"ok","timestamp":1632579377104

触发限流时：

"status":2001,"message":"系统繁忙，请稍后再试！","data":null,"timestamp":1632579332177

然后，这个就是我们想要的结果，给一些很重要的api加上限流，有时是很必要的，像有些像处理图片，视频，或者大数据的api

一般在系统上线时我们通过对系统压测可以评估出系统的性能阀值，然后给接口加上合理的限流参数，防止出现大流量请求时直接压垮系统。

至于测试的可以用工具Jmeter，或者Postman都可以，如果懒的可以用代码 线程测试也是可以的

哈哈，最后谢谢大家的观看！下次有好的代码提高性能的我还是不留余力给大家分享的！！！