Java使用Semaphore对单接口进行限流

Posted dituirenwu

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Java使用Semaphore对单接口进行限流相关的知识,希望对你有一定的参考价值。

java使用Semaphore对单接口进行限流

目录一、实战说明1.1 效果说明1.2 核心知识点二、?环境搭建三、限流演示3.1 并发请求工具3.2 效果示例图

一、实战说明

1.1 效果说明

本篇主要讲如何使用Semaphore对单接口进行限流,例如有如下场景

a. A系统的有a接口主要给B系统调用,现在希望对B系统进行限流,例如处理峰值在100,超过100的请求快速失败

b. 接口作为总闸入口,希望限制所有外来访问,例如某个房间只能同时100个玩家在线,只有前面的处理完后面的才能继续请求

c. 其他类型场景,也就是资源固定的情况下需要轮流使用资源的可以采用Semaphore

不适用场景

a. 由于是针对总入口进行限流,所以不能根据IP或者token等进行限流,适用场景比较固定

b. 后续的博客中会介绍如何使用其他的针对IP/Token级别的限流,例如AOP+Redis+Lua进行限流

优点主要有

a. 相比针对IP级别的限流,Semaphore实现相对简单,对上述场景能快速实现限流效果

实现难度:3颗星

1.2 核心知识点

主要使用以下技术点

a. springboot

b. juc包中的Semaphore(tryAcquire、release方法)

Semaphore主要说明

a. Semaphore中可以通过和acquire获取到一个许可证(默认),通过release释放许可证

b. 两个获取许可证的主要区别就是前者是非阻塞而后者阻塞,如果我们要实现快速失败的效果,就必须使用非阻塞获取许可证方法

注意点

a. 一定要确保release方法被调用,例如放到finally中,否则许可证得不到释放,将会导致接口被全部陷死,无法接收请求

二、?环境搭建

环境使用idea+spring initializr创建

新建springboot web项目

包目录说明

新建SemaphoreController,请求路径为limit

a. 注意点已经代码注释说明

package com.codecoord.semaphore.controller;

import org.springframework.web.bind.annotation.RequestMapping;

import org.springframework.web.bind.annotation.RestController;

import java.util.concurrent.Semaphore;

@RestConywEGmttroller

public class SemaphoreController

private static final int MAX_SEMAPHORE=3;



private static final Semaphore SEMAPHORE=new Semaphore(MAX_SEMAPHORE);

@RequestMapping("/limit")

public String limit() 

    // 01.使用非阻塞tryAcquire,如果获取不到就快速返回失败

    if (!SEMAPHORE.tryAcquire()) 

        return "请求频率超过限制:" + MAX_SEMAPHORE;

    

    // 02. 如果能进入到这里,说明一定获取到了许可证

    /// todo 可能的参数校验,注意如果参数校验不通过,一定要调用release方法

    

    try 

        // 03. 模拟业务处理,假如需要1s

        Thread.sleep(1000);

        return "业务处理成功";

     catch (InterruptedException e) 

        // 错误处理

        return "业务处理失败";

     finally 

        // 04. 一定要释放,否则导致接口假死无法处理请求

        SEMAPHORE.release();

    


三、限流演示

3.1 并发请求工具

并发请求将基于apache-jmeter-5.2.1进行测试,jmeter的使用相对简单,请读者自行百度

此处线程组的线程数量为10个,真实环境中根据需要调整配置大小

3.2 效果示例图

启动测试,可以看到处理成功的只有三个,剩下7个全部失败

a. 请求成功

b. 请求失败

以上是关于Java使用Semaphore对单接口进行限流的主要内容,如果未能解决你的问题,请参考以下文章

基于Redis和Lua的分布式限流

并发限流利器Semaphore

并发限流利器Semaphore

coding++:Semaphore—RateLimiter-漏桶算法-令牌桶算法

java高并发系列 - 第15天:JUC中的Semaphore,最简单的限流工具类,必备技能

Java并发编程(十四):Semaphore源码逐行深度分析