RateLimiter限流

Posted 2022-04-21 enhance

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了RateLimiter限流相关的知识，希望对你有一定的参考价值。

1、处理高并发

　　1.1高并发处理方案：　

缓存 缓存的目的是提升系统访问速度和增大系统处理容量
降级 降级是当服务出现问题或者影响到核心流程时，需要暂时屏蔽掉，待高峰或者问题解决后再打开
限流 限流的目的是通过对并发访问/请求进行限速，或者对一个时间窗口内的请求进行限速来保护系统，一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理

　　1、2限流方式：　mq、ratelimiter

2、ratelimiter是基于令牌桶算法来做的　

　　guava的RateLimiter使用的是令牌桶算法，也就是以固定的频率向桶中放入令牌，例如一秒钟10枚令牌，实际业务在每次响应请求之前都从桶中获取令牌，只有取到令牌的请求才会被成功响应，获取的方式有两种：阻塞等待令牌或者取不到立即返回失败

技术图片

另外简单介绍漏铜算法：

　　请求以一定速度进入漏桶中，如果请求速度>处理请求速度则溢出，漏桶算法能强行处理请求速率。但如果在处理高并发时，突然来大量请求这种方案不合适　　

技术图片

令牌桶代码：create():每秒创建多少令牌

　　　　　　tryacquire()：尝试获取令牌，tryacquire():尝试获取一个令牌，如果获取不到立即返回；tryacquire(int permits, long timeout, TimeUnit unit):尝试获取permits个令牌，如果获取不到等待timeout时间

·核心算法：

package com.leolztang.sb.aop.ratelimiter;

import org.springframework.stereotype.Service;

import com.google.common.util.concurrent.RateLimiter;

@Service
public class AccessLimitService 
    RateLimiter rateLimiter=RateLimiter.create(100.0);
    //尝试获取令牌
    public boolean tryAcquire() 
        return rateLimiter.tryAcquire();

测试类：　

package com.leolztang.sb.aop.ratelimiter;

import java.text.SimpleDateFormat;
import java.util.Date;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Controller;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestMethod;
import org.springframework.web.bind.annotation.ResponseBody;
import org.springframework.web.bind.annotation.RestController;

@RestController
@RequestMapping("/limit")
public class AccessLimiterController 
    private static SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
    ExecutorService fixedThreadPool = Executors.newFixedThreadPool(120);
    @Autowired
    private AccessLimitService accessLimitService;
    
    @RequestMapping(value="/ratelimit",method = RequestMethod.GET)
    @ResponseBody
    public void tryForVisit() 
        for(int i=0;i<200;i++) 
            fixedThreadPool.execute(new Runnable() 
                
                @Override
                public void run() 
                    String str=visitAccess();
                    System.out.println("output:"+str);
                
            );
        
    
    
    
    
    public String visitAccess() 
        if(accessLimitService.tryAcquire()) 
            try 
                Thread.sleep(2000);
            catch (InterruptedException e)
                e.printStackTrace();
            
            return "aceess success [" + sdf.format(new Date()) + "]";
        else 
            return "aceess limit [" + sdf.format(new Date()) + "]";