两个简单的API限流实现方案

Posted 2020-12-27 beggar_1982

1， Ngnix限流

nginx在架构中起到请求转发与负载均衡器的作用。外部req首先到Nginx监听的80端口，然后Nginx将req交给到监听8080端口的APP服务器处理。处理结果再经由Nginx返回给调用方。

Nginx限流的配置：(/usr/local/etc/nginx/nginx.conf)

 1 #user  nobody;
 2 worker_processes  1;
 3  
 4 events {
 5     worker_connections  1024;
 6 }
 7  
 8 http {
 9     include       mime.types;
10     default_type  application/octet-stream;
11  
12     sendfile        on;
13     keepalive_timeout  65;
14  
15     # Rate limitation conf
16     limit_req_zone $binary_remote_addr zone=mylimit:1m rate=1r/s;
17     server {
18         listen       80;
19         server_name  localhost;
20  
21         location / {
22             root   html;
23             index  index.html index.htm;
24         }
25  
26         error_page   500 502 503 504  /50x.html;
27         location = /50x.html {
28             root   html;
29         }
30  
31         # rate limitation and redirection to APP 
32         location ~* /(inventories|prices) {
33             limit_req zone=mylimit;
34             proxy_pass http://localhost:8080;
35         }
36     }
37     include servers/*;
38 }

其中， limit_req_zone $binary_remote_addr zone=mylimit:1m rate=1r/s;
将流量限制为 1QPS，如调用方超过该限制则返回 503

重启nginx:  sudo nginx -s reload

 

2, Redis 计数器

原理： 每个req都对redis中生命周期为一个时间单位的计数器（key：callLimit）加1，如果单位时间内的访问次数超过限制，则拒绝所有后来的请求直到下一个单位时间开始。

 1 public Mono<ServerResponse>  req_handle(ServerRequest request) {
 2         if (callLimitCheck()){
 3             return getResp(request){
 4         … business logics to handle the req …
 5             };
 6         } else {
 7             return ServerResponse.ok().body(Mono.just(“Over call limit!”), String.class);
 8         }
 9     }
10  
11     private boolean callLimitCheck() {
12         String callLimit = this.template.opsForValue().get("callLimit");
13         if(callLimit != null && Integer.valueOf(callLimit)>30) {
14             return false;
15         }   
16         DefaultRedisScript<String> script = new DefaultRedisScript<>(
17         "local current current = redis.call(‘incr‘,KEYS[1]) if tonumber(current) == 1 then redis.call(‘expire‘, KEYS[1], 60) end");
18         script.setResultType(String.class);
19         List<String> keys = new ArrayList<>();
20         keys.add("callLimit");
21         this.template.execute(script, keys);
22         return true;
23     }

上面的代码将有效的QPS限制为 0.5/s ( 30/m).

其中为了避免race condition，将 incr 与 expire两个操作写到一个Lua脚本中实现原子性。

"local current current = redis.call(‘incr‘,KEYS[1]) if tonumber(current) == 1 then redis.call(‘expire‘, KEYS[1], 60) end"

 

 

转自：https://blog.csdn.net/qijin2016/article/details/79284553