RateLimiter限流器

  • RateLimiter是基于令牌桶算法实现的一个多线程限流器,它可以将请求均匀的进行处理,当然他并不是一个分布式限流器,只是对单机进行限流。它可以应用在定时拉取接口数。 通过aop、filter、Interceptor 等都可以达到限流效果。
原理特别简单、轻量。引入guava包即可。
package com.ratelimiter;

import com.google.common.util.concurrent.RateLimiter;

import static java.util.concurrent.TimeUnit.MILLISECONDS;
import static java.util.concurrent.TimeUnit.SECONDS;

/**
 * RateLimiter是基于令牌桶算法实现的一个多线程限流器,它可以将请求均匀的进行处理,当然他并不是一个分布式限流器,只是对单机进行限流。它可以应用在定时拉取接口数据,
 *
 * @version 1.0
 * @date 2020-06-11 10:08
 **/
public class RateMain {

    public static void main(String[] args) throws InterruptedException {
        long l = MILLISECONDS.toMicros(1L);
        long l1 = MILLISECONDS.toMillis(1L);
        long l2 = SECONDS.toMicros(1L);
        System.out.println("RateMain.main = " + l + "====" + l1 + "====" + l2);
        System.out.println("RateMain.main jdk8 新特性无穷大 = " + ((1.0 / 0.0) > 9.99));
        RateLimiter rateLimiter = RateLimiter.create(1000);
        MILLISECONDS.sleep(1000L); // sleep 1s, 那么会导致初始化10个令牌
        int i = 0;
        do {
            long start = System.currentTimeMillis();
            boolean b = rateLimiter.tryAcquire();
//            double b = rateLimiter.acquire();  // 取的令牌,返回获取令牌的耗时。
            System.out.print(System.currentTimeMillis() - start);
            System.out.println("第" + (++i) + "条, 获取令牌:" + b);
            if (i > 50) {
                break;
            }
        } while (true);
    }
}

原理

首先先讲一下令牌桶的原理,每隔一段时间生产一个令牌放入桶里,请求在执行时需要拿到令牌才可以执行,如果拿不到令牌将等待令牌产生,一个生产者,多个消费者。

但是这样的令牌桶有一个问题,如果CPU负载过高,生产令牌的线程没有获取到时间片生产令牌,那么限制的流量将会比设定值更低。

可能是出于这个原因,guava并没有这样做,而是一个惰性生产令牌:

每次请求令牌时,通过当前时间和下次产生令牌时间的差值计算出现在有多少个令牌。
storedPermits: 已有令牌数量
nextFreeTicketMicros: 下次产生令牌的时间点
stableIntervalMicros: 产生一个令牌需要的时间,例如10qps,  = 1000/10 = 100ms会产生一个令牌

例如:获取令牌时,当前时间比下次产生令牌时间大,
会计算出令牌存储[(now-nextFreeTicketMicros)/stableIntervalMicros],如果令牌不够,则让线程sleep;
每次新生产令牌,下次产生令牌的时间点更新成当前时间时间(有等待,需要加上等待时间)。

断点进去就可以了。

上一篇:RateLimiter源码


下一篇:guava限流实现