一.项目背景
最近项目中需要进行接口保护,防止高并发的情况把系统搞崩,因此需要对一个查询接口进行限流,主要的目的就是限制单位时间内请求此查询的次数,例如1000次,来保护接口。
参考了 开涛的博客聊聊高并发系统限流特技 ,学习了其中利用Google Guava缓存实现限流的技巧,在网上也查到了很多关于Google Guava缓存的博客,学到了好多,推荐一个博客文章:http://ifeve.com/google-guava-cachesexplained/,关于Google Guava缓存的更多细节或者技术,这篇文章讲的很详细;
这里我们并不是用缓存来优化查询,而是利用缓存,存储一个计数器,然后用这个计数器来实现限流。
二.效果实验
static LoadingCache<Long, AtomicLong> count = CacheBuilder.newBuilder().expireAfterWrite(2, TimeUnit.SECONDS).build(new CacheLoader<Long, AtomicLong>() {
@Override
public AtomicLong load(Long o) throws Exception {
//System.out.println("Load call!");
return new AtomicLong(0L);
}
});
上面,我们通过CacheBuilder来新建一个LoadingCache缓存对象count,然后设置其有效时间为两秒,即每两秒钟刷新一次;缓存中,key为一个long型的时间戳类型,value是一个计数器,使用原子性的AtomicLong保证自增和自减操作的原子性, 每次查询缓存时如果不能命中,即查询的时间戳不在缓存中,则重新加载缓存,执行load将当前的时间戳的计数值初始化为0。这样对于每一秒的时间戳,能计算这一秒内执行的次数,从而达到限流的目的;
这是要执行的一个getCounter方法:
public class Counter {
static int counter = 0;
public static int getCounter() throws Exception{
return counter++;
}
}
现在我们创建多个线程来执行这个方法:
ublic class Test {
public static void main(String args[]) throws Exception
{
for(int i = 0;i<100;i++)
{
new Thread(){
@Override
public void run() {
try {
System.out.println(Counter.getCounter());
}
catch (Exception e)
{
e.printStackTrace();
}
}
}.start();
}
}
}
这样执行的话,执行结果很简单,就是很快地执行这个for循环,迅速打印0到99折100个数,不再贴出。
这里的for循环执行100个进程时间是很快的,那么现在我们要限制每秒只能有10个线程来执行getCounter()方法,该怎么办呢,上面讲的限流方法就派上用场了:
public class Counter {
static LoadingCache<Long, AtomicLong> count = CacheBuilder.newBuilder().expireAfterWrite(2, TimeUnit.SECONDS).build(new CacheLoader<Long, AtomicLong>() {
@Override
public AtomicLong load(Long o) throws Exception {
System.out.println("Load call!");
return new AtomicLong(0L);
}
});
static long limits = 10;
static int counter = 0;
public static synchronized int getCounter() throws Exception{
while (true)
{
//获取当前的时间戳作为key
Long currentSeconds = System.currentTimeMillis() / 1000;
if (count.get(currentSeconds).getAndIncrement() > limits) {
continue;
}
return counter++;
}
}
}
这样一来,就可以限制每秒的执行数了。对于每个线程,获取当前时间戳,如果当前时间(当前这1秒)内有超过10个线程正在执行,那么这个进程一直在这里循环,直到下一秒,或者更靠后的时间,重新加载,执行load,将新的时间戳的计数值重新为0。
执行结果:
每秒执行11个(因为从0开始),每一秒之后,load方法会执行一次;
为了更加直观,我们可以让每个for循环sleep一段时间:
public class Test {
public static void main(String args[]) throws Exception
{
for(int i = 0;i<100;i++)
{
new Thread(){
@Override
public void run() {
try {
System.out.println(Counter.getCounter());
}
catch (Exception e)
{
e.printStackTrace();
}
}
}.start();
Thread.sleep(100);
}
}
}
在上述这样的情况下,一个线程如果遇到当前时间正在执行的线程超过limit值就会一直在while循环,这样会浪费大量的资源,我们在做限流的时候,如果出现这种情况,可以不进行while循环,而是直接抛出异常或者返回,来拒绝这次执行(查询),这样便可以节省资源。