如何实现一个限流器
信号量模型
信号量模型可以简单概括为:一个计数器,一个等待队列,三个方法。
在信号量模型里,计数器和等待队列对外是透明的,所以只能通过信号量模型提供的三个方法来访问它们,这三个方法分别是:init()、down() 和 up()。

init():设置计数器的初始值。
down():计数器的值减 1;如果此时计数器的值小于 0,则当前线程将被阻塞,否则当前线程可以继续执行。
up():计数器的值加 1;如果此时计数器的值小于或者等于 0,则唤醒等待队列中的一个线程,并将其从等待队列中移除。
这里的 init()、down() 和 up() 三个方法都是原子性的,并且这个原子性是由信号量模型的实现方保证的。
1 | class Semaphore { |
如何使用信号量
信号量其实就是一个标记,可以理解为红绿灯。每次通过路口时,要先检测红绿灯,是绿灯才可以同行,否则不能通过。而上面的信号量可以理解为,每次进入这里时,要先检测以下count是否大于0,如果大于0,才可以执行,否则不能执行。
1 | static int count; |
注意,这里的acquire和release是原子性的。
快速实现一个限流器
这里的限流器的场景是:需要一个对象池,里面有N个对象可以被重复使用。当一个线程使用了其中的对象式时,该线程释放该对象之前,其他线程不允许使用。
1 | class ObjPool<T, R> { |
信号量可以允许多个线程同时访问临界资源,它的并发度相对于使用Lock来说要好一点。但是它无法同时唤醒多个线程去争抢锁,只能唤醒阻塞线程中的一个。
因为信号量模型是没有Condition的概念的,即阻塞线程被醒了直接就运行了而不会去检查此时临界条件是否已经不满足了,所以一次只能唤醒一个。即满足进去临界区域之后,就从所有阻塞的线程中选一个进去,如果选多个,这几个线程都会认为此时已经满足,并开始执行。事实是,唤醒多个之后,有一个线程开始执行后,其他的线程就不满足条件了,但由于不检查条件,他们还是会执行。
参考
《Java 并发编程实战》