Leader-Follower线程模型

一、前言

IO线程模型一直在演化,由最开始的单线程模型,到BIO方式的单线程接受请求线程池线程具体处理单个请求的读写事件,再到NIO的单线程接受请求线程池里面的单个线程可以处理不同请求的读写事件,一个字没有最快,只有更快。最近发现还有个Leader-follower线程模型,其的出现是为了解决单线程接受请求线程池线程处理请求下线程上下文切换以及线程间通信数据拷贝的开销,并且不需要维护一个队列。

二、Leader-follower线程模型

Leader-Follower线程模型

上图就是L/F多线程模型的状态变迁图,共6个关键点:

(1)线程有3种状态:领导leading,处理processing,追随following
(2)假设共N个线程,其中只有1个leading线程(等待任务),x个processing线程(处理),余下有N-1-x个following线程(空闲)
(3)有一把锁,谁抢到就是leading
(4)事件/任务来到时,leading线程会对其进行处理,从而转化为processing状态,处理完成之后,又转变为following
(5)丢失leading后,following会尝试抢锁,抢到则变为leading,否则保持following
(6)following不干事,就是抢锁,力图成为leading

优点:不需要消息队列

适用场景:线程能够很快的完成工作任务

有人说“并发量大时,L/F的锁容易成为系统瓶颈,需要引入一个消息队列解决。”

此观点不对,一个消息队列,其仍是临界资源,仍需要一把锁来保证互斥,只是锁竞争从leading移到了消息队列上,此时消息队列仅仅只能起到消息缓冲的作用。

根本解决方案是降低锁粒度(例如多个队列)。

上一篇:iOS8系统H264视频硬件编解码说明


下一篇:Python 容器用法整理