IO多路复用

关于同步/异步,堵塞/非堵塞已在上一篇讲过;

I/O多路复用技术的最大优势是系统开销小,系统不必创建进程/线程;

I/O多路复用技术就是通过一种机制,一个进程可以监视多个描述符,一旦某个描述符就绪(一般是读就绪或者写就绪),能够通知程序进行相应的读写操作;

select,poll,epoll本质上都是同步I/O;

select调用是内核级别的,select轮询相对非阻塞的轮询的区别在于— 前者可以等待多个socket,能实现同时对多个IO端口进行监听,当其中任何一个socket的数据准好了就能返回进行可读,然后进程再进行recvform系统调用,将数据由内核拷贝到用户进程,当然这个过程是阻塞

和阻塞I/O所不同的的,可以同时阻塞多个I/O操作;多路复用既然可以处理多个IO,也就带来了新的问题,多个IO之间的顺序变得不确定了
IO多路复用
实现流程:
select/epoll的好处就在于单个process就可以同时处理多个网络连接的IO;它的基本原理就是select,poll,epoll这个function会不断的轮询所负责的所有socket,当某个socket有数据到达了,就通知用户进程;

当用户进程调用了select,那么整个进程会被block,而同时,kernel会“监视”所有select负责的socket (利用文件描述符),当任何一个socket中的数据准备好了,select就会返回。这个时候用户进程再调用read操作,将数据从kernel拷贝到用户进程。

1)select:

调用后select函数会阻塞,直到有描述符就绪(有数据 可读、可写、或者有except),或者超时(timeout指定等待时间,如果立即返回设为null即可),函数返回

当select函数返回后,可以通过遍历fdset,来找到就绪的描述符

select目前几乎在所有的平台上支持,其良好跨平台支持也是它的一个优点;

缺点:select的一个缺点在于单个进程能够监视的文件描述符的数量存在最大限制;另一个缺点是,对socket进行扫描时是线性扫描,即采用轮询的方法,效率较低(不管哪个Socket是活跃的,都遍历一遍。这会浪费很多CPU时间);需要维护一个用来存放大量fd的数据结构,这样会使得用户空间和内核空间在传递该结构时复制开销大;

2)poll

基本原理:
poll本质上和select没有区别,它将用户传入的数组拷贝到内核空间,然后查询每个fd对应的设备状态,如果设备就绪则在设备等待队列中加入一项并继续遍历,如果遍历完所有fd后没有发现就绪设备,则挂起当前进程,直到设备就绪或者主动超时,被唤醒后它又要再次遍历fd。这个过程经历了多次无谓的遍历。

优点:
它没有最大连接数的限制,原因是它是基于链表来存储的;

缺点:
大量的fd的数组被整体复制于用户态和内核地址空间之间,而不管这样的复制是不是有意义;
poll还有一个特点是“水平触发”,如果报告了fd后,没有被处理,那么下次poll时会再次报告该fd。

3)epoll

epoll使用一个文件描述符管理多个描述符,将用户关系的文件描述符的事件存放到内核的一个事件表中,这样在用户空间和内核空间的copy只需一次;

基本原理:
epoll支持水平触发边缘触发,最大的特点在于边缘触发,它只告诉进程哪些fd刚刚变为就绪态,并且只会通知一次。还有一个特点是,epoll使用“事件”的就绪通知方式,通过epoll_ctl注册fd,一旦该fd就绪,内核就会采用类似callback的回调机制来激活该fd,epoll_wait便可以收到通知。

优点:

没有最大并发连接的限制,能打开的FD的上限远大于1024(1G的内存上能监听约10万个端口);

效率提升,不是轮询的方式,不会随着FD数目的增加效率下降。只有活跃可用的FD才会调用callback函数;即Epoll最大的优点就在于它只管你“活跃”的连接,而跟连接总数无关,因此在实际的网络环境中,Epoll的效率就会远远高于select和poll

内存拷贝,利用mmap()文件映射内存加速与内核空间的消息传递;即epoll使用mmap减少复制开销;

两种模式:

LT模式:当epoll_wait检测到描述符事件发生并将此事件通知应用程序,应用程序可以不立即处理该事件。下次调用epoll_wait时,会再次响应应用程序并通知此事件

ET模式:当epoll_wait检测到描述符事件发生并将此事件通知应用程序,应用程序必须立即处理该事件。如果不处理,下次调用epoll_wait时,不会再次响应应用程序并通知此事件。

参考文件:
聊聊IO多路复用之select、poll、epoll详解

上一篇:【IO多路复用】 �


下一篇:CYCLONE 使用bootloader方法