Linux网络编程-IO复用技术

IO复用是Linux中的IO模型之一,IO复用就是进程预先告诉内核需要监视的IO条件,使得内核一旦发现进程指定的一个或多个IO条件就绪,就通过进程进程处理,从而不会在单个IO上阻塞了。Linux中,提供了select、poll、epoll三种接口函数来实现IO复用。

1、select函数

#include <sys/select.h>
#include <sys/time.h>
int select(int nfds, fd_set *readfds, fd_set *writefds, fd_set *exceptfds, struct timeval *timeout);
// 返回:若有就绪描述符则为其个数,超时为0,出错-1

nfds参数指定了被监听文件描述符的个数,通常设置为监听的所有描述符最大值加1,因为文件描述符是从0开始的。readfs、writefds和exceptfds分别对应可读、可写和异常等事件文件描述符集合,当调用select时,通过这3个参数传入自己感兴趣的文件描述符,select函数返回后,内核通过修改他们来通知应用程序那些文件描述符已经就绪。

fd_set结构体包含一个整形数组,该数组中每一个元素的每一位标记一个文件描述符,fd_set容纳的文件描述符数量由FD_SETSIZE指定,这就限制了select能同时处理的文件描述符最大个数。通过一些宏来操作fd_set结构体中的位:

#include <sys/select.h>
FD_ZERO(fd_set *fdset); /* 清除fdset所有标志位 */
FD_SET(int fd, fd_set fdset); /* 设置fdset标志位fd */
FD_CLR(int fd, fd_set fdset); /* 清除fdset标志位fd */
int FD_ISSET(int fd, fd_set *fdset); /* 测试fdset的位fd是否被设置 */

timeout参数用来设置select的超时时间,它是一个timeval结构类型指针,采用指针参数是应为内核将修改它以告诉应用程序select等待了多久。不过我们不能完全信任select调用返回的timeout值,比如调用失败后timeout的值是不确定的。

struct timeval
{
long tv_sec; //秒数
long tv_usec; //微秒数
};

select提供了一个微妙的定时方案,如果给timeval的成员都赋值0,则select将立即返回;如果timeout为NULL,则select将一直阻塞,直到某个文件描述符就绪。select成功时返回就绪的文件描述符的总数,如果在超时时间内没有任何描述符就绪,select返回0,select失败返回-1并设置errno。如果在select等待期间,程序收到信号,则select立即返回-1,并设置errno为EINTR。

select缺点:

  • 每次调用select,都需要把fd集合从用户态拷贝到内核态,这个开销在fd很多时会很大
  • 每次调用select都需要在内核遍历传递进来的所有fd,这个开销在fd很多时也很大
  • select支持的文件描述符数量太小了,默认是1024

select测试用例:

#include <iostream>
#include <vector> #include <unistd.h>
#include <sys/select.h>
#include <sys/socket.h>
#include <arpa/inet.h>
#include <string.h> using namespace std; int getMaxNumOfVector(vector<int> &fds);
vector<int> flipVector(vector<int> &fds); int main(int argc, char **argv)
{
vector<int> fds;
int listenfd, connfd;
struct sockaddr_in servaddr; listenfd = socket(AF_INET, SOCK_STREAM, ); memset(&servaddr, , sizeof(servaddr));
servaddr.sin_family = AF_INET;
servaddr.sin_port = htons();
servaddr.sin_addr.s_addr = INADDR_ANY; bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
listen(listenfd, ); fd_set read_fd;
fd_set write_fd;
fd_set except_fd;
char buff[]; FD_ZERO(&read_fd);
FD_ZERO(&write_fd);
FD_ZERO(&except_fd); fds.push_back(STDIN_FILENO);
fds.push_back(listenfd); bool running = true;
while (running) {
buff[] = '\0'; /**
* 每次调用select都要重新初始化read_fd和except_fd中的文件描述符集
*/
for (int i = ; i < fds.size(); i++) {
FD_SET(fds[i], &read_fd);
if ((fds[i] != STDIN_FILENO) && (fds[i] != listenfd)) {
//FD_SET(fds[i], &write_fd);
FD_SET(fds[i], &except_fd);
}
} int event_num = select(getMaxNumOfVector(fds) + , &read_fd, &write_fd, &except_fd, NULL);
if (event_num < ) {
cerr << "select error" << endl;
break;
} for (int i = ; i < fds.size(); i++) {
if (fds[i] == STDIN_FILENO) {
// 从STDIN_FILENO中读取数据
if (FD_ISSET(STDIN_FILENO, &read_fd)) {
cin >> buff;
if (strcmp(buff, "quit") == ) {
running = false;
break;
}
else {
cout << buff << endl;
}
}
}
else if (fds[i] == listenfd) {
if (FD_ISSET(listenfd, &read_fd)) {
connfd = accept(listenfd, NULL, NULL);
if (connfd < ) {
running = false;
break;
} fds.push_back(connfd);
cout << "往fds添加 " << connfd << ", fds.size: " << fds.size() << endl;
}
}
else {
if (FD_ISSET(fds[i], &read_fd)) {
int len = recv(fds[i], buff, sizeof(buff) - , );
if (len < ) {
cerr << "recv error" << endl;
}
else if (len == ) {
cout << "从fds删除 " << fds[i] << endl;
// 客户端断开了连接
fds[i] = -;
}
else {
buff[len] = '\0';
cout << fds[i] << " recv: " << buff << endl;
}
}
else if (FD_ISSET(fds[i], &write_fd)) { }
else if (FD_ISSET(fds[i], &except_fd)) { }
}
} fds = flipVector(fds);
} // 关闭文件描述符
for (int i = ; i < fds.size(); i++) {
close(fds[i]);
}
close(listenfd); return ;
} int getMaxNumOfVector(vector<int> &fds)
{
int result = ; for (int i = ; i < fds.size(); i++) {
if (fds[i] > result) {
result = fds[i];
}
} return result;
} vector<int> flipVector(vector<int> &fds) {
vector<int> fdsnew; for (int i = ; i < fds.size(); i++) {
if (fds[i] != -) {
fdsnew.push_back(fds[i]);
}
} return fdsnew;
}

poll函数

#include <poll.h>
int poll(struct pollfd *fds, nfds_t nfds, int timeout);
// 返回:若有就绪描述符则为其数目,超时为0,出错-1

poll系统调用和select类似,也是在一定时间内轮询一定数量的文件描述符,测试是否有就绪者。nfds参数指定被监听事件集合fds的大小,timeout指定poll的超时值,单位为毫秒,当timeout为-1时,poll调用将一直阻塞,直到某个事件发生;当timeout为0时,poll调用马上返回。

pollfd结构体

struct pollfd
{
int fd; /* 文件描述符 */
short events; /* 注册的事件 */
short revents; /* 实际发生的事件,有内核填充 */
};

poll支持的事件类型:

Linux网络编程-IO复用技术

poll函数测试用例,监听多个socket连接和终端输入,当在终端中输入quit时退出程序:

#include <iostream>
#include <vector> #include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <sys/poll.h>
#include <sys/socket.h>
#include <arpa/inet.h>
#include <string.h> using namespace std; vector<pollfd> flipVector(vector<pollfd> &fds);
struct pollfd *getPollfd(vector<pollfd> &fds, int *ppoll_size); int main(int argc, char **argv)
{
int listenfd, connfd;
struct sockaddr_in servaddr; listenfd = socket(AF_INET, SOCK_STREAM, ); memset(&servaddr, , sizeof(servaddr));
servaddr.sin_family = AF_INET;
servaddr.sin_port = htons();
servaddr.sin_addr.s_addr = INADDR_ANY; bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
listen(listenfd, ); struct pollfd poll_fd;
vector<struct pollfd> fds; poll_fd.fd = STDIN_FILENO;
poll_fd.events = POLLIN;
fds.push_back(poll_fd); poll_fd.fd = listenfd;
poll_fd.events = POLLIN;
fds.push_back(poll_fd); char buff[];
struct pollfd *ppoll = NULL;
int poll_size = ; ppoll = getPollfd(fds, &poll_size); bool running = true;
while (running) {
int oldSize = fds.size();
buff[] = '\0'; int event_num = poll(ppoll, poll_size, -);
if (event_num < ) {
cerr << "select error" << endl;
break;
} int fds_size = fds.size();
for (int i = ; i < fds_size; i++) {
if (ppoll[i].fd == STDIN_FILENO) {
// 从STDIN_FILENO中读取数据
if (ppoll[i].revents & POLLIN) {
cin >> buff;
if (strcmp(buff, "quit") == ) {
running = false;
break;
}
else {
cout << buff << endl;
}
}
}
else if (ppoll[i].fd == listenfd) {
if (ppoll[i].revents & POLLIN) {
connfd = accept(listenfd, NULL, NULL);
if (connfd < ) {
running = false;
break;
} poll_fd.fd = connfd;
poll_fd.events = POLLIN;
fds.push_back(poll_fd);
cout << "往fds添加 " << connfd << ", fds.size: " << fds.size() << endl;
}
}
else {
if (ppoll[i].revents & POLLIN) {
int len = recv(ppoll[i].fd, buff, sizeof(buff) - , );
if (len < ) {
cerr << "recv error" << endl;
}
else if (len == ) {
cout << "从fds删除 " << fds[i].fd << endl;
// 客户端断开了连接
fds[i].events = ;
fds[i].fd = -;
}
else {
buff[len] = '\0';
cout << fds[i].fd << " recv: " << buff << endl;
}
}
}
} fds = flipVector(fds);
if (oldSize != fds.size()) {
free(ppoll);
ppoll = getPollfd(fds, &poll_size);
}
} // 关闭文件描述符
for (int i = ; i < fds.size(); i++) {
if (fds[i].fd != -) {
close(fds[i].fd);
}
}
close(listenfd); return ;
} struct pollfd *getPollfd(vector<pollfd> &fds, int *ppoll_size)
{
struct pollfd *poll = (struct pollfd *) malloc(fds.size() * sizeof(struct pollfd));
for (int i = ; i < fds.size(); i++) {
poll[i].fd = fds[i].fd;
poll[i].events = fds[i].events;
} *ppoll_size = fds.size();
return poll;
} vector<pollfd> flipVector(vector<pollfd> &fds) {
vector<pollfd> fdsnew; for (int i = ; i < fds.size(); i++) {
if (fds[i].fd != -) {
fdsnew.push_back(fds[i]);
}
} return fdsnew;
}

epoll系列函数

epoll是Linux特有的IO复用函数,它在实现和使用上与select和poll有很大差异,首先,epoll使用一组函数来完成操作,而不是单个函数。其次,epoll把用户关心的文件描述符上的事件放在内核上的一个事件表中,从而无须像select和poll那样每次调用都要重复传入文件描述符集合事件表。但epoll需要使用一个额外的文件描述符,来唯一标识内核中这个事件表,这个文件描述符使用如下epoll_create函数创建:

#include <sys/epoll.h>
int epoll_create(int size);
// 返回:成功返回创建的内核事件表对应的描述符,出错-1

size参数现在并不起作用,只是给内核一个提示,告诉它内核表需要多大,该函数返回的文件描述符将用作其他所有epoll函数的第一个参数,以指定要访问的内核事件表。用epoll_ctl函数操作内核事件表

#include <sys/epoll.h>
int epoll_ctl(int opfd, int op, int fd, struct epoll_event *event);

返回:成功返回0,出错-1

fd参数是要操作的文件描述符,op指定操作类型,操作类型有3种

  • EPOLL_CTL_ADD:往事件表中注册fd上的事件
  • EPOLL_CTL_MOD:修改fd上的注册事件
  • EPOLL_CTL_DEL:删除fd上的注册时间

event指定事件类型,它是epoll_event结构指针类型

struct epoll_event
{
__uint32_t events; /* epoll事件 */
epoll_data_t data; /* 用户数据 */
};

其中events描述事件类型,epoll支持的事件类型和poll基本相同,表示epoll事件类型的宏是在poll对应的宏加上”E”,比如epoll的数据可读事件是EPOLLIN,但epoll有两个额外的事件类型-EPOLLET和EPOLLONESHOT,它们对于高效运作非常关键,data用于存储用户数据,其类型epoll_data_t定义如下:

typedef union epoll_data
{
void *ptr;
int fd;
uint32_t u32;
uint64_t u64;
}epoll_data_t;

epoll_data_t是一个联合体,其4个成员最多使用的是fd,它指定事件所从属的目标文件描述符,ptr成员可用来指定fd相关的用户数据,但由于opoll_data_t是一个联合体,我们不能同时使用fd和ptr,如果要将文件描述符嗯哼用户数据关联起来,以实现快速的数据访问,则只能使用其他手段,比如放弃使用fd成员,而在ptr指针指向的用户数据中包含fd。

#include <sys/epoll.h>
int epoll_wait(int epfd, struct epoll_event *events, int maxevents, int timeout);
// 返回:成功返回就绪的文件描述符个数,出错-1

timeout参数的含义与poll接口的timeout参数相同,maxevents参数指定最多监听多少个事件,它必须大于0。

epoll_wait如果检测到事件,就将所有就绪的事件从内核事件表(由epfd指定)中复制到events指定的数组中,这个数组只用来输epoll_wait检测到的就绪事件,而不像select和poll的参数数组既传递用于用户注册的事件,有用于输出内核检测到就绪事件,这样极大提高了应用程序索引就绪文件描述符的效率。

Linux网络编程-IO复用技术

epoll函数测试用例,监听多个socket连接和终端输入,当在终端中输入quit时退出程序:

#include <iostream>

#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <sys/epoll.h>
#include <netinet/in.h>
#include <arpa/inet.h>
#include <fcntl.h>
#include <string.h> using namespace std; void addfd(int epollfd, int fd)
{
epoll_event event; event.data.fd = fd;
event.events = EPOLLIN;
epoll_ctl(epollfd, EPOLL_CTL_ADD, fd, &event);
} void delfd(int epollfd, int fd)
{
epoll_event event; event.data.fd = fd;
event.events = EPOLLIN;
epoll_ctl(epollfd, EPOLL_CTL_DEL, fd, &event);
} int main(int argc, char **argv)
{
int listenfd, connfd;
struct sockaddr_in servaddr; listenfd = socket(AF_INET, SOCK_STREAM, ); memset(&servaddr, , sizeof(servaddr));
servaddr.sin_family = AF_INET;
servaddr.sin_port = htons();
servaddr.sin_addr.s_addr = INADDR_ANY; bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
listen(listenfd, ); int epollfd = epoll_create();
if (epollfd < ) {
cerr << "epoll_create error" << endl;
exit(-);
} addfd(epollfd, STDIN_FILENO);
addfd(epollfd, listenfd); epoll_event events[]; char buff[];
bool running = true;
while (running) {
buff[] = '\0'; int event_num = epoll_wait(epollfd, events, , -);
if (event_num < ) {
cerr << "epoll_wait error" << endl;
break;
} for (int i = ; i < event_num; i++) {
int fd = events[i].data.fd;
int event = events[i].events; if (fd == STDIN_FILENO) {
// 从STDIN_FILENO中读取数据
if (event & EPOLLIN) {
cin >> buff;
if (strcmp(buff, "quit") == ) {
running = false;
break;
}
else {
cout << buff << endl;
}
}
}
else if (fd == listenfd) {
if (event & EPOLLIN) {
connfd = accept(listenfd, NULL, NULL);
if (connfd < ) {
running = false;
break;
} addfd(epollfd, connfd);
cout << "往epoll添加 " << connfd << endl;
}
}
else {
if (event & EPOLLIN) {
int len = recv(fd, buff, sizeof(buff) - , );
if (len < ) {
cerr << "recv error" << endl;
}
else if (len == ) {
cout << "从epoll删除 " << fd << endl;
// 客户端断开了连接
delfd(epollfd, fd);
}
else {
buff[len] = '\0';
cout << fd << " recv: " << buff << endl;
}
}
}
}
} // 关闭文件描述符
close(listenfd); return ;
}

参考:

  1、《UNIX网络编程》IO复用章节

  2、 网络编程API-下 (I/O复用函数)

上一篇:使用Composer安装ThinkPHP5


下一篇:说说Audition消除歌曲中的人声