IOCP全称I/O Completion Port，中文译为I/O完成端口。IOCP是一个异步I/O的Windows API，它可以高效地将I/O事件通知给应用程序，类似于Linux中的Epoll，关于epoll可以参考linux之epoll

1. 简介

　　IOCP模型属于一种通讯模型，适用于Windows平台下高负载服务器的一个技术。在处理大量用户并发请求时，如果采用一个用户一个线程的方式那将造成CPU在这成千上万的线程间进行切换，后果是不可想象的。而IOCP完成端口模型则完全不会如此处理，它的理论是并行的线程数量必须有一个上限-也就是说同时发出500个客户请求，不应该允许出现500个可运行的线程。目前来说，IOCP完成端口是Windows下性能最好的I/O模型，同时它也是最复杂的内核对象。它避免了大量用户并发时原有模型采用的方式，极大的提高了程序的并行处理能力。

2. 原理图

　　一共包括三部分：完成端口（存放重叠的I/O请求），客户端请求的处理，等待者线程队列（一定数量的工作者线程，一般采用CPU*2个）

　　完成端口中所谓的[端口]并不是我们在TCP/IP中所提到的端口，可以说是完全没有关系。它其实就是一个通知队列，由操作系统把已经完成的重叠I/O请求的通知放入其中。当某项I/O操作一旦完成，某个可以对该操作结果进行处理的工作者线程就会收到一则通知。

　　通常情况下，我们会在创建一定数量的工作者线程来处理这些通知，也就是线程池的方法。线程数量取决于应用程序的特定需要。理想的情况是，线程数量等于处理器的数量，不过这也要求任何线程都不应该执行诸如同步读写、等待事件通知等阻塞型的操作，以免线程阻塞。每个线程都将分到一定的CPU时间，在此期间该线程可以运行，然后另一个线程将分到一个时间片并开始执行。如果某个线程执行了阻塞型的操作，操作系统将剥夺其未使用的剩余时间片并让其它线程开始执行。也就是说，前一个线程没有充分使用其时间片，当发生这样的情况时，应用程序应该准备其它线程来充分利用这些时间片。

3. IOCP优点

　　基于IOCP的开发是异步IO的，决定了IOCP所实现的服务器的高吞吐量。

　　通过引入IOCP，会大大减少Thread切换带来的额外开销，最小化的线程上下文切换，减少线程切换带来的巨大开销，让CPU把大量的事件用于线程的运行。当与该完成端口相关联的可运行线程的总数目达到了该并发量，系统就会阻塞，

4. IOCP应用

4.1 创建和关联完成端口

//功能：创建完成端口和关联完成端口
 HANDLE WINAPI CreateIoCompletionPort(*    __in   HANDLE FileHandle,              // 已经打开的文件句柄或者空句柄，一般是客户端的句柄*    __in   HANDLE ExistingCompletionPort,  // 已经存在的IOCP句柄*    __in   ULONG_PTR CompletionKey,        // 完成键，包含了指定I/O完成包的指定文件*    __in   DWORD NumberOfConcurrentThreads // 真正并发同时执行最大线程数，一般推介是CPU核心数*2* );

//创建完成端口句柄
HANDLE completionPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, NULL, 0, 0)；

4.2 与socket进行关联

typedef struct{SOCKET socket;//客户端socketSOCKADDR_STORAGE ClientAddr;//客户端地址
}PER_HANDLE_DATA, *LPPER_HANDLE_DATA;

//与socket进行关联
CreateIoCompletionPort((HANDLE)(PerHandleData -> socket), 　　　　　　　　　　completionPort, (DWORD)PerHandleData, 0);

4.3 获取队列完成状态

//功能：获取队列完成状态
/*
返回值：
调用成功，则返回非零数值，相关数据存于lpNumberOfBytes、lpCompletionKey、lpoverlapped变量中。失败则返回零值。
*/
BOOL   GetQueuedCompletionStatus(HANDLE   CompletionPort,          //完成端口句柄LPDWORD   lpNumberOfBytes,    //一次I/O操作所传送的字节数PULONG_PTR   lpCompletionKey, //当文件I/O操作完成后，用于存放与之关联的CKLPOVERLAPPED   *lpOverlapped, //IOCP特定的结构体DWORD   dwMilliseconds);           //调用者的等待时间
/*

4.4 用于IOCP的特点函数

//用于IOCP的特定函数
typedef struct _OVERLAPPEDPLUS{OVERLAPPED ol;      //一个固定的用于处理网络消息事件返回值的结构体变量SOCKET s, sclient;  int OpCode;  //用来区分本次消息的操作类型（在完成端口的操作里面，　　　　　　　　　　　　　　　　　　　　　　　是以消息通知系统，读数据/写数据，都是要发这样的　　　　　　　　　　　　　　　　　　　　　　  消息结构体过去的）WSABUF wbuf;　　　　 //读写缓冲区结构体变量 DWORD dwBytes, dwFlags; //一些在读写时用到的标志性变量
}OVERLAPPEDPLUS;

4.5 投递一个队列完成状态

//功能：投递一个队列完成状态
BOOL PostQueuedCompletionStatus( HANDLE CompletlonPort, //指定想向其发送一个完成数据包的完成端口对象DW0RD dwNumberOfBytesTrlansferred, //指定—个值,直接传递给GetQueuedCompletionStatus　　　　　　　　　　　　　　　　　　　　　　　　函数中对应的参数 DWORD dwCompletlonKey, //指定—个值,直接传递给GetQueuedCompletionStatus函数中对应的参数LPOVERLAPPED lpoverlapped, ); //指定—个值,直接传递给GetQueuedCompletionStatus　　　　　　　　　　　　　　　　　　　　函数中对应的参数

5. 示例

#include <winsock2.h>
#include <windows.h>
#include <string>
#include <iostream>
using namespace std;#pragma comment(lib,"ws2_32.lib")
#pragma comment(lib,"kernel32.lib")HANDLE g_hIOCP;enum IO_OPERATION{IO_READ,IO_WRITE};struct IO_DATA{OVERLAPPED                  Overlapped;WSABUF                      wsabuf;int                         nBytes;IO_OPERATION                opCode;SOCKET                      client;
};char buffer[1024];DWORD WINAPI WorkerThread (LPVOID WorkThreadContext) {IO_DATA *lpIOContext = NULL; DWORD nBytes = 0;DWORD dwFlags = 0; int nRet = 0;DWORD dwIoSize = 0; void * lpCompletionKey = NULL;LPOVERLAPPED lpOverlapped = NULL;while(1){GetQueuedCompletionStatus(g_hIOCP, &dwIoSize,(LPDWORD)&lpCompletionKey,(LPOVERLAPPED *)&lpOverlapped, INFINITE);lpIOContext = (IO_DATA *)lpOverlapped;if(dwIoSize == 0){cout << "Client disconnect" << endl;closesocket(lpIOContext->client);delete lpIOContext;continue;}if(lpIOContext->opCode == IO_READ) // a read operation complete
        {ZeroMemory(&lpIOContext->Overlapped, sizeof(lpIOContext->Overlapped));lpIOContext->wsabuf.buf = buffer;lpIOContext->wsabuf.len = strlen(buffer)+1;lpIOContext->opCode = IO_WRITE;lpIOContext->nBytes = strlen(buffer)+1;dwFlags = 0;nBytes = strlen(buffer)+1;nRet = WSASend(lpIOContext->client,&lpIOContext->wsabuf, 1, &nBytes,dwFlags,&(lpIOContext->Overlapped), NULL);if( nRet == SOCKET_ERROR && (ERROR_IO_PENDING != WSAGetLastError()) ) {cout << "WASSend Failed::Reason Code::"<< WSAGetLastError() << endl;closesocket(lpIOContext->client);delete lpIOContext;continue;}memset(buffer, NULL, sizeof(buffer));}else if(lpIOContext->opCode == IO_WRITE) //a write operation complete
        {// Write operation completed, so post Read operation.lpIOContext->opCode = IO_READ; nBytes = 1024;dwFlags = 0;lpIOContext->wsabuf.buf = buffer;lpIOContext->wsabuf.len = nBytes;lpIOContext->nBytes = nBytes;ZeroMemory(&lpIOContext->Overlapped, sizeof(lpIOContext->Overlapped));nRet = WSARecv(lpIOContext->client,&lpIOContext->wsabuf, 1, &nBytes,&dwFlags,&lpIOContext->Overlapped, NULL);if( nRet == SOCKET_ERROR && (ERROR_IO_PENDING != WSAGetLastError()) ) {cout << "WASRecv Failed::Reason Code1::"<< WSAGetLastError() << endl;closesocket(lpIOContext->client);delete lpIOContext;continue;} cout<<lpIOContext->wsabuf.buf<<endl;}}return 0;
}
void main ()
{WSADATA wsaData;WSAStartup(MAKEWORD(2,2), &wsaData);SOCKET    m_socket = WSASocket(AF_INET,SOCK_STREAM, IPPROTO_TCP, NULL,0,WSA_FLAG_OVERLAPPED);sockaddr_in server;server.sin_family = AF_INET;server.sin_port = htons(6000);server.sin_addr.S_un.S_addr = htonl(INADDR_ANY);bind(m_socket ,(sockaddr*)&server,sizeof(server));listen(m_socket, 8);SYSTEM_INFO sysInfo;GetSystemInfo(&sysInfo);int g_ThreadCount = sysInfo.dwNumberOfProcessors * 2;g_hIOCP = CreateIoCompletionPort(INVALID_HANDLE_VALUE,NULL,0,g_ThreadCount);//CreateIoCompletionPort((HANDLE)m_socket,g_hIOCP,0,0);for( int i=0;i < g_ThreadCount; ++i){HANDLE  hThread;DWORD   dwThreadId;hThread = CreateThread(NULL, 0, WorkerThread, 0, 0, &dwThreadId);CloseHandle(hThread);}while(1){SOCKET client = accept( m_socket, NULL, NULL );cout << "Client connected." << endl;if (CreateIoCompletionPort((HANDLE)client, g_hIOCP, 0, 0) == NULL){cout << "Binding Client Socket to IO Completion Port Failed::Reason Code::"<< GetLastError() << endl;closesocket(client);}else { //post a recv requestIO_DATA * data = new IO_DATA;memset(buffer, NULL ,1024);memset(&data->Overlapped, 0 , sizeof(data->Overlapped));data->opCode = IO_READ;data->nBytes = 0;data->wsabuf.buf  = buffer;data->wsabuf.len  = sizeof(buffer);data->client = client;DWORD nBytes= 1024 ,dwFlags=0;int nRet = WSARecv(client,&data->wsabuf, 1, &nBytes,&dwFlags,&data->Overlapped, NULL);if(nRet == SOCKET_ERROR  && (ERROR_IO_PENDING != WSAGetLastError())){cout << "WASRecv Failed::Reason Code::"<< WSAGetLastError() << endl;closesocket(client);delete data;}cout<<data->wsabuf.buf<<endl;}}closesocket(m_socket);WSACleanup();
}

Server.cpp

#include <iostream>
#include <WinSock2.h>
using namespace std;#pragma comment(lib,"ws2_32.lib")void main()
{WSADATA wsaData;  WSAStartup(MAKEWORD(2,2), &wsaData);sockaddr_in server;server.sin_family = AF_INET;server.sin_port   = htons(6000);server.sin_addr.S_un.S_addr = inet_addr("127.0.0.1");SOCKET client = socket(AF_INET, SOCK_STREAM, IPPROTO_TCP);int flag;flag = connect(client, (sockaddr*)&server, sizeof(server));if(flag < 0){cout<<"error!"<<endl;return;}while(1){cout<<"sent hello!!!!"<<endl;char buffer[1024];strcpy(buffer,"hello");send(client, buffer, 1024, 0);memset(buffer, NULL, sizeof(buffer));cout<<"recv: "<<endl;int rev = recv(client, buffer, 1024, 0);if(rev == 0)cout<<"recv nothing!"<<endl;cout<<buffer<<endl;Sleep(10000);}closesocket(client);WSACleanup();
}

client.cpp

转载于:https://www.cnblogs.com/xiaobingqianrui/p/9258665.html

Windows之IOCP相关推荐

windows的IOCP（Input Output Completion Port，输入输出完成端口）
windows的IOCP(Input Output Completion Port,输入输出完成端口) windows的IOCP(Input Output Completion Port,输入输出完成 ...
windows 下 IOCP模型（完成端口）
IOCP(I/O Completion Port,I/O完成端口)是性能最好的一种I/O模型.它是应用程序使用线程池处理异步I/O请求的一种机制.在处理多个并发的异步I/O请求时,以往的模型都是在接收 ...
再谈select, iocp, epoll,kqueue及各种I/O复用机制 - Shallway - 博客频道 - CSDN.NET
再谈select, iocp, epoll,kqueue及各种I/O复用机制 - Shallway - 博客频道 - CSDN.NET 再谈select, iocp, epoll,kqueue及各种I ...
libevent使用IOCP网络模型的示例
这段时间抽空学习了一下强大的网络库libevent,其使用标准C语言编写,支持Windows.Linux.Mac等等主流操作系统,早期版本不支持Windows的IOCP,最新版本已经添加上了,在网上找 ...
高性能并发TCP网络服务-IOCP框架修正VC2008版本
From: http://blog.csdn.net/lsfa1234/article/details/6223635 高性能并发TCP网络服务IOCP框架修正VC2008版本从Source Cod ...
简单谈谈select, iocp, epoll,kqueue及各种I/O复用机制
[本文转载于再谈select, iocp, epoll,kqueue及各种I/O复用机制] 首先,介绍几种常见的I/O模型及其区别,如下: blocking I/O nonblocking I/O I ...
技术派-epoll和IOCP之比较
直入正题 Epoll 用于Linux系统: IOCP 是用于 Windows: Epoll 是当事件资源满足时发出可处理通知消息: IOCP 则是当事件完成时发出完成通知消息. 从应用程序的角度来看, ...
关于Blocking IO, Non-Blocking IO 和 Asynchronous I/O的理解
文章写得很详细很清楚了,对我的理解帮助很大. 转载自:http://www.cnblogs.com/whyandinside/archive/2012/03/04/2379234.html. 概括来说 ...
使用多线程还是用IO复用select/epoll? epoll 或者 kqueue 的原理是什么？
原作者:蓝形参原文:http://www.zhihu.com/question/20114168/answer/14024115 使用多线程还是用IO复用select/epoll? 多线程模型适用于 ...
Linux下常用的C/C++开源Socket库
1. Linux Socket Programming In C++ : http://tldp.org/LDP/LG/issue74/tougher.html 2. ACE: h ...

Windows之IOCP