零拷贝机制(Zero Copy)

要理解零拷贝机制，首先需要了解它所要解决的问题，试想一个场景：我们需要从磁盘读取一个文件通过网络输出到一个客户端。

服务端的步骤一般是这样的：

read(file, tmp_buf, len);
write(socket, tmp_buf, len);

虽然只有两个步骤：从磁盘读取文件，将文件写入到socket，但是在操作系统内部经历了一个较为复杂的过程，这个过程如下图所示：

上面部分显示，这个过程经历了四次上下文切换。下面部分显示，经历了四次数据拷贝过程：

数据从磁盘复制到内核缓冲区
从内核缓冲区复制到用户空间缓冲区
从用户缓冲区复制到内核的socket缓冲区
从socket缓冲区复制到协议引擎（这里是网卡驱动）

这里要把数据从磁盘复制到内核缓冲区是必须的，因为系统需要读取数据输出给网卡嘛。但是为啥还要从内核复制一份到用户空间呢？应用程序直接使用内核缓冲区的数据不就行了吗？这是因为对于操作系统来说，可能有多个应用程序会同时使用这些数据，并有可能进行修改，如果让大家都使用同一份内核空间的数据就会产生冲突。因此，操作系统设计为：每个应用程序想使用这些数据都必须复制一份到自己的用户空间，这样就不会互相影响了。所以这个机制在碰到数据不需要做修改的场景时就产生了浪费，数据本来可以呆在内核缓冲区不动，没必要再多此一举拷贝一次到用户空间。

为了避免这种浪费，人们一开始采用了mmap调用的方式来进行优化。即应用程序不再调用read，而是采用mmap，mmap会从磁盘复制数据到内核缓冲区，然后与用户进程共享该内核缓冲区，这样就不再需要从内核缓冲区复制到用户缓冲区了，这样就比之前少了一次数据复制过程。不过，这种改进方式存在一些问题，比如在mmap一个文件时，文件被另一个进程截断将会产生错误等。当然，人们也发明了一些方法来解决这类问题，但不管怎样都使得这个过程变得很复杂不易使用。

随着linux内核的发展，在2.1版本中引入了一个叫 sendfile的系统调用。sendfile相当于封装了(mmap,write)的过程，自动处理了文件被截断等问题，除此之外，sendfile还减少了上下文切换次数。sendfile的过程是这样的：

从磁盘读取文件内容到内核缓冲区
直接从内核缓冲区复制数据到socket缓冲区
从socket缓冲区复制到协议引擎（这里是网卡驱动）

这种方式虽好，但是仍然存在一次从内核缓冲区到内核socket缓冲区的复制行为，也就是从内存的一个区域复制到内存的另一个区域的行为，这个可以避免吗？后来人们又对硬件进行了改进，在硬件的帮助下来消除内存之间的数据复制。这种硬件需要支持一种叫“收集”操作的接口，它支持从内存中不同位置收集数据，也就是不再限定于只从内核socket缓冲区来收集数据，而是可以从内核缓冲区去收集。

在linux内核版本2.4中对sendfile调用做了一系列优化来适应这个需求，对于应用程序来说，sendfile的调用方式不需要做任何修改，但是它底层的机制有了一定的改进，如下图所示：

如图所示：数据复制到内核缓冲区以后，不再需要整个拷贝到socket缓冲区，而是只需要将数据的位置和长度信息（append dscr）传输到socket缓冲区，这样DMA引擎会根据这些信息直接从内核缓存区复制数据给协议引擎。

最终，数据只需要从磁盘复制到内存，再从内存复制到协议引擎，跟最开始相比减少了从内核到用户空间，从用户空间到socket缓冲两次复制。但是明明还有两次数据的复制，为什么要叫“零拷贝”呢？这是因为从操作系统的角度来说，数据没有从内存复制到内存的过程，也就没有了CPU参与的过程，所以对于操作系统来说就是零拷贝了。查看wiki对零拷贝的定义如下：

"Zero-copy" describes computer operations in which the CPU does not perform the task of copying data from one memory area to another.

从定义我们看到，零拷贝是指不需要cpu参与在内存之间复制数据的操作。那这个过程为啥不需要cpu参与呢？

仔细看上面的图示，你会发现：从磁盘复制到内核缓冲区是通过DMA引擎来做而不是cpu，同样的，从socket缓冲区到协议引擎也是由 DMA引擎来做，这样就节省了cpu的工作。而这整个过程都在内核中完成也减少了操作系统的上下文切换开销。

总结一下：

存在用户空间和内核空间的交互行为就会产生上下文切换，所以即使用户空间与内核空间共享同一份缓冲区也一样。
利用硬件支持的DMA引擎可以减少对cpu的使用，磁盘，网卡都有此引擎。
利用硬件的“收集”接口功能可以将数据位置和长度直接传输给硬件相关的引擎，从而让硬件引擎直接从相应的内存区域读取数据。
零拷贝是用于对不变的数据做传输，如果应用程序需要修改数据那势必就不能用到零拷贝了，所以零拷贝可不是万能的。实际上，零拷贝还有其它的一些限制条件，可以参考相关的资料。

除了上面所列出的零拷贝机制，linux中零拷贝技术还有以下几种：

直接IO：应用程序直接访问硬件存储，内核只辅助数据传输，不进行页缓存。
写时复制技术：当应用程序不需要修改数据时只保存在内核缓冲区，不复制到用户空间。（这类方法没有dma，需要cpu的全程参与）
splice：是与sendfile类似的一种方法，适用于将数据从一个地方传送到另一个地方不需要经过应用程序的处理。splice可以在内核空间整块地移动数据，并用可以通过异步方式进行。splice允许任意两个文件之间互相连接，而sendfile只是文件到socket之间，所以sendfile只是splice的了个子集。在2.6.23版本内核中，sendfile的机制已经没有了，api相应的功能换成了splice机制来实现。

除了操作系统的零拷贝机制，在netty里还有一种称之为用户空间的零拷贝机制，但那完全是另一种原理以及解决完全不同问题的一种机制。

【参考文献】

https://www.linuxjournal.com/article/6345

https://www.ibm.com/developerworks/cn/linux/l-cn-zerocopy1/index.html

https://www.ibm.com/developerworks/cn/linux/l-cn-zerocopy2/index.html

https://www.jianshu.com/p/2fd2f03b4cc3

转载于:https://my.oschina.net/u/150599/blog/3020027

零拷贝机制(Zero Copy)相关推荐

什么是零拷贝机制(Zero Copy) ？
要理解零拷贝机制,首先需要了解它所要解决的问题,试想一个场景:我们需要从磁盘读取一个文件通过网络输出到一个客户端. 服务端的步骤一般是这样的: read(file, tmp_buf, len); wr ...
linux I/O--IO原理和几种零拷贝机制（五）
前言零拷贝(Zero-copy)技术指在计算机执行操作时,CPU 不需要先将数据从一个内存区域复制到另一个内存区域,从而可以减少上下文切换以及 CPU 的拷贝时间.它的作用是在数据报从网络设备到用户 ...
深入剖析Linux IO原理和几种零拷贝机制的实现
本文来说下Linux IO原理和几种零拷贝机制的实现文章目录概述物理内存和虚拟内存物理内存虚拟内存内核空间和用户空间内核空间用户空间 Linux的内部层级结构 Linux I/O读写方 ...
Linux IO原理和零拷贝机制
目录 1 概述 2 Linux I/O读写方式 2.1 I/O中断原理 2.2. DMA传输原理 2.3 传统I/O方式 3 零拷贝方式 3.1 用户态直接I/O 3.2 mmap + write 3 ...
浅析操作系统和Netty中的零拷贝机制
点击关注公众号,Java干货及时送达零拷贝机制(Zero-Copy)是在操作数据时不需要将数据从一块内存区域复制到另一块内存区域的技术,这样就避免了内存的拷贝,使得可以提高CPU的.零拷贝机制是一种 ...
零拷贝（Zero Copy）
一.零拷贝简介零拷贝指的是,从一个存储区域到另一个存储区域的copy任务没有CPU参与.零拷贝通常用于网络文件传输,以减少CPU消耗和内存带宽占用,减少用户空间(用户可以操作的内存缓存区域)与CPU ...
零拷贝机制在文件传输中的使用手法
文章目录文件传输(读取与发送)中的拷贝与上下文切换零拷贝技术 sendfile sendfile + SG-DMA mmap + write splice Direct I/O 经典应用文件传输 ...
通俗易懂的Kafka零拷贝机制
Kafka之所以那么快,其中一个很大的原因就是零拷贝(Zero-copy)技术,零拷贝不是kafka的专利,而是操作系统的升级,又比如Netty,也用到了零拷贝.下面我就画图讲解零拷贝,如果对你有帮助 ...
零拷贝（Zero Copy）技术
概念我们知道Linux系统分为用户态和内核态,在用户态每发起一次IO请求,就需要进行2次上下文切换(分别是用户态->内核态,内核态→用户态),和一次CPU拷贝(将数据从内核缓存拷贝到用户缓存) ...

零拷贝机制(Zero Copy)

零拷贝机制(Zero Copy)相关推荐

最新文章

热门文章