GPU直通、GPU共享及GPU虚拟化比较

GPU直通：将GPU设备直通给虚拟机

PCI直通
硬件直通是指将物理主机的硬件资源直接挂载给虚拟机使用，不需要经过hypervisor的模拟和过滤，虚拟机发的命令直接送到物理设备。GPU直通模式是最早采用也最成熟的方案。三家（Nvidia Tesla，AMD FirePro，Intel Gen8/Gen9）都有支持。
直通模式的实现依赖于IOMMU的功能。VTD对IOVA的地址转换使得直通设备可以在硬件层次直接使用GPA（Guest Physical Address）地址。
直通模式的技术方案与其他任何PCI直通没有任何区别。直通模式是对比物理机性能损耗最小，硬件驱动无需修改的方案，被各大公用云厂商广泛采用。
对于支持直通的GPU而言，直通模式没有对可支持的GPU数量做限制，也没有对GPU功能性做阉割。GPU厂家的绝大多数新功能可以在直通模式下无修改地支持。通过直通技术可以向虚拟机提供接近原生硬件的访问性能。
SR-IOV
SR-IOV是在硬件直通技术的增强，可以在硬件资源有限的情况先仍然能够利用到直通技术的性能。
该技术可以在硬件层面虚拟成多个设备，被多台虚拟机直通使用。利用该技术可以保持原生硬件的性能。
GPU SRIOV那么这个世界上就只有两款产品：S7150和MI25，都出自AMD。当然AMD的产品规划应该是早已安排到几年以后了，未来将看到更多的GPU SRIOV产品的升级换代。
S7150针对的是图形渲染的客户群体，而MI25则针对机器学习，AI的用户群体。

GPU共享

将GPU设备直通给GPU server虚拟机，GPU server可与GPU client（这些GPU client与GPU server运行在相同主机上）共享其 GPU设备。

GPU虚拟化

部分型号的GPU设备可虚拟化为n个vGPU（其中n与GPU具体型号有关），n个虚拟机可同时直接使用该GPU设备。包括Intel GVT-g和Nvidia GRID vGPU），VMWare的GPU全虚拟化（vSGA）。

GPU虚拟化通过VGX GPU硬件虚拟化功能，使得一个物理GPU设备可虚拟为多个虚拟GPU设备供虚拟机使用，每个虚拟机通过绑定的vGPU可以直接访问物理GPU的部分硬件资源(所有vGPU都能够分时共享访问物理GPU的3D图形引擎和视频编解码引擎，并拥有独立的显存)
同GPU直通相比，GPU虚拟化功能支持将一个物理GPU设备可同时供多个虚拟机使用而GPU直通中一个GPU设备只能给一个虚拟机使用
同GPU共享相比，GPU虚拟化特性中同时使用同一GPU物理设备的虚拟机间互不影响，系统自动协调、分配物理GPU设备的处理能力给多个虚拟机，而GPU共享是通过GPU server挂载GPU设备，在主机上建立GPU Server与GPU client的高速通讯机制使得GPU client可以共享GPU server的GPU设备, 即：GPU client是否享有GPU功能依赖于GPU server

2018年5月14日，NVIDIA发布NVIDIA virtual GPU software 6.1 (390.57/391.58)，正式增加了对RedHat KVM虚拟化上NVIDIA virtual GPU支持。

软硬件支持情况：

详细支持见：https://docs.nvidia.com/grid/6.0/product-support-matrix/index.html

NVIDIA vGPU Architecture

详见： https://docs.nvidia.com/grid/6.0/

Virtual GPU 类型选择:
Q-series virtual GPU types are targeted at designers and power users.
B-series virtual GPU types are targeted at power users.
A-series virtual GPU types are targeted at virtual applications users.

注：M6和M60支持在图形模式和计算模式间切换

参考：
https://forum.huawei.com/enterprise/zh/thread-336025.html
https://blog.csdn.net/yunqiinsight/article/details/80134474
https://blog.csdn.net/isclouder/article/details/80462949
https://docs.nvidia.com/grid/latest/grid-vgpu-user-guide/index.html

GPU直通、GPU共享及GPU虚拟化比较相关推荐

云计算码率适配限速_H3C CAS云计算管理平台-GPU直通操作指导书-5W101
本文档介绍H3C CAS GPU直通的配置方法和操作步骤.GPU(Graphical Processing Unit,图形处理单元)是广泛应用于广电行业和艺术设计行业的一种图形硬件加速设备,例如,电视 ...
第二章 GPU虚拟化方案之——GPU直通模式
第二章 GPU虚拟化方案之--GPU直通模式目前流行的商用GPU虚拟化方案可以分为以下几类:GPU 直通模式,GPU SRIOV 模式,GPU 半虚拟化(mediated passthrough:包 ...
gpu虚拟服务器,5种GPU虚拟化技术的详细资料讲解
GPU,也即图形处理单元.不论在手机中,还是在电脑.笔记本上,GPU都发挥着不可替代的作用.往期文章中,小编对GPU加速原理.GPU服务器选择.GPU存储性能提升等均有所介绍.为增进大家对GPU的认识 ...
虚拟服务器显卡,GPU也玩虚拟机解析RemoteFX虚拟化技术
● 解析RemoteFX虚拟化技术 ZDNET至顶网服务器频道 3月29日编译(文/Desire):在Windows Server 2008 R2 SP1正式发布之前,曾有消息称该版本将支持Remo ...
服务器开虚拟机总是gpu满载,vSphere 环境机器学习 GPU 加速方案选型
GPU 已经成为支撑 AI 应用的一种关键计算加速设备,GPU 的多处理器架构非常适合用来加快深度神经网络应用中的大量矩阵运算过程.大量实测数据表明,跟通用处理器相比,GPU 在运行深度神经网络时具有 ...
gpu浮点计算能力floaps_聊聊 GPU 峰值计算能力
1.前言 2020 年 5 月 14日,在全球疫情肆虐,无数仁人志士前赴后继攻关新冠疫苗之际,NVIDIA 创始人兼首席执行官黄仁勋在自家厨房直播带货,哦不对应该是 NVIDIA GTC 2020 主 ...
如何查看服务器gpu性能,ubuntu服务器查看GPU和CPU实时使用情况
GPU 什么是Nvidia-smi nvidia-smi是nvidia 的系统管理界面 ,其中smi是System management interface的缩写,它可以收集各种级别的信息,查看显存使 ...
re修改gpu频率_NVSMI监控GPU使用情况和更改GPU状态系列命令总结分享
1 NVIDIA-SMI介绍nvidia-smi简称NVSMI,提供监控GPU使用情况和更改GPU状态的功能,是一个跨平台工具,它支持所有标准的NVIDIA驱动程序支持的Linux发行版以及从Win ...
计算机的CPU和GPU的区别,CPU和GPU有什么区别？
原标题:CPU和GPU有什么区别? 在台式计算机和笔记本电脑中,在其硬件组件之间,有一个CPU和另一个GPU.在智能手机和平板电脑中也会重复的配置. 我们都非常清楚,两者都是处理器,但它们彼此之间有何 ...

GPU直通、GPU共享及GPU虚拟化比较

GPU直通：将GPU设备直通给虚拟机

GPU共享

GPU虚拟化

GPU直通、GPU共享及GPU虚拟化比较相关推荐

最新文章

热门文章