云计算通用可编程DPU发展白皮书(2023年)通过阐明和分析 DPU 发展的过程与现状,指出哪些 DPU 特性是解决上述核心问题的关键点,从而推动 DPU 技术的深入发展,助力实现完整的生态链建设和产业落地。

相关文章:通用可编程DPU技术详解(2023)

DPU 是以数据处理为中心的芯片,是继 CPU、GPU 之后的“第三颗主力芯片”。DPU 是一种提供数据中心基础设施服务的通用处理器,可以卸载及加速网络、存储、安全和管控等基础功能,释放更多的 CPU 算力供客户使用。

随着云计算虚拟化技术的发展,网卡的发展基本可以分为三个阶段:

1. 传统基础网卡 NIC:负责用户数据交互的网络设备,具有较少的硬件卸载能力;

2. 智能网卡 SmartNIC:具备丰富的数据平面硬件卸载能力;

3. 数据处理器 DPU:兼具智能网卡功能的同时,又可以卸载控制平面业务,实现了控制平面与数据平面的通用可编程加速。

DPU 专用处理单元用来解决数据中心通用基础设施虚拟化的性能瓶颈,通用处理单元则保证 DPU 的通用性,使得 DPU 能够广泛适用于各家云厂商的基础设施,实现了数据中心虚拟化软件框架向 DPU的平滑迁移。

美国 Fungible 就已经提出了 DPU 的概念,它也是第一家专注于设计DPU 的创业公司。2020 年,Nvidia 在其 GTC 大会上隆重介绍了数据中心网络领域新产品BlueField DPU。自此,DPU 的概念开始逐渐活跃起来,引起了国内外众多厂商密切关注。

目前,国内外已经有很多云厂商和芯片巨头布局 DPU 产业,如国外有 AWS、Nvidia、Intel、AMD 和 Marvell 等,国内有阿里、腾讯、中国移动、中国电信和云豹智能等。

海外 DPU 的现状

1. AWS Nitro DPU

AWS 是全球领先的云计算服务和解决方案提供商,AWS Nitro DPU 系统已经成为了AWS 云服务的技术基石。AWS 借助 Nitro DPU 系统把网络、存储、安全和监控等功能分解并转移到专用的硬件和软件上,将服务器上几乎所有资源都提供给服务实例,极大地降低了成本。

Nitro DPU 系统主要分为以下几个部分:

Nitro 卡:一系列用于网络、存储和管控的专用硬件,以提高整体系统性能

Nitro 安全芯片:将虚拟化和安全功能转移到专用的硬件和软件上,减少攻击面,实现安全的云平台

Nitro 控制卡:一种轻量型 Hypervisor 管理程序,可以管理内存和 CPU 的分配,并提供与裸机无异的性能

Nitro DPU 系统提供了密钥、网络、安全、服务器和监控等功能支持,释放了底层服务资源供客户的虚拟机使用。

2. Nvidia DPU

Nvidia 是一家以设计和销售图形处理器 GPU 为主的半导体公司,GPU 产品在 AI 和高性能计算 HPC 领域被广泛应用。2020 年 4 月,Nvidia 以 69 亿美元的价格收购了网络芯片和设备公司 Mellanox,随后陆续推出 BlueField 系列 DPU。

Nvidia BlueField-3 DPU 延续了 BlueField-2 DPU 的先进特性,是首款为 AI 和加速计算而设计的 DPU。BlueField-3 DPU 提供了最高 400Gbps 网络连接,可以卸载、加速和隔离软件定义网络、存储、安全和管控功能,从而提高数据中心性能、效率和安全性。

3. Intel IPU

Intel IPU 是一种具有硬化加速器和以太网连接的高级网络设备,可使用紧密耦合的专用可编程内核来加速和管理基础设施功能。IPU 提供完整的基础设施卸载,并充当运行基础设施应用的主机控制点,以提供额外的安全层1。使用 Intel IPU,可以将全部基础设施业务从服务器卸载到 IPU 上,释放服务器 CPU 资源,也为云服务提供商提供了一个独立且安全的控制点。

2021年,Intel在Intel Architecture Day上发布了Oak Springs Canyon 和 Mount Evans IPU 产品。其中,Oak Springs Canyon 是基于 FPGA 的 IPU 产品,Mount Evans IPU是基于 ASIC 的 IPU 产品。

Intel Oak Springs Canyon IPU 配备了 Intel Agilex FPGA 和 Xeon-D CPU。Intel Mount Evans IPU 是 Intel 与 Google 共同设计的 SoC (System-on-a-Chip),Mount Evans 主要分为 IO 子系统和计算子系统两个部分。网络部分用 ASIC 进行数据包处理,性能相比 FPGA 高很多,且功耗更低。计算子系统使用了 16 个 ARM Neoverse N1 核心,拥有极强的计算能力。

国内 DPU 的现状

随着 DPU 产业的快速发展,国内也涌现出了一大批 DPU 公司,本章主要介绍了一些国内 DPU 厂商和其产品。

1. 中国移动 HyperCard DPU

2020 年中国移动发布 HyperCard DPU,将软件的灵活与硬件的高效有机结合,承载网络、存储及虚拟化设备管理,在释放 CPU 资源的同时,HyperCard 基于硬件卸载技术全面加速 IO 性能,实现了虚拟 IO“零”损耗,突破了传统技术架构性能极限。

移动云同时着手构建 DPU 的软硬件生态系统,通过算力卸载/算力解耦/无损网络三大关键技术,实现以 DPU 为中心的计算、网络、存储的云化加速,规范 xPU 异构硬件接入标准,统一算力 API,构建高性能云化基础设施生态关键底座。

打造磐石算力架构:结合 HyperCard DPU 与定制化磐石服务器,实现对 HyperCardDPU 的全生命周期管理和最优适配,为“大云”的裸金属、云主机、容器等算力载体提供统一的算力底座

打造 COCA(Compute On Chip Architecture)算力框架:构建算力的标准化接入生态,构建算力与应用间的灵活接入介质,未来做到包括自有 HyperCard 在内的业界 DPU 硬件在数据中心的即插即用。

2. 阿里云 CIPU

2022 年阿里云峰会上,阿里云正式发布了云基础设施处理器 CIPU,CIPU 的前身是MoC 卡 (Micro Server on a Card),MoC 卡是神龙架构的灵魂所在。MoC 卡拥有独立的I/O、存储和处理单元,承担了网络、存储和设备虚拟化的工作。

第一代和第二代 MoC 卡解决了狭义上的计算虚拟化零开销的问题,网络和存储部分的虚拟化仍由软件实现。第三代MoC 卡实现了部分网络转发功能硬化,网络性能大幅提升。第四代 MoC 卡实现了网络、存储全硬件卸载,还支持了 RDMA 能力。

3. 云豹智能 DPU SoC

云豹智能是一家专注于云计算和数据中心数据处理器芯片(DPU)和解决方案的领先半导体公司。云豹智能 DPU SoC 是国内第一颗通用可编程 DPU 芯片,具备丰富的可编程性和完备的 DPU 功能,支持不同云计算场景和资源统一管理,优化数据中心计算资源利用率。

云豹智能 DPU SoC 提供最高 2*200G 网络连接,搭载性能强劲的通用 CPU 处理单元,满足云基础设施层业务的卸载需求。云豹智能 DPU SoC 还配备众多的硬件处理引擎,实现网络、存储和安全的全面加速,具体情况如下:

1、数据面处理引擎提供高性能数据处理,具备灵活的软硬件可编程能力。

2、RDMA 处理引擎支持 RoCE 和 iWARP 等主流协议和可编程拥塞控制算法。

3、安全处理引擎提供 SM2/SM3/SM4 等国密和其他主流加密算法。

4、支持安全启动、机密计算、加解密的零信任安全解决方案,保护系统、数据、应用的安全。

5、支持 DDP(Data Direct Path)数据直通技术,加速数据处理,提高AI 训练效率。

云豹智能DPU SoC支持裸金属、虚拟化和容器统一运维和管控,提供弹性网络和存储、虚拟化管理和安全等一站式解决方案,极大地提升云服务商的服务质量和业务灵活性,降低整体投入,引领数据中心新趋势。

云豹智能提供完整的软件开发平台,可以在云豹智能 DPU SoC 上开发网络、存储、安全和管控等应用。云豹智能软件开发平台全部采用数据中心主流的开源及标准化组件和接口,使得数据中心业务能够平滑迁移到云豹智能 DPU SoC 上。

DPU行业的挑战

纵观 DPU 在国内外数据中心应用中的发展历程,我们可以看到数据中心在商业化落地过程中面临着严峻的挑战,重点体现在以下几方面:

1、数据中心业务复杂多变,既需要兼顾计算效率,又需要提供通用可编程能力,实现基础功能可定制化,保证业务的灵活性

2、随着大数据、AI 和机器学习等高性能计算需求在数据中心不断扩大,数据中心基础设施需要提供高吞吐、低时延的计算网络

3、数据中心需要对计算、网络和存储资源进行统一智能管控

为了应对这些挑战,我们必须重新审视 DPU 架构应该具备哪些特性,以满足未来数据中心的发展需要。

关于DPU技术应用及技术原理,请参看文章“DPU技术原理、算力效率及应用场景解析”和“主流DPU架构实现及技术对比”、“DPU性能基准:测评框架与测试流程介绍(2022)”以及“DPU全球格局,国内5家崛起(2023)”。

下载链接:

云计算通用可编程DPU发展白皮书(2023年)

《42份智能网卡和DPU合集》

178份重磅ChatGPT专业报告

推荐阅读:

高性能计算技术、方案和行业全解(第二版)

InfiniBand架构和技术实战总结(第二版)

RDMA原理分析、对比和技术实现解析

温馨提示:

扫描二维码关注公众号,点击阅读原文链接获取“IT技术全店资料打包汇总(全)”电子书资料详情。

DPU全球混战,国内多家崛起(2023)相关推荐

  1. 富士胶片首次参展贵阳数博会;佳能携多元化专业影像设备亮相CCBN2021;七彩虹建设国内首家GPU博物馆 | 全球TMT...

    今日焦点 富士胶片首次参展贵阳数博会 佳能携多元化专业影像设备亮相CCBN2021 七彩虹建设国内首家GPU博物馆 百度爱番番拓客专业版发布 大公司动向 富士胶片首次参展贵阳数博会.富士胶片(中国)携 ...

  2. 国内首家,阿里云发布Redis全球多活版

    跨数据中心的数据同步是企业提升容灾能力的必备手段,对于社交.视频直播.电商以及游戏等访问规模大.业务分部广的行业,跨区域全球部署也愈发重要. 8月28日,阿里云发布了Redis全球多活产品,这是国内首 ...

  3. 领克全球化战略扩展至中东;万豪国际集团2023年将在全球开设超过35家奢华酒店 | 美通企业日报...

    美通社要闻摘要: 万豪国际集团预计于2023年在全球开设超过35家奢华酒店.肯德基.必胜客亚运主题餐厅亮相.日立电梯服务深圳地铁12号线.领克全球化战略扩展至中东.霍尼韦尔与NEXCERIS公司致力解 ...

  4. 美通企业日报 | 瑞士莲国内首家快闪店开幕;全球首家健力士醇黑坊亮相上海...

    今日看点 首家瑞士莲快闪店亮相上海,辛芷蕾助阵点亮圣诞.近日,瑞士经典巧克力品牌瑞士莲倾情打造的国内首家快闪店,在上海陆家嘴中心开幕.快闪店首次引入国外门店的Pick & Mix 瑞士莲软心巧 ...

  5. 1361家,2023全球独角兽重磅发布!

    导读 日前,胡润研究院发布<2023全球独角兽榜>(Global Unicorn Index 2023),列出了全球成立于2000年之后,价值10亿美元以上的非上市公司.本次榜单估值计算的 ...

  6. 8月31日云栖精选夜读 | 国内首家,阿里云发布Redis全球多活版

    跨数据中心的数据同步是企业提升容灾能力的必备手段,对于社交.视频直播.电商以及游戏等访问规模大.业务分部广的行业,跨区域全球部署也愈发重要. 8月28日,阿里云发布了Redis全球多活产品,这是国内首 ...

  7. 除夕快乐 | 2月11日 星期四 | B站发文回应热搜风波;美团上线“团好货”独立App;国内首家自动驾驶企业获网约车运营许可...

    今日看点 ✦ 文远知行获网约车运营许可,成首家拥有资质的自动驾驶企业 ✦ B站发文回应热搜风波,宣布开展为期一个月的春节网络环境专项整治 ✦ 美团上线电商团购APP"团好货",已有 ...

  8. 国内四家物联网实时操作系统浅析

    国内四家物联网实时操作系统浅析 如果把云计算比作地球的大脑,那么物联网终端就是遍布全球的"神经末梢".如果把云计算比作地球的心脏,那么物联网终端就是遍布全球的"毛细血管& ...

  9. 激光雷达点云质量评测趋势开启,国内首家专业测试实验室来了

    不久前,全国首家车载激光雷达测试联合实验室在上海正式揭牌,拉开了车载激光雷达量产点云质量测评的序幕. 这是目前国内第一家专项提供激光雷达点云质量测评的测试实验室,由上海机动车检测认证技术研究中心有限公 ...

最新文章

  1. NSIS 打包.net2.0
  2. 一个很简单的淡入淡出相册 (转)
  3. ERP技术的新方向——智能客户端
  4. python 框架 优化_python+unittest框架第六天unittest之优化测试报告
  5. HDU 2602.Bone Collector-动态规划0-1背包
  6. WebClient与WebRequest差异
  7. 微信H5支付(基于Java实现微信H5支付)
  8. 【Java思维导图】
  9. Kepware OPC与服务器通讯
  10. ukey网络连接异常_Ukey的各种操作,你知道吗?
  11. gson读取json字符串_用Gson解析json文件
  12. obs源码简析之推流
  13. Oliver的救援 题解
  14. Windows程序设计——Ellipse函数画圆及不用Windows自带的画椭圆函数画椭圆
  15. 360oauth token是什么意思_京东开放服务平台(JOS)关于token问题汇总(一)
  16. 【滤波】概率、高斯和贝叶斯
  17. Chrome浏览器命令行启动参数
  18. PHP中的opcode
  19. 元素节点,属性节点,文本节点,文档节点,分别的意思
  20. arm linux驱动 知乎_学习linux驱动开发的方法?

热门文章

  1. 好用的mysql数据库建模工具有哪些
  2. 网游UI解决方案的选择
  3. 从0开始的高翔SLAM十四讲pangolin库的安装
  4. excel表格内数据为何无法计算机,excel表格怎么设置数字下拉数值不变不递增
  5. GitHub:我沦为了美国制裁其他国家的政治工具
  6. sublime text3 正则替换
  7. 计算机专业毕业祝福语,简短的毕业祝福语
  8. 【go语言圣经】 初识 go
  9. 西川中学学生管理系统(伪)1.1版本
  10. 利用预合成制作嵌套特效的运动文字