为了节省大家时间,摘要奉上,enjoy~

  1. 大数据AI/ML应用爆发驱动大内存需求,但内存增长受限,CXL互联方案应运而生

  2. CXL分为1.0/2.0/3.0版本,分别提供直连、池化、Fabric能力,预计在2022年/203年/2025年之后市场可用,目前看来池化对于软件的影响最大

  3. CXL更多是对于已有架构的性能优化,全新的机会不多,较大的机会在于系统软件、内存即服务,以及内存数据库和内存云结构

  4. CXL大概率将成为跨计算引擎的内存结构标准,短期利好云厂商,长期会数据中心架构产生结构性的变革

大数据AI/ML计算驱动大内存需求,但内存不够用了

随着健康码/行程码的广泛应用,大家可能已经亲身体会过被大数据支配的恐惧。另外就是最近ChatGPT已经被大家玩坏了~

其实还有很多大家不常接触的应用,如:

这些应用数据量,处理这些数据需要强大的算力。

为了加快CPU速度,需要把大量数据放入内存,甚至需要迭代计算(典型是ML的模型训练),这就造成了对大内存的强烈需求。

直接堆内存条不行?不行,理由有2个:

理由一:CPU能装的内存条是有限的

CPU核心数目前已经二十四核,甚至更多,但是每核能插入的DDR内存条数量是有限的。这么一剪刀差下来,每核能够使用内存反而是下降的,且差距不断在扩大。

原因二:内存价格降不下来

CPU价格是一降再降,但是内存却从2013年起基本保持平稳,大概20元/GB,相比之下,SSD大概 1元/G,硬盘 4毛/G,是不是差很大~

不是还有PCIe外部设备嘛,内存拿出来一起用?

可以,但是一起用总需要有个规矩,也不能乱来是吧,这个规矩就是CXL(Compute Express Link),较专业定义为:

CXL是一种开放性互连协议标准,旨在提供 CPU 和专用 加速器、高性能存储系统之间的高效、高速、低延时接口,以满足资源共享、内存池化和高效运算调度的需求。

其实术语我看的也晕,大家理解它做的啥事就行了~

这个想法看上去也不难嘛,为什么现在才有CXL?

其实,聪明人还是很多的,之前有很多类似协议,如Gen-Z(HPE)、OpenCAPI(IBM)以及CCIX (Xilinx)。但是问题是,人家老大Intel想多卖自家的CPU,不屑于参与,导致一直没有成气候。

但是这次不一样,CXL本身就是Intel提出来的,主要是因为受NVIDIA GPU强劲挑战,Intel想做一个大局搞开放,所以这次声势很大~

所以,CXL具体是啥?

前面提到过,CXL主要目的是让大家把内存共享出来一起用,协议本身也是一直在演进的。

从2019年9月份发布CXL 1.0/1.1,到2020年11月发布CXL2.0,到最近发布CXL 3.0,它的功能一直在发生着变化,总结如下:

CXL1.0/1.1 可归纳为“直连”,也就是让主机CPU可以直接访问PCIe设备的内存,具体分为三个子协议:CXL.io用于设备注册发现、CXL.cache用于设备访问CPU内存、CXL.mem 用于CPU访问设备内存。这可达到主机内存扩充的目的。

CXL2.0 可归纳为“池化”,就是让多个主机CPU和多个设备可通过一个CXL Switch硬件连接在一起,可以相互访问,在较小延迟影响的前提下提供高容量大带宽。这可达到内存池化的目的。

CXL3.0 可归纳为Fabric,可以让多个Switch形成级联结构,支持更复杂的结构。这可以达到“软件定义内存”的目的,此处借用了“软件定义网络”的概念,具体能干啥我暂时也想不出来~

当然,目前只是协议发布,真正到市场使用大概还需要一段的时间,预计CXL 1.0/1.1需要到2022年,CXL 2.0要到2023年中,至于CXL 3.0可能要等2025年之后了。

那CXL有啥应用,有哪些新机会?

系统盘点了CXL在软件方面(不涵硬件)的新机会,总结如下:

可以初步得出结论:

CXL更多的是对于已有架构进行性能优化,全新机会并不多。

目前看来全新的机会包括,1)系统层的内存管理软件,以及2)应用层内存即服务,其余的均为现有系统的优化增强,图中以圆圈面积表示优化强度。

系统层

先从系统软件层面看,由于CXL需要支持这么复杂内存共享结构,必须有一套新软件支撑,包括三个机会:

  1. 内存调度管理器;

  2. 内存高级数据特性,包括内存压缩、快照、克隆、备份等;

  3. 内存安全防护;

这个将是新的机会,也有看到创业厂商想做此类的事情,但是这块核心的风险是,系统软件和CXL协议本身界限不是特别清晰,有可能就是做着做着,为CXL打补丁了,并不能成为一个产品。

应用层

CXL1.0/1.1所做的事情在于建立基础,而CXL3.0支持更复杂的结构,本文认为更多的应用在于CXL2.0的池化特性。

新技术一般会有两层面应用,一个是技术产品创新,另外就是随之而生的新商业模式。

商业模式

池化内存容量大、粒度细、分配灵活,直接衍生出“内存即服务”模式,这个是利好云厂商的。

云厂商卖内存通常有以下痛点:

  1. 内存必须绑定计算实例售卖

  2. 内存售卖粒度较粗

  3. 内存无法超卖

  4. 售卖的内存大部分闲置,内存利用率低

在内存池化场景下,云厂商可以提供内存PaaS API服务,只卖内存给应用;也可以细粒度按需分配,收费更灵活,同时可以超卖内存,并将平常闲置的内存进行更高效的利用。

调查发现,在微软Azure,有高达25%的内存都是闲置的,有50%的虚拟机使用的内存占比仅为50%。谷歌也类似,谷歌服务器集群中DRAM内存平均利用率约为40%,这将是巨大的机会。

不过这个机会虽然诱人,却是云厂商的,跟创业厂商没有什么关系~

「文章较长,怕大伙看累,且听下回分解」

关于我

我是张范,美元基金投资人,关注Data/AI/VRAR/区块链等Infra领域早期项目。企业服务领域十多年经验,前BAT产品负责人,前中科院技术专家,美国顶尖商学院MBA。寒冬中期待交流合作,让我们相互取暖,一起守得云开见月明~

联系我

欢迎各路大佬指导!

关注我,获取行业趋势、创业机会、产品洞见:)

一文告诉你CXL是什么,有什么新的机会 (上)相关推荐

  1. 一文告诉你如何导出 Git 变更文件

    转载自   一文告诉你如何导出 Git 变更文件 有时候我们想导出某次版本提交时有哪些变更的文件,在 svn 中有一个 export 功能,很方便,如下图所示. 在 Git 中我也找到了以下两种方法. ...

  2. 一文告诉你 Java RMI 和 RPC 的区别

    转载自  一文告诉你 Java RMI 和 RPC 的区别 RPC 远程过程调用 RPC(Remote Procedure Call Protocol)远程过程调用协议,通过网络从远程计算机上请求调用 ...

  3. equals 和 hashCode 到底有什么联系?一文告诉你

    转载自   equals 和 hashCode 到底有什么联系?一文告诉你 写在前面 Java的基类Object提供了一些方法,其中equals()方法用于判断两个对象是否相等,hashCode()方 ...

  4. c语言程序和plc程序的区别,一文告诉你PLC与计算机的本质区别在哪里!小白都能看懂!...

    原标题:一文告诉你PLC与计算机的本质区别在哪里!小白都能看懂! 你真的了解PLC吗?你知道PLC与计算机的本质区别吗?我来简单解释一下吧. 1.PLC可以工作在极其恶劣的电磁环境中 如果我们把计算机 ...

  5. 一文告诉你,为什么要做质检报告

    一文告诉你,为什么要做质检报告 一.什么是质检报告? 质检报告就是根据目前所有产品在你出售之前都需要通过质量检查的,并需要对公司产品合格数的统计,主要是鉴定产品质量达标书面证明.他是经过对产品和设备的 ...

  6. go每日新闻(2022-06-14)——一文告诉你Go 1.19都有哪些新特性

    每日一谚:Test to know you are correct. go中文网每日资讯--2022-06-14 一.Go语言中文网 Gopher 应该记住这 10 个命令 golang刷leetco ...

  7. 一文告诉你,如何使用Python构建一个“谷歌搜索”系统 | 内附代码

    来源 | hackernoon 编译 | 武明利 责编 | Carol 出品 | AI科技大本营(ID:rgznai100) 在这篇文章中,我将向您展示如何使用Python构建自己的答案查找系统.基本 ...

  8. AI算法起家的今日头条为何败给了色情?一文告诉你机器学习何以搞不定鉴黄

    12月29日,国家互联网信息办公室在官网发布消息称,针对今日头条.凤凰新闻手机客户端持续传播色情低俗信息.违规提供互联网新闻信息服务等问题,要求北京市互联网信息办公室分别约谈两家企业负责人,责令企业立 ...

  9. 心得丨一文告诉你想学数据分析该读什么书、从哪本读起

    作者:三郎 因工作原因要学习一些数据的知识,从人人都是产品经理网站上并没有找到一篇从入门到进阶成体系的文章,且查找的分享都是数据体系中一个分支的分支,整体看起来烟雾缭绕,经一位前辈点播还是先从书籍中建 ...

最新文章

  1. 为了读懂你,AI究竟有多努力?
  2. python将大于输出列表_程序检查列表中的所有值是否都大于Python中的给定值
  3. C语言斐波那契数列(附完整源码)
  4. oracle pdb还原为no-cdb,oracle 12c中CDB和PDB的备份还原实验
  5. Bing 和 Cortana 源码遭泄露,网友嘲讽:其实没人想要
  6. Linux下双网卡绑定技术实现负载均衡和失效保护 bond
  7. 线段树(SegmentTree)学习笔记
  8. 不要重启!诺顿居然将系统文件当病毒
  9. mysql语句翻译_mysql语句翻译成SQL语句
  10. 月老在线牵盲盒/交友盲盒/一元交友/存取小纸条盲盒/分销功能
  11. sRGB Color Space
  12. 北京军区技侦局_校庆70周年系列学术活动之六:
  13. 飞思卡尔芯片解密 MC9S08GB60 芯片特点
  14. Promise的使用方法
  15. FL Studio20.9中文版最详细的安装激活教程
  16. 注册ActiveX控件简单方法及控件未被正确授权解决方案
  17. 计算机无法启动 一直在启动修复需要多久,关于电脑总是卡机蓝屏启动修复~...
  18. 成都哪个java培训机构好?
  19. 学校教师计算机培训总结,2019学校教师培训工作总结范文
  20. 亲测好用!四款ps小白也能用的宣传印刷物料!

热门文章

  1. 出租车计价C语言程序
  2. 2022第十三届蓝桥杯国赛真题javaB组
  3. 小程序真正实现多个文件上传,不通过循环调用uni.uploadFile
  4. Python爬虫入门教程 67-100 Python爬虫摆脱控制台,开始走上台面
  5. 为什么推荐使用付费代理IP
  6. 2021考研——复习规划(英语篇)
  7. 维修手记——燃气热水器低水压点火困…
  8. 投资理财-傻姑娘香草山
  9. carbon php 天数相差,使用 Carbon 计算时间差
  10. Linux实战教学笔记42:squid代理与缓存实践(一)