CPU也支持AI加速,英特尔发布第3代至强处理器,推理速度提升80%,阿里腾讯云都在用...
晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI
AI时代,英特尔最担心的是什么?当然是自家的CPU被GPU、TPU等AI硬件的冲击。现在英特尔的新一代CPU也带来了全新的AI加速能力。
今天,英特尔发布了三款硬件产品,都是为了AI而准备:第三代至强(Xeon)可扩展处理器、新一代的傲腾(Optane)存储器以及Stratix AI FPGA。
至强可扩展CPU
首先,英特尔发布了Cooper Lake至强可扩展处理器,也就是英特尔的第三代至强可扩展服务器CPU。
在英特尔的路线图中,还有Ice Lake至强处理器将在今年晚些时候推出,也属于第三代,只是支持的CPU数量比Cooper Lake更少,应该是一款面向中低端的产品。
对于Cooper Lake平台,英特尔加入了一项重要更新,增加了基于AVX-512的BF16指令,引入了全新的BF16数字格式。
现在,用于“深度学习增强”(DL Boost)的AVX-512指令集也支持全新的BF16数据类型。
过去,英特尔在CPU上的AI训练主推INT8整数格式,在精度要求不高的模型中,使用INT8还是可以的。但是许多高精度模型需要使用FP32浮点数格式。
新一代的至强CPU加入了对16位浮点数支持,不过此16位浮点并非常见的FP16,而是英特尔称之为bfloat16(BF16)的格式。
BF16将FP32模型的位宽减少一半,除了加速处理速度外,更重要的是,它将模型保留在内存中所需的空间减少了一半。
△ 图片来自AnandTech
BF16可以执行许多通常在FP32或FP16中实现的AI任务,它只是比FP32的范围稍低,但是却能有与FP16几乎相同的吞吐量。
国内的阿里云、腾讯云都已经在其数据集上使用了支持BF16的CPU,实现了1.6倍左右的吞吐量加速和1.8倍左右的推理加速。
英特尔还对Cooper Lake处理器之间的互连进行了升级。
至强处理器使用超路径互连(UPI)将多个CPU连接在一起。在Cooper Lake中,每个CPU到CPU的连接现在都包含两个UPI链接,链接速度达到了20.8GT/s。
傲腾SSD和Stratix FPGA
英特尔还宣布了新一代的傲腾(Optane)“持久内存” 200系列,带宽相比前代提升了25%。
200系列傲腾提供128 GB、256 GB和512 GB三个不同存储容量,并且将以与DDR4-2666内存相同的速度运行。
该系列为每个插槽提供高达4.5TB的内存支持,以更好地处理数据密集型的AI工作负载。
最后,英特尔发布了Stratix 10 NX FPGA,这是英特尔第一个针对AI优化的FPGA。
Stratix 10 NX FPGA加入了为AI设计的张量模块,在INT8数据类型上,相比现在的Stratix 10 MX FPGA带来了15倍的运算加速。
参考链接:
https://www.anandtech.com/show/15862/intel-launches-cooper-lake-3rd-generation-xeon-scalable-for-4p8p-servers
作者系网易新闻·网易号“各有态度”签约作者
— 完 —
「数据库」系列公开课开启,快来免费报名!
6月23号第二期直播,浪潮信息数据库产品线总经理--乔鑫分享「传统企业互联网下的数据平台升级」,将讲述HTAP数据库的技术原理、优化方案以及开发部署概要等技术问题,以此带给广泛关注者一些前瞻指导。
扫码报名,可加入直播交流群,还可获取系列课程直播回放、分享PPT:
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
喜欢就点「在看」吧 !
CPU也支持AI加速,英特尔发布第3代至强处理器,推理速度提升80%,阿里腾讯云都在用...相关推荐
- 信息上传服务器加速cpu处理,英特尔发布全新第二代至强可扩展处理器携手浪潮加速新型应用发展...
原标题:英特尔发布全新第二代至强可扩展处理器携手浪潮加速新型应用发展 近日,英特尔发布了提供更高性能.更好的性价比选择的 全新第二代英特尔®至强可扩展处理器,通过增加核心数量.提高缓存或提升处理器频率 ...
- 英特尔发布第11代核心Tiger Lake笔记本电脑处理器
Nine Tiger Lake configurations will be available, ranging from the dual-core Core i3–1110G4 with a 1 ...
- 430亿晶体管,1020万逻辑单元,英特尔发布全球最大容量FPGA,用全新硬件加速AI开发...
晓查 发自 望京 量子位 报道 | 公众号 QbitAI 11月,英特尔将在全球各地举办FPGA技术日,北京是第一站.在第一站的活动中,英特尔发布了全球最大容量的全新FPGA:Stratix 10 G ...
- 哪些服务器支持 9200系列CPU,核心暴增、修复漏洞:intel 英特尔 发布 Xeon Platinum 9200和8200系列 处理器...
尽管AMD Ryzen"锐龙"在消费级市场打的英特尔措手不及,抢下不少市场,但在高端商用服务器领域,英特尔依旧占据着绝对优势.今天,英特尔发布了新一代Xeon Scalable处理 ...
- 英特尔发布全新CPU架构 称摩尔定律未死 中国研究院迎20周年
来源:网易智能 摘要:英特尔分别在大洋两岸,几乎同时上演了两个大秀. 在中国,研究院院长宋继强与各实验室负责人详细阐述了团队构成以及目前的四大研究领域,在彼岸,英特尔举行架构日活动,英特尔处理器核心与 ...
- 英特尔发布第三代全新可扩展处理器,加速5G网络转型
近日,英特尔今天宣布推出最新的第三代英特尔®至强®可扩展处理器(代号"Ice Lake"),其中包括全新针对网络优化的"N系列"产品以及旨在加速产品上市的经过验 ...
- 英特尔 超核芯显卡 620mac_显卡性能翻倍,AI能力加持:英特尔发布10代酷睿处理器...
机器之心报道 作者:张倩.杜伟 代号 Ice Lake 的十代酷睿是英特尔第一批大规模采用 10nm 工艺的处理器,同时拥有全新设计的 Sunny Cove CPU 架构.11 代 GPU 核芯显卡架 ...
- 每日新闻:英特尔发布第九代处理器;腾讯与英国公司用AI改善帕金森病;华为申请电池专利;中兴为印度提供5G技术;微软投资Grab...
关注中国软件网 最新鲜的企业级干货聚集地 今日热点 英特尔发布第九代酷睿处理器:8核16线程 10月9日消息 今天凌晨,英特尔推出了第九代智能英特尔酷睿桌面级处理器,共有三款,分别是i5-9600K. ...
- 效率达CPU一万倍、内含800万神经元:英特尔发布神经形态芯片超算
效率达CPU一万倍.内含800万神经元:英特尔发布神经形态芯片超算 人类大脑由 860 亿个互相连接的神经元组成,英特尔最近推出的类脑芯片系统 Pohoiki Beach 向「模拟大脑」这一目标前进了 ...
最新文章
- 互联网思维-NO.1思维(2)
- cve-2017-12629 apache solr xxe rce 漏洞分析
- 网络模块优化方案(1)——封装网络框架
- web策略类游戏开发(四)一个可以承载万人在线的架构
- 计算机网络(十一)-数据链路层-流量控制
- dos2unix命令找不到_Linux系统中的dos2unix命令
- 【转】12 TOP Command Examples in Linux
- html cat文本,网页管理好管家CatHtml
- office起动缓慢_如何解决Microsoft Outlook启动缓慢的问题
- 2021年数字IC面经---平头哥
- SXSSFWorkbook操作Excel表格
- 不允许使用抽象类类型的对象怎么办_什么是抽象类?
- 水星mw325r设置无线服务器未响应,水星路由器325r设置WiFi隐藏信号方法
- 玩转5G之--初探5G网络模型(OSI模型和TCP/IP模型)
- 频谱细化-----Zoom-FFT算法介绍及MATLAB实现
- 具有 Unity Terrain 功能的简单环境设计
- 搜狗搜索引擎+浏览器,双轮驱动读图时代
- 你必须知道的互联网协议详解
- 线性代数基础2--齐次线性方程组的解及方程组解的总结
- 【开播3.5小时,观看近5万人,3天销量第一】2021企业数字化转型落地高峰论坛暨《数字化转型方法论》新书发布会大获成功
热门文章
- FCC 成都社区·前端周刊 第 6 期
- 7.1 函数的一般形式
- [学习笔记] ES6的数组遍历方式 for, forEach,for...in, for...of
- ACM HDU 1249
- 《大数据的“道”“术”“释”》----读书摘录+思考
- 避免在WHERE条件中,在索引列上进行计算或使用函数,因为这将导致索引不被使用...
- Yii框架官方指南系列43——专题:URL(创建、路由、美化及自定义)
- rhcs做HA时的资源释放脚本实现
- 【备忘】Android获取正在使用网络的IP4地址
- Android应用程序组件Content Provider的启动过程源代码分析(1)