GPU算力时代的新场景
一、人工智能经历过三个阶段,迎来爆发式增长
广义上讲只要能够运行人工智能算法的芯片都叫作AI芯片。但是通常意义上的AI芯片指的是针对人工智能算法做了特殊加速设计的芯片。
AI芯片也被称为AI加速器或计算卡,即专门用于处理人工智能应用中的大量计算任务的模块(其他非计算任务仍由CPU负责)。
第一阶段:因为芯片算力不足,所以神经网络没有受到重视;
第二阶段:通用芯片CPU的算力大幅提升,但仍然无法满足神经网络的需求;
第三阶段:GPU和和新架构的AI芯片推进人工智能落地。
事件1:2014年李天石博士“DianNao”系列论文让科学界看到,在冯诺依曼架构下也可以实现AI专用芯片;
事件2:Google推出的TPU运算架构的AlphaGo,接连打败李世石和柯洁,看到了专用芯片的商业价值。
二、推荐式系统模型参数,复杂度大幅增加
GPT-3模型目前已入选了《麻省理工科技评论》2021年“十大突破性技术。
GPT-3的模型使用的最大数据集在处理前容量达到了45TB。根据OpenAI的算力统计单位petaflops/s-days,训练AlphaGoZero需要1800-2000pfs-day,而GPT-3用了3640pfs-day。
三、深度学习模型复杂度对芯片,算力需求激增
AI运算指以“深度学习”为代表的神经网络算法,需要系统能够高效处理大量非结构化数据(文本、视频、图像、语音等)。需要硬件具有高效的线性代数运算能力,计算任务具有:单位计算任务简单,逻辑控制难度要求低,但并行运算量大、参数多的特点。对于芯片的多核并行运算、片上存储、带宽、低延时的访存等提出了较高的需求。
自2012年以来,人工智能训练任务所需求的算力每3.43个月就会翻倍,大大超越了芯片产业长期存在的摩尔定律(每18个月芯片的性能翻一倍)。
针对不同应用场景,AI芯片还应满足:对主流AI算法框架兼容、可编程、可拓展、低功耗、体积及价格等需求。
四、部署位置对AI芯片性能,要求差异
根据机器学习算法步骤,可分为训练芯片和推断芯片。训练芯片主要是指通过大量的数据输入,构建复杂的深度神经网络模型的一种AI芯片,运算能力较强。推断芯片主要是指利用训练出来的模型加载数据,计算“推理”出各种结论的一种AI芯片,侧重考虑单位能耗算力、时延、成本等性能。
从部署的位置来看,AI芯片可分为云端(服务器端)、终端(移动端)两大类。
- 云端芯片,是指部署在公有云、私有云或混合云上的AI芯片,不仅可用于训练,还可用于推断,算力强劲。
- 终端芯片,是指应用于手机等嵌入式、移动终端等领域的AI芯片,此类芯片一般体积小、耗电低、性能无需特别强大。
五、GPU是较为成熟的通用型,人工智能芯片
从技术架构来看,AI芯片主要分为图形处理器、现场可编程门阵列、专用集成电路、类脑芯片四大类。
其中,GPU是较为成熟的通用型人工智能芯片,FPGA和ASIC则是针对人工智能需求特征的半定制和全定制芯片,类脑芯片颠覆传统冯诺依曼架构,是一种模拟人脑神经元结构的芯片,类脑芯片的发展尚处于起步阶段。
六、GPU设计之初用于显示,图像使用
GPU图形渲染流水线的具体实现可分为六个阶段,如图所示。
- 顶点着色器(VertexShader);
- 形状装配(ShapeAssembly),又称图元装配;
- 几何着色器(GeometryShader);
- 光栅化(Rasterization);
- 片段着色器(FragmentShader);
- 测试与混合(TestsandBlending)。
七、GPU适合并行运行,大量计算
GPU(图形处理器)又称显示核心、显卡、视觉处理器、显示芯片或绘图芯片,是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上运行绘图运算工作的微处理器。
GPU使显卡减少对CPU的依赖,并分担部分原本是由CPU所担当的工作,尤其是在进行三维绘图运算时,功效更加明显。图形处理器所采用的核心技术有硬件坐标转换与光源、立体环境材质贴图和顶点混合、纹理压缩和凹凸映射贴图、双重纹理四像素256位渲染引擎等。
GPU是一种特殊类型的处理器,具有数百或数千个内核,经过优化,可并行运行大量计算。虽然GPU在游戏中以3D渲染而闻名,但它们对运行分析、深度学习和机器学习算法尤其有用。
来源:本文整理【驭势资本】
GPU算力时代的新场景相关推荐
- 和数集团“区块链+数字化”促进新场景应用落地 为多领域开启无限可能
今年政府工作报告提出"促进数字经济发展",并强调"释放数据要素潜力,提高应用能力,更好赋能经济发展.丰富人民生活".当下,各地正着力推动数字技术深度融入生产生活 ...
- 华西证券:AI领强算力时代,GPU启新场景落地
1.在人工智能时代,终端AI芯片针对特定场景实现优化方案AI芯片主要承担推断任务,通过将终端设备上的传感器(麦克风阵列.摄像头等)收集的数据代入训练好的模型推理得出推断结果.由于终端场景多种多样各不相 ...
- 国产最大AI开源框架再升级:一口气发布9大新产品,顺便送出亿元GPU算力
乾明 边策 发自 凹非寺 量子位 报道 | 公众号 QbitAI 时局如此,国产AI框架雄心更盛. 气势更足.功能更新力度更大.开发者羊毛更丰厚--而且新发布还不是全部,已获得的成绩也相当亮眼: 先 ...
- 追光进行时:沿着全光运力的新航道,加速驶向算力时代
2021年,工信部印发<新型数据中心发展三年行动计划(2021-2023年)>,明确指出"用3年时间,形成总体布局持续优化,全国一体化算力网络国家枢纽节点.省内数据中心.边缘数据 ...
- 首届超互联新算力产业暨第三届中国IDC行业DISCOVERY大会举行,热议智算时代AI新趋势
2023年4月21日,由中关村超互联新基建产业创新联盟与粤港澳大湾区大数据研究院联合主办.世纪互联与互联科技承办的主题为"三生万物·行则至"的"首届超互联新算力产业暨第三 ...
- 新时代 新创意 新场景 新消费 2021“设计+”珠宝首饰创新设计展将于10月17日开幕
如何高举"新工艺美术运动"旗帜,运用新设计方法促进珠宝首饰设计推陈出新,引领新消费,服务新需求,形成新时尚,推进珠宝首饰高定设计向着文化与科技融合.传统与时尚的融合.艺术与使用融合 ...
- 社交新时代,元宇宙结合游戏应用落地开辟新场景
人是社会动物,需要进行社交.社交的本质是人与人之间通过某种方式或工具传递信息,进而达到某种目的的行为活动.最早的社交形式是面对面地交谈,随着时代的发展,社交形式逐渐演变为写信.打电话.发邮件.发送即时 ...
- 阿里云张振尧:阿里云边缘云驱动5G时代行业新价值
简介:近日,以"5G融合通信趋势下的技术创新"为主题的2021中国增值电信及虚拟运营高峰论坛在北京召开,阿里云边缘云高级产品专家张振尧发表了<阿里云边缘云驱动5G时代行业新价 ...
- 新基建新场景新需求,激发智能化变革新联想
当前处于世界百年未有之大变局中,中国的科技创新企业将如何奋发作为开创新局面,为未来十年甚至更长期的中华民族伟大复兴战略全局而谋划新篇章?在2020年10月28日的年度联想创新科技大会Tech Worl ...
- 人工智能,数字经济时代的新生产力
简介: 在数字经济时代,任何人.任何行业都需要用云计算.今天,我打开手机淘宝,用支付宝扫二维码都是云计算再给我们提供服务.没有云计算就没有今天普惠的数据智能服务.同样,云计算带来数字生产力的提升,不用 ...
最新文章
- Facebook如何运用机器学习进行亿级用户数据处理
- 10000字的Pandas核心操作知识大全!
- python cv release_Python cv.GetSize方法代码示例
- 【烙铁使用规范】—— 烙铁使用、温度测量规范
- 小程序原生组件调用mpvue父组件方法
- VC2010运行C程序时黑框一闪就没
- 一键就绪的VMware Cloud Foundation
- 引入antd组件样式_create-react-app 实现 antd 的按需加载
- 转载:建设工程中常见的项目建设管理模式有哪些(DBB模式、EPC模式)
- Java中的常用异常处理方法
- FLASH+XML:构建简单易更新网站
- ip 纯真数据库查找
- 怎样压缩图片?有这3种图片压缩的方法就够了
- 电影下载合并教程 (转)
- 详解网关和路由器的区别
- zigbee CC2530 系列教程 12 温度传感器DS18B20实验
- net新的库相关的资源
- 解题:由乃OI 2018 五彩斑斓的世界
- 邓白氏编码的申请流程
- 多媒体艺术家jaime levy在网站甚至还没有存在之前就处于网页设计的最前沿