人工智能芯片支持超低功耗器件的推理

AI chip supports inference in ultra-low-power devices

伦敦——下一代GreenWaves的超低功耗人工智能加速器GAP9,在处理比其前身GAP8大10倍的算法时,其功耗将减少5倍。新设备将提供高达50mW,总功耗为50兆瓦。这要归功于结构改进和最新的FD-SOI(完全耗尽绝缘体上的硅)工艺技术的结合。

与上一代设备一样,GAP9的目标是在网络最边缘的系统中进行人工智能推断,例如小型、电池供电的物联网传感器节点。例如,GreenWaves的数据显示GAP9在160 x 160图像上运行MobileNet V1,通道缩放仅需12毫秒,功耗为806μW/帧/秒。

总部位于法国格勒诺布尔的GreenWaves选择了GlobalFoundries的22nm FDX FD-SOI工艺,以最大限度地降低本已是超低功耗架构的功耗。

“对于GAP9,利用客户对GAP8的反馈调整了GAP8的架构,但同时也转向了市场领先的半导体工艺,”GreenWaves营销副总裁Martin Croome说。“正在利用FD-SOI中的体偏压能力来实现更低的功耗。”

架构改进

GreenWaves为GAP9做了一些架构上的改进。

又增加了一个RISC-V内核,使总数达到10个。在某些模式下,一个核心用作织物控制器以及低强度计算。其九个组成一个计算集群,共享一级数据区。这个集群中的一个核心(新内核)被用作任务组主机,计算内存移动并管理其8个核心上的任务。

内部RAM增加了三倍,达到1.6MB,内存带宽增加到了41.6GB/s,L2达到了7.2GB/s。

“这(内存带宽)现在对MCU类设备非常重要,”克罗姆说。

GreenWaves的GAP9超低功耗AI芯片的架构现在使用10个RISC-V内核(图片:GreenWaves)
GAP9架构的变化还包括更高的最高频率;GAP8的时钟频率为175MHz,GAP9将运行在或接近400MHz。新的电力状态也被加入,包括“昏睡”状态,当数据可以获得,但功率消耗仍然低于1兆瓦。在这种状态下,处理器可以运行在一个低压差调节器(LDO)上,可以快速启动。这使得GAP9第一次指令的时间缩短到了几微秒(Croome说,GAP8在等待DC-DC转换器稳定下来的过程中花费了大约700微秒)。这种快速启动功能在捕获基于时间的信号(如语音)时非常有用。

所有10个核心现在都能够处理“transprecision”浮点数:IEEE格式16和32位浮点加上支持矢量化的附加8位和16位格式。此功能可用于降低需要浮点运算法则的能量需求。GAP9还支持矢量化的4位和2位运算,用于开发深度量化的应用程序。

其新功能包括双向多通道音频接口。

GAP9预计将于2021年实现量产,并于2020年上半年提供样品。克罗姆说,预计定价将比GAP8溢价50%。考虑到不同的时间、功率数据和价位,该公司预计这两款产品都会找到未来的市场。

人工智能芯片支持超低功耗器件的推理相关推荐

  1. 边缘人工智能芯片大放异彩

    相信每个人者可能都经历过这样一种挫败感--当你拿起手机调出语音转文字功能口述一封邮件时,却发现手机并未联网,无法使用这一功能.现在,随着新一代边缘人工智能芯片的问世,人工智能可直接嵌入各类设备当中,将 ...

  2. 唐杉博士:人工智能芯片发展及挑战

    清华大数据软件团队官方微信公众号来源:DataFunTalk 本文约4200字,建议阅读10分钟 本文与你讨论人工智能芯片的架构特征.发展趋势.以及AI DSA架构给AI软件栈带来的挑战. [ 导读 ...

  3. 人工智能芯片与传统芯片的区别

    作为AI和芯片两大领域的交差点,AI芯片已经成了最热门的投资领域,各种AI芯片如雨后春笋冒出来,但是AI芯片领域生存环境恶劣,能活下来的企业将是凤毛麟角. 谷歌在I/O大会发布了其第三代TPU,并宣称 ...

  4. 人工智能芯片与传统芯片

    作为AI和芯片两大领域的交差点,AI芯片已经成了最热门的投资领域,各种AI芯片如雨后春笋冒出来,但是AI芯片领域生存环境恶劣,能活下来的企业将是凤毛麟角. 谷歌在I/O大会发布了其第三代TPU,并宣称 ...

  5. 赛灵思:人工智能芯片发展方向与误区

    演讲嘉宾 | 姚颂,赛灵思人工智能业务资深总监 整理 | 夕颜 人工智能发展过程中,算力是一个重要的因素,算力就像是 AI 的燃油,没有燃油,AI 哪也去不了.而为 AI 应用提供算力的,正是各种各样 ...

  6. 人工智能生态环境预测_2020年全球人工智能芯片发展趋势及市场规模预测

    中商情报网讯:智能芯片是面向人工智能领域而专门设计的芯片,其架构和指令集针对人工智能领域中的各类算法和应用作了专门优化,可高效支持视觉.语音.自然语言处理和传统机器学习等智能处理任务.采用专门为人工智 ...

  7. 对人工智能芯片的一些看法

    人工智能芯片 2016年,随着阿尔法狗击败专业人类围棋棋手,已"深度学习"为基础的人工智能技术被大众所熟知.其实"深度学习"技术已经发展了有近30年的历史了.现 ...

  8. 人工智能芯片产业生态和竞争格局

    国内人工智能芯片公司寒武纪科技(Cambricon)上市造富,让人工智能芯片走入了更多人的视野. 深度学习不仅在传统的语音识别.图像识别.搜索/推荐引擎.计算广告等领域证明了其划时代的价值,也引爆了整 ...

  9. 人工智能芯片发展 (1

    人工智能技术随着以深度学习为核心算法的大力发展,目前已经在场景识别,语音识别等方面迅猛发展: 影响人工智能的三大要素:数据 算法 算力 其中算力 是实现算法的重要基础,人工智能芯片也处于这个时代的战略 ...

最新文章

  1. 零欧姆电阻在电路上的作用
  2. Django项目日志概述
  3. 你必须会的DFS的递归实现与堆栈实现
  4. Linux加载DTS设备节点的过程(以高通8974平台为例)
  5. Windows如何让一个窗口显示最前(窗口锁住最前)?TopMost
  6. LeetCode 71. 简化路径(栈)
  7. jdk 安装 linux环境
  8. 《南方都市报》:中国互联网“公共性”正在变形或流失
  9. 点击按钮无法触发ajax_前端 | Ajax 入门与实战
  10. c语言排队系统,【分享】C语言 银行取票排队系统
  11. ios 简单的计时器游戏 NSUserDefaults NSDate NSTimer
  12. Matplotlib取代minitab绘制正态分布图
  13. python 缩放图片_python实现按长宽比缩放图片
  14. 自己写一个strcmp函数(C++)
  15. LINUX磁盘分区挂载笔记
  16. 正则表达式:检测密码由6-21字母和数字组成
  17. jieba库的安装与使用方法
  18. zbb20170728 oracle 查看被锁对象
  19. django框架之中间件
  20. hdu5514Frogs

热门文章

  1. 伍六七带你学算法——栈的使用
  2. 2022-2028年中国汽车修理行业市场前瞻与投资规划分析报告
  3. 2022-2028年中国环保服务业投资分析及前景预测报告
  4. struts2 与 sping 整合 控制器中 service注入的问题
  5. Go 运行时(go runtime)的含义
  6. 正则表达式(括号)、[中括号]、{大括号}的区别小结
  7. 梯度下降优化算法综述与PyTorch实现源码剖析
  8. SpringBoot整合JDBC、整合Druid数据源详解教程
  9. 双圆弧插值算法(一)
  10. 客快物流大数据项目(五十三):实时ETL模块开发准备