深度学习的未来在单片机身上?
Pete Warden,是谷歌TensorFlow团队成员,也是TensorFLow Mobile的负责人,常年遨游在深度学习的大海。
另外,这些看上去很熟悉的书,也是他的作品。
除此之外,皮特有个新的想法要和大家分享——
他坚定地相信,未来的深度学习能够在微型的、低功耗的芯片上自由地奔跑。
换句话说,单片机 (MCU) ,有一天会成为深度学习最肥沃的土壤。
这里面的逻辑走得有些绕,但好像还是有点道理的。
为什么是单片机
单片机遍地都是
根据皮特的估计,今年一年全球会有大约400亿枚单片机 (MCU) 售出。
MCU里面有个小CPU,RAM只有几kb的那种,但医疗设备、汽车设备、工业设备,还有消费级电子产品里,都用得到。
这样的计算机,需要的电量很小,价格也很便宜,大概不到50美分。
之所以得不到重视,是因为一般情况下,MCU都是用来取代 (如洗衣机里、遥控器里的) 那些老式的机电系统——控制机器用的逻辑没有发生什么变化。
能耗才是限制因素
任何需要主电源 (Mains Electricity) 的设备,都有很大的局限性。毕竟,不管到哪都要找地方插电,就算是手机和PC都得经常充电才行。
然而,对智能产品来说,在任何地方都能用、又不用经常维护,才是王道。
所以,先来看下智能手机的各个部位用电有多快——
· 显示器400毫瓦
· 无线电800毫瓦
· 蓝牙100毫瓦
· 加速度计21毫瓦
· 陀螺仪130毫瓦
· GPS 176毫瓦
相比之下,MCU只需要1毫瓦,或者比这更少。可是,一枚纽扣电池拥有2,000焦耳的电量,所以即便是1毫瓦的设备,也只能维持1个月。
当然,现在的设备大多用占空比 (Duty Cycling) ,来避免每个部件一直处在工作状态。不过,即便是这样,电量分配还是很紧张。
CPU和传感器不太耗电
CPU和传感器的功耗,基本可以降到微瓦级,比如高通的Glance视觉芯片。
相比之下,显示器和无线电,就尤其耗电了。即便是WiFi和蓝牙也至少要几十毫瓦。
因为,数据传输需要的能量,似乎与传输距离成正比。CPU和传感器只传几毫米,而无线电的传送距离以米为单位,就要贵得多。
传感器的数据都去哪了
传感器能获取的数据,比人们能用到的数据,多得多。
皮特曾经和从事微型卫星拍摄的攻城狮聊过。
他们基本上用手机相机来拍高清视频。但问题是,卫星的数据存储量很小,传输带宽也很有限,从地球上每小时只能下载到一点点数据。
就算不涉及到地外事务,地球上的很多传感器也会遇到这样的尴尬。
一个很有趣的栗子,来自皮特的一个好基友,每到12月,他家上网流量就会用到爆炸。后来,他发现是那些给圣诞节挂的彩灯,影响了视频下载的压缩比例,多下载了很多帧。
跟深度学习有什么关系
如果上面这些听上去有点道理,那么就有一大片市场等待技术来挖掘。
我们需要的是,能够在单片机上运转的,不需要很多电量的,依赖计算不依赖无线电,并且可以把那些本来要浪费掉的传感器数据利用起来的,设备。
这也是机器学习,特别是深度学习,需要跨越的鸿沟。
天作之合
深度学习就是上面所说的,计算密集型,可以在现有的MCU上运行得很舒服。
这很重要,因为很多其他的应用,都受到了“能在多短的时间里获得大量的储存空间”这样的限制。
相比之下,神经网络大部分的时间,都是用来把那些很大很大的矩阵乘到一起,翻来覆去用相同的数字,只是组合方式不同了。
这样的运算,当然比从DRAM里读取大量的数值,要低碳得多。
需要的数据没那么多的话,就可以用SRAM这样低功耗的设备来存储。
如此说来,深度学习最适合MCU了,尤其是在8位元计算可以代替浮点运算的时候。
深度学习很低碳
皮特花了很多时间,来考虑每次运算需要多少皮焦耳。
比如,MobileNetV2的图像分类网络,的最简单的结构,大约要用2,200万次运算。
如果,每次运算要5皮焦,每秒钟一帧的话,这个网络的功率就是110微瓦,用纽扣电池也能坚持近一年。
对传感器也友好
最近几年,人们用神经网络来处理噪音信号,比如图像、音频、加速度计的数据等等。
如果可以在MCU上运行神经网络,那么更大量的传感器数据就可以得到处理,而不是浪费。
那时,不管是语音交互,还是图像识别功能,都会变得更加轻便。
虽然,这还只是个理想。
最后一句
果然,TensorFlow Mobile的老大,满脑子还是便携设备的事。
原文发布时间为:2018-06-13
本文来自云栖社区合作伙伴“半导体行业观察”,了解相关信息可以关注“半导体行业观察”。
深度学习的未来在单片机身上?相关推荐
- 对话无政府主义者:诺姆·乔姆斯基谈深度学习的未来
全文共3392字,预计学习时长9分钟 图源:forbes 在过去的几周里,笔者一直在和最喜欢的无政府主义辛迪加主义者诺姆·乔姆斯基进行电子邮件交流.最初联系是为了确认,人工神经网络(ANNs)的最新发 ...
- 斯坦福CS224n追剧计划【大结局】:NLP和深度学习的未来
一只小狐狸带你解锁炼丹术&NLP秘籍 简介 Stanford CS224n追剧计划是由夕小瑶的卖萌屋发起的开源开放NLP入门项目,借助github和微信群为大家提供同期小伙伴打卡讨论.内容沉淀 ...
- 神经进化是深度学习的未来
摘要: 本文主要讲了神经进化是深度学习的未来,以及如何用进化计算方法(EC)优化深度学习(DL). 过去几年时间里,我们有一个完整的团队致力于人工智能研究和实验.该团队专注于开发新的进化计算方法(EC ...
- python未来人工智能主流_python深度学习,未来人工智能三大境界的划分
原标题:python深度学习,未来人工智能三大境界的划分 仙侠小说想必很多人都看过,里边让小编久久不能忘怀的便是这些修仙之人的境界划分情况.同样,在我们生活当中,清朝学者王国维曾用三句古诗词来诠释人生 ...
- 大模型为什么是深度学习的未来?
人工智能 | 数据分析 | Chat GPT 深度学习 | 数据挖掘 | 高性能计算 当今社会是科技的社会,是算力快速发展的时代.随着数据中心.东数西算.高性能计算.数据分析.数据挖掘的快速发展,大模 ...
- 斯坦福NLP名课带学详解 | CS224n 第20讲 - NLP与深度学习的未来(NLP通关指南·完结)
作者:韩信子@ShowMeAI,路遥@ShowMeAI,奇异果@ShowMeAI 教程地址:https://www.showmeai.tech/tutorials/36 本文地址:https://ww ...
- 机器学习数据范例_深度学习的未来可以分解为这三种学习范例
机器学习数据范例 Deep learning is a vast field, centered around an algorithm whose shape is determined by mi ...
- TensorFlow团队成员说:深度学习的未来,在单片机的身上
便携栗 编译自 Pete Warden's Blog 量子位 出品 | 公众号 QbitAI Pete Warden,是谷歌TensorFlow团队成员,也是TensorFLow Mobile的负责人 ...
- 神经网络算法未来_“深度学习三巨头”来了俩,Hinton、LeCun预言深度学习的未来...
当地时间 6 月 23 日,今年的 ACM 图灵奖得主."深度学习三巨头"中的 Geoffrey Hinton.Yann LeCun 在 ACM FCRC 2019上发表演讲,分享 ...
- 错误率减半需要超过500倍算力!深度学习的未来,光靠烧钱能行吗?
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达 编译 | 陈彩娴 深度学习的诞生,可以追溯到1958年. 那一年,时 ...
最新文章
- 这样规范写代码,同事直呼“666”
- mysql隔离级别 简书_InnoDB 事务隔离级别(Mysql篇)
- 分部类--重温篇[好处,示例]
- 【开源】接口管理平台eoLinker AMS 开源版3.1.5同步线上版!免费增加大量功能!...
- 01.神经网络和深度学习 W3.浅层神经网络(作业:带一个隐藏层的神经网络)
- 华为Mate 40正式发布:4999元起、买吗?
- Android studio R文件丢失或错误解决方法
- 记一次简单的破解程序(逆向)
- 常用PDF文档开发库
- 统计某个路径下的总文件个数,及总行数(不含空行)
- excel如何把顺序倒过来_excel倒序怎么操作
- php矢量绘图,打算做一个开源的矢量绘图软件
- 手机扫描电脑百度网盘二维码,二维码无法刷新的解决办法
- OpenCV图像各向异性滤波
- 什么是计算机语言????
- FT230X芯片的国产化替代
- 南非SABS认证范围
- 深度学习前沿算法思想
- DNS污染——domain name的解析被劫持了返回无效的ip
- fisco bcos使用在线IDE chainIDE教程,只要有网络就可以写智能合约!