受显微镜下线虫启发,MIT人工智能实验室推出“液态”神经网络
【新智元导读】近日,MIT计算机科学和人工智能实验室(CSAIL)的团队推出了「液态」神经网络,除在训练过程之外,还可以在实践过程中学习,能随着新的数据输入而不断更新模型方程,很好的适应了现实生活的可变性。有趣的是,这个灵感是从对显微镜下线虫的神经元的观察中得来的。
「液态」神经网络?
这是什么何方神圣?
我猜,这大概率是你第一次听到这个词汇,你一定会好奇,这种「耸人听闻」的神经网络到底是怎么一回事。
近日,麻省理工学院的研究人员已经开发出一种神经网络,除了在训练阶段进行学习之外,它还能在实践过程中学习。
这些被称为「液态」网络的灵活算法,可以为适应新的数据输入而不断改变自身的基本方程。
我们知道,有些数据流会随着时间的推移而变化,比如涉及医疗诊断和自动驾驶的数据流。而这一进展,就正可以帮助基于这些数据流的决策过程。
因此,此类新型神经网络可以在自动驾驶和医疗诊断中辅助决策。
该研究的主要作者拉明·哈萨尼(Ramin Hasani)表示:
「这是朝向未来机器人控制、自然语言处理、视频处理等任何形式的时间序列数据处理前进的一大步,有着非常巨大的潜力」
这项研究,将在2月份的AAAI人工智能会议上公布。
除了麻省理工学院计算机科学和人工智能实验室(CSAIL)的博士后哈萨尼(Hasani),在MIT的共同作者还包括CSAIL主任丹妮拉·罗斯(Daniela Rus)、电气工程和计算机科学的安德鲁( Andrew )和埃尔纳·维特比( Erna Viterbi )教授,以及博士生亚历山大·阿米尼(Alexander Amini)。
其他共同作者还包括奥地利科学技术研究所的马赛厄斯·莱希纳( Mathias Lechner)和维也纳理工大学的拉杜·格鲁(Radu Grosu)。
参数随时间可变,显微镜线虫成灵感来源
哈萨尼表示,时间序列数据无处不在,是帮助我们了解世界的重要参考。
「现实世界完全由序列组成。即使是我们的感知,也是如此:你不是在感知图像,你是在感知一系列图像」
「所以,实际上,时间序列数据创造了现实」
他指出,视频处理、金融数据和医疗诊断应用都是对社会至关重要的时间序列的例子,这些不断变化的数据流的变迁是不可预测的。而实时对这些数据进行分析并利用它们预测未来的行为,可以推动自动驾驶汽车等新兴技术的发展。
因此,哈萨尼就创建了一个适合这类任务的算法。 他设计了一个可以适应现实世界可变性的神经网络。
众所周知,神经网络是一种通过分析训练数据来识别模式的算法,人们常说,它能模拟大脑的处理过程。
而哈萨尼则是直接从显微镜下的线虫C. elegans中获得了灵感:
「它的神经系统只有302个神经元,但它可以产生出乎意料的复杂动态」
在对线虫神经元是如何通过电脉冲得到激活并相互交流的仔细研究下,哈萨尼对他创建的神经网络进行了编码。
在他用来构建神经网络的方程中,他允许参数依据一套微分方程的结果,随时间变化。
这种灵活性,正是关键——大多数神经网络的行为在训练阶段之后是固定的,这意味着它们并不善于适应传入数据流的变化。
哈萨尼表示,他创建的的「液态」网络的流动性,使其对意外或噪声数据更有弹性——比如大雨遮挡了自动驾驶汽车上的摄像头的视野。
「因此,它更有活力」,他说。
他补充说,网络的灵活性还有另一个优势:「它更易于理解」
哈萨尼说,他的「液态」网络避开了其他神经网络常见的不可思议之处:
「只是使用微分方程改变一个神经元的表现形式,你就可以探索某种程度的复杂性,否则,你将永远无法实现探索」
得益于这款神经网络中为数不多却具有很强表达性的神经元,观察神经网络做决策的过程以及判断网络分类的原因变得更加容易。
哈萨尼说:「这个模型具有更加丰富的表达能力」,因此,这个特性可以帮助工程师更好的理解和改进液态网络的性能。
预测精确,小尺寸省下大量计算成本
液态网络在一系列测试中表现都非常出色:
从大气化学跨越到交通模式的应用上,模型在精确预测数据集未来值方面,比其他最先进的时间序列算法高出好几个百分点。
哈萨尼表示:「在许多应用中,我们看到了可靠的高性能」
此外,由于该网络的尺寸很小,因此它在完成测试时无需花费高昂的计算成本。
哈萨尼说:「每个人都在谈论扩展他们的网络。而我们希望的则是缩小规模,拥有更少但更丰富的节点」
这项研究部分由波音公司、国家科学基金会、奥地利科学基金和欧洲领导电子元件和系统提供资助。
哈萨尼的计划是,继续改进该系统,来为工业应用做好准备:
「受到自然现象的启发,我们有一个更有表现力的神经网络,但,这仅仅是个开始」
「接下来,我们要面临很明显的挑战:如何进一步发展它? 我们认为,这种网络可能成为未来智能系统的关键元素」
参考链接:
https://news.mit.edu/2021/machine-learning-adapts-0128
受显微镜下线虫启发,MIT人工智能实验室推出“液态”神经网络相关推荐
- MIT人工智能实验室推出「液态」神经网络 | AI日报
带臂机器狗来了,捡垃圾.跳大绳.种花.写字,波士顿动力Spot迎来重大升级 今天,波士顿动力发布了Spot机器人全新视频,除了添加了一条机械臂,它还能实现捡垃圾.跳绳.种花等多种功能. Spot机器狗 ...
- 盘点过去一年,MIT人工智能实验室的那些创新
机器人.图灵奖.人工智能.算法--一起盘点一下MIT实验室过去一年的硕果吧. width="250" height="250" align="cent ...
- MIT人工智能实验室:如何做AI科研?
MIT人工智能实验室:如何做AI科研? 01 简介 1.1 目标读者是谁? 1.2 如何使用? 02. 阅读 03 建立关系 04 学习其他领域的知识 05 笔记 06 写作 07 演讲 08 程序设 ...
- MIT人工智能实验室:如何做人工智能相关研究一些建议
作者:人工智能实验室全体研究生 编辑:David Chapman 版本:1.3 时间:1988年9月 译者:柳泉波 北京师范大学信息学院2000级博士生 摘要 本文的主旨是解释如何做研究.我们提供的这 ...
- 【重温经典】MIT人工智能实验室: 如何做研究?丨附下载
https://dspace.mit.edu/bitstream/handle/1721.1/41487/AI_WP_316.pdf (也可以点击文末" 阅读原文 "链接获取完整文 ...
- 达摩院浙大上海人工智能实验室推出洛犀平台:大小模型端云协同进化
来源:量子位 AI领域这股大模型之风,可谓是席卷全球,越吹越劲. 单说2021年下半年,前有微软英伟达联手推出5300亿参数NLP模型,后又见阿里达摩院一口气将通用预训练模型参数推高至10万亿. 而就 ...
- mBlock机器人组装教程_能自我组装的机器人M-block,来自mit人工智能实验室
该楼层疑似违规已被系统折叠 隐藏此楼查看此楼 老师憋了半天语重心长告诉我:"你每到一个帖子就粘贴这句话,十五天就到了11级"...我彻底恍然大.悟!吧主再也不用担心我的经验了.我是 ...
- 揭秘阿里人工智能实验室首款智能音箱——天猫精灵X1
7月5日下午,阿里人工智能实验室在北京正式发布了旗下首款智能设备--天猫精灵X1,据介绍,这款产品采用了阿里人工智能实验室自主研发的中文语义理解引擎,内置第一代中文人机交流系统AliGenie,并且依 ...
- 阿里巴巴人工智能实验室“黄”了
2021-01-08 14:55:55 作者 | 陈彩娴.蒋宝尚 编辑 | 青暮 据职场社交平台脉脉用户爆料,阿里巴巴人工智能实验室(AI Labs)基本关闭,阿里官网和达摩院都删除了阿里人工智能实验 ...
最新文章
- IBM Thinkpad T43-44U 升级到 2G 内存后少了 66M
- .NET Framework开源详细配置
- 程序员要掌握的20个实用技巧
- linux中MySQL密码的恢复方法
- iOS开发证书和配置文件的使用
- linux系统sed语法,22. Linux sed命令
- Tomcat详解(六)——Tomcat运行模式调优
- Git 拉取开发环境代码,合并到自己分支,提交自己分支
- 即刻APP所有用户信息爬虫
- Idea不识别Java项目
- 解决微信端苹果手机无法跳转页面
- 量化金融笔记2-期货量化基础
- Java8 新特性 (五)Stream API
- android 开发 安卓系统主题设置
- 多目标优化 MOP (三):遗传算法 SPEA2+SDE 2014
- 带你快速入门AXI4总线--汇总篇
- 让自己的app支持小程序
- 我的世界java村民繁殖条件,我的世界村民无限繁殖教程 教你村民怎么生孩子
- python语言画图代码_零: python matplotlib 画图进阶(含完整代码)
- 评估数据,包括长度,角度,卷曲度
热门文章
- 为何Apache下.htaccess不起作用,Linux、Windows详解
- 基于 Lucene 的桌面文件搜索
- ListView属性设置
- 给一个Table添加合计行[Tips]
- Web 服务器 之 安装 Apache 2 和 Tomcat 5.5
- linux下监控用户的操作记录
- ngx_lua_API 指令详解(一)ngx.timer.at 指令
- AndroidStudio-使用Translations Editor
- ruby连接mysql
- B3log Solo 0.2.5.1 发布了!