来源:图灵人工智能

编译:李扬霞

编辑:青暮

计算神经科学家通过训练人工神经网络来模仿生物神经元,提供了一种探讨单个脑细胞复杂性的新方法。

虽然我们糊状的大脑似乎与计算机处理器中的芯片大相径庭,但科学家对两者的比较已经有很长的历史。正如阿兰·图灵在1952年所说:“我们对大脑像冷粥一样的稠度不感兴趣。”也就是说,媒介并不重要,重要的是计算能力。

如今,最强大的人工智能系统使用基于深度学习的机器学习方法,该算法通过调整大量的数据隐藏层相互连接的节点来拟合数据,这些节点形成的网络被称为深度神经网络。顾名思义,深度神经网络的灵感来自于大脑中真实的神经网络,这些深度神经网络的节点以真实的神经元为模型。根据20世纪50年代神经科学家对神经元的了解,当时一种有影响力的神经元模型被称为感知器,从那时起,我们对单个神经元计算复杂性的理解逐渐加深,人们了解到生物神经元比人工神经元更复杂,但是复杂的程度是多少?不得而知。

1

一个生物神经元可以和5到8层人工神经网络相匹敌

为了找到答案,耶路撒冷希伯来大学的David Beniaguev, Idan SegevMichael London训练了一个人工深度神经网络来模拟生物神经元的计算。该研究表明,“一个深度神经网络需要5到8层相互连接的人工神经元来才能表示单个生物神经元的复杂性。”

“我原以为它会更简单,更小”Beniaguev如是说。Beniaguev也没有预料到这种复杂性,他原来预计三到四层就足以捕获单元内执行的计算。

在谷歌旗下的 AI 公司 DeepMind 设计决策算法的 Timothy Lillicrap 表示:“新结果表明,可能有必要重新思考,以前将大脑中的神经元与机器学习背景下的神经元进行不精确的比较的旧传统 ”,他认为“这篇论文确实有助于人们更仔细地思考这个问题,并搞清楚我们可以在多大程度上进行类比。”

最基本的相似之处,在于它们处理输入的信息的方式。这两种神经元都接收输入的信号,并根据这些信息决定是否将自己的信号发送给其他神经元。人造神经元是依靠简单的计算来做出决定,但数十年的研究表明,生物神经元的这个过程相对来说更加复杂。

计算神经科学家使用输入-输出函数,模拟生物神经元的长树枝(树突)接收到的输入的信息与神经元决定发送信号之间的关系。

这项新研究的作者使用一个人工深度神经网络模仿这个函数,以确定关系的复杂程度。他们首先对老鼠的大脑皮层中的神经元的输入输出功能进行了大规模模拟,这种神经元的顶部和底部都有不同的树突分支,被称为锥体神经元。然后,他们将模拟结果输入到一个深度神经网络中,该神经网络每层最多有256个人工神经元,他们不断增加层数,直到在模拟神经元的输入和输出之间达到毫秒级99%的准确率。

最后,深度神经网络成功地预测了大脑神经元的输入-输出函数的行为,结果表明:深度神经网络至少有5层相互连接的人工“神经元”,但不超过8层。在大多数网络中,一个生物神经元就相当于大约 1000 个人工神经元。

神经科学家们现在知道,单个神经元的计算复杂性,比如左边的锥体神经元,依赖于树突状的分支,这些分支会受到传入信号的轰击。在神经元决定是否发送自己的信号“尖峰”之前,会导致局部电压的变化,以神经元的颜色变化来表示,红色表示高电压,蓝色表示低电压。这个“尖峰”出现了三次,如图中右侧的各分支的轨迹所示,这里的颜色代表了树突从上(红色)到下(蓝色)的位置。

——David Beniaguev

贝勒医学院(Baylor College of Medicine)的计算神经科学家安德烈亚斯·托利亚斯(Andreas Tolias)说:“(这个结果)为生物神经元和人工神经元之间搭起了桥梁。”

这一研究的其中一个作者London对人们提出了警告,他认为,“人工神经网络中有多少层和网络的复杂性之间的关系并不明显,不是直接的对应。”因此,我们不能确切地说,从四层增加到五层会增加多少复杂性。我们也不能说 1000 个人工神经元就意味着生物神经元的复杂度恰好是人工神经元的 1000 倍。说不定,我们可以在每一层中使用成倍的人工神经元,最后能形成只有一层的深度神经网络来拟合一个生物神经元。当然,算法学习可能因此需要更多的数据和学习时间。

London表示:“我们尝试了多种不同深度和不同单元的架构,但大多都失败了。”

该研究的作者们分享了他们的代码,以鼓励其他人找到一个层次更少的解决方案。但是结果表明,找到一个能以99%的准确率模拟生物神经元的深层神经网络是很难的。因此,这些作者们相信,他们得出的结果确实为进一步的研究提供了有意义的比较。

Lillicrap认为,这一研究结果对于将图像分类网络与大脑联系起来,或许可以提供一种新方法。图像分类网络通常需要 50 层以上,如果每个生物神经元都近似于一个五层人工神经网络,那么一个有50层的图像分类网络就相当于一个生物网络中的10个真实神经元。

这一研究的作者还希望他们得出的研究结果能够被用于改进 AI 领域目前最先进的深度网络架构。

Segev指出,“我们建议,可以尝试用一个代表生物神经元的单元来替代深度神经网络中的简单单元,使其更接近大脑的工作方式。”在这种替代方案中,人工智能研究人员和工程师可以插入一个五层深度网络作为“迷你网络”,取代每一个人工神经元。

2

有质疑也有肯定

但有些人怀疑这一研究是否真的对人工智能有益。

冷泉港实验室(Cold Spring Harbor Laboratory)的神经学家安东尼·扎多尔(Anthony Zador)说,“我认为,在这种对比中是否存在实际的计算优势,还是一个悬而未决的问题。”“但是该研究为检验这一点奠定了基础。”

除了人工智能的应用之外,这篇新的论文也加深了人们对树突树和单个生物神经元强大计算能力的共识。早在2003年,三位神经科学家就表明,金字塔神经元的树突树可以通过将其建模为两层人工神经网络来进行复杂的模拟计算。在这篇新论文中,作者研究了金字塔神经元的哪些特征(结构)激发了5到8层深度神经网络的更大复杂性。他们得出的结论是:秘密来自于树突,以及树突表面接收化学信使的一种特定受体——这一发现与该领域之前的研究结果一致。

一些人认为,这一结果意味着神经科学家应该把对单个生物神经元的研究放在更重要的位置。

宾夕法尼亚大学(University of Pennsylvania)的计算神经学家康拉德·科尔丁(Konrad Kording)说:“这篇论文使得我们对树突和单个神经元的思考变得比以前重要得多。”

还有Lillicrap和Zador,他们认为关注一个回路中的神经元,对于学习大脑如何使用单个神经元的计算复杂性同样重要。

无论如何,人工神经网络的研究可能会提供对生物神经元以及大脑奥秘的新见解。

伦敦大学学院(University College London)的计算神经科学家格蕾丝·林赛(Grace Lindsay)说:“从层次、深度和宽度的角度思考,这项工作让我们对计算的复杂性有了直观的认识。”

然而, Lindsay 也警告说,这项新研究仍然只是在对模型进行比较。不幸的是,目前神经科学家不可能记录真实神经元的完整输入-输出功能,所以可能有更多生物神经元模型没有捕捉到的东西。换句话说,真正的神经元可能更加复杂。

London说:“我们不确定,5到8层是否真的是最终的极限。”

原文链接:

https://www.quantamagazine.org/how-computationally-complex-is-a-single-neuron-20210902/

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

人工神经网络能否驾驭生物神经元的“浓稠”程度?5到8层可能并非极限相关推荐

  1. 人工神经网络中的多模态神经元

    推荐:将 NSDT场景编辑器加入你的3D工具链 3D工具集: NSDT简石数字孪生   2005年,发表在<自然>杂志上的一封信描述了人类神经元对特定人的反应,例如詹妮弗·安妮斯顿或哈莉· ...

  2. 人工神经网络_AI产品经理必修课 | 人工智能概论(四)-人工神经网络

    目前人工智能中所谓的学习,其实都是想将现实世界进行数据化,通过数学模型,从数据中获取模式的某种表示.而"神经网络"是人工智能学科中被给予最大期望的一种学习方法,因为神经网络,是目前 ...

  3. 人工神经网络模型定义,人工神经网络基本框架

    人工神经网络评价法 人工神经元是人工神经网络的基本处理单元,而人工智能的一个重要组成部分又是人工神经网络.人工神经网络是模拟生物神经元系统的数学模型,接受信息主要是通过神经元来进行的. 首先,人工神经 ...

  4. 人工神经网络结构图高清,人工神经网络结构图解

    人工神经网络评价法 人工神经元是人工神经网络的基本处理单元,而人工智能的一个重要组成部分又是人工神经网络.人工神经网络是模拟生物神经元系统的数学模型,接受信息主要是通过神经元来进行的. 首先,人工神经 ...

  5. 人工神经网络算法与机器算法算两种算法吗

    人工神经网络的特点有哪些 人工神经网络的特点和优越性,主要表现在三个方面:第一,具有自学习功能. 例如实现图像识别时,只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习 ...

  6. 人工神经网络算法的应用,神经网络是机器算法吗

    神经网络算法的人工神经网络 人工神经网络(ArtificialNeuralNetworks,ANN)系统是20世纪40年代后出现的. 它是由众多的神经元可调的连接权值连接而成,具有大规模并行处理.分布 ...

  7. 人工神经网络的功能特点,神经网络的优缺点

    神经网络优缺点, 优点:(1)具有自学习功能.例如实现图像识别时,只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习功能,慢慢学会识别类似的图像.自学习功能对于预测有特 ...

  8. 人工神经网络的应用实例,人工神经网络算法实例

    神经网络算法实例说明有哪些? 在网络模型与算法研究的基础上,利用人工神经网络组成实际的应用系统,例如,完成某种信号处理或模式识别的功能.构作专家系统.制成机器人.复杂系统控制等等. 纵观当代新兴科学技 ...

  9. 人工神经网络的功能特点,人工神经网络的优缺点

    人工神经网络的特点有哪些 人工神经网络的特点和优越性,主要表现在三个方面:第一,具有自学习功能. 例如实现图像识别时,只在先把许多不同的图像样板和对应的应识别的结果输入人工神经网络,网络就会通过自学习 ...

最新文章

  1. 开发者如何构建技术影响力
  2. SpringBoot文件上传异常之temporary upload location not valid
  3. 一日一技:ASP.NET Core 判断请求是否为Ajax请求
  4. 登录服务器修改数据库吗,如何修改服务器登录数据库 sa
  5. 光驱怎么挂载第二个光驱_电脑光驱经常自己打开自己关闭,怎么回事
  6. 深度学习入门:10门免费线上课程推荐
  7. Python面试题_中级版
  8. ssh框架从页面传中文发生乱码时怎么解决,就是添加一个字符编码拦截器。用springframework自带的便可...
  9. 怎样找回W ndows7密钥,怎么找到windows7密钥
  10. 金万维异速联产品简介
  11. Acrel-2000Z电力监控系统的应用
  12. 震惊~~飞流android版使用体验!!
  13. mongodb 聚合函数求平均值及时差处理
  14. 抖音广告多少种,这些你知道吗?
  15. 如何调整MATLAB画布大小?
  16. Linux下开MC服务器
  17. 【观察】迎接5G新时代,亚信科技的原力进化
  18. 360更新补丁之后把Outlook弄坏了
  19. android禁止手机访问某个ip,如何禁止手机访问某个网站
  20. 高通8996启动流程-1.概述

热门文章

  1. Jolt大奖作品、重磅星级图书尽在十月
  2. 你的声音作为一种“武器”:人类战争中声学活动
  3. Nature:超越地域和文化,AI识别出全人类共同的16种面部表情
  4. 近期活动盘点:知识智能高峰论坛暨“知识智能联合研究中心”年度报告会、新时代的医学影像及心脑血管成像的应用思享会...
  5. 又美又飒!这位985大学小姐姐,堪称今年最强博士后!
  6. 听说这是写毕业论文的你?
  7. 华人首位!清华学子尤洋 荣升新加坡国立大学“校长青年教授”
  8. 53年来国内唯三,MindSpore加速昇腾芯片论文获国际顶会MICRO最佳论文提名
  9. 【论文小技巧】一招搞定论文高速下载
  10. SAP PM 初级系列9 - 定义功能位置的安装