来源:全球人工智能

摘要:据报道,美国斯坦福大学的研究人员已经证明,可以直接在光学芯片上训练人工神经网络。

据报道,美国斯坦福大学的研究人员已经证明,可以直接在光学芯片上训练人工神经网络。这一重大突破表明,光学电路可以实现基于电子的人工神经网络的关键功能,进而可以以更便宜、更快速和更节能的方式执行语音识别、图像识别等复杂任务。

“相比使用数字计算机,使用光学芯片进行神经网络计算更有效,能够解决更复杂的问题,”斯坦福大学研究团队的负责人范汕洄(Shanhui Fan)说:“这将增强人工神经网络的能力,例如,使其能够执行自动驾驶汽车所要求的任务,或者能够对口头问题做出适当的回答。这将以我们现在无法想象的方式改善我们的生活。”

人工神经网络是人工智能的一种,它使用连接的单元,以类似大脑处理信息的方式来处理信息。使用人工神经网络执行复杂的任务,例如语音识别,需要训练算法对输入进行分类,比如对不同的单词进行分类。

虽然光学人工神经网络最近已经得到实验证明,但此前的研究是在传统的数字计算机上使用一个模型进行训练步骤,然后将最终的设置导入光学电路。在最新Optica期刊上,斯坦福大学的研究人员报告了一种新方法,通过实现“反向传播”算法(这是训练传统神经网络的标准方法)的光学模拟,直接在设备中训练人工神经网络。

图:研究人员已经证明,神经网络可以通过光学电路(图中蓝色矩形)进行训练。在整个网络中,有若干个这样的电路连接在一起。激光输入(绿色)的编码信息由光波导(黑色)通过芯片。芯片使用可调波束分离器(光波导中弯曲的部分)执行对人工神经网络至关重要的操作。分离器将两个相邻的波导连接在一起,并可通过调整光学移相器(红色和蓝色发光物体)的设置进行调整。分离器的作用就像“旋钮”,可以在特定任务的训练过程中进行调整。Credit: Tyler W. Hughes, Stanford University

该论文的第一作者说:“使用物理设备而不是计算机模型进行训练,可以使训练过程更精确。”“而且,由于训练步骤是神经网络实现中非常耗费计算力的部分,因此,在光学电路上执行这个步骤,对于改进人工神经网络的计算效率、速度和功耗都是至关重要的。”

基于光的网络

虽然神经网络处理通常使用传统的计算机进行,但仍有大量的工作要专门设计针对神经网络计算优化的硬件。基于光学的设备非常吸引人,因为它们可以并行地执行计算,同时比电子设备消耗的能量更少。

在这项新研究中,研究人员通过设计一种光学芯片来复制传统计算机训练神经网络的方式,克服了实现全光学神经网络(all-optical neural network)的一个重大挑战。

人工神经网络可以被视为一个带有许多旋钮的黑盒。在训练期间,每个旋钮都要转动一点,然后测试系统,查看算法的性能是否得到改善。

“我们的方法不仅可以帮助预测旋钮转动的方向,还可以预测每个旋钮转动的方向,从而更接近预期的性能。”Hughes说,“我们的方法大大加快了训练速度,特别是对于大型网络,因为可以并行地获得每个旋钮的信息。”

片上训练

新的训练协议在具有可调谐光束分离器的光学电路运行,通过改变光学移相器的设置进行调整。具体来说,该方法是将编码有待处理信息的激光束发射到光学电路中,由光波导通过光束分离器进行传输,像旋钮一样进行调整,以训练神经网络算法。

在新的训练协议中,激光首先通过光学电路输入。退出设备后,计算出与预期结果的差值。然后,这些信息被用来产生一个新的光信号,这个信号通过光网络以相反的方向发送回来。

通过测量此过程中每个分束器周围的光强度,研究人员展示了如何并行地检测神经网络的性能随着每个分束器设置而变化的情况。移相器的设置可以根据这些信息进行更改,这个过程可以重复,直到神经网络产生期望的结果。

研究人员用光学模拟测试了他们的训练技术,方法是教算法执行复杂的任务,比如在一组点中找出复杂的特征。他们发现光学实现与传统计算机的执行类似。

该研究的负责人说:“我们的研究表明,你可以利用物理定律来实现计算机科学算法。”“通过在光学领域对这些网络进行训练,证明光学神经网络系统可以利用光学器件来实现某些功能。”

研究人员计划进一步优化这个系统,并希望用它来实现神经网络任务的实际应用。他们设计的通用方法可用于各种神经网络架构,也可以用于其他应用。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

  如果您对实验室的研究感兴趣,欢迎加入未来智能实验室线上平台。扫描以下二维码或点击本文左下角“阅读原文”

斯坦福证明神经网络能直接在光学芯片上训练相关推荐

  1. 训练神经网络的详细步骤,m1芯片的训练神经网络

    如何训练神经网络 1.先别着急写代码训练神经网络前,别管代码,先从预处理数据集开始.我们先花几个小时的时间,了解数据的分布并找出其中的规律. Andrej有一次在整理数据时发现了重复的样本,还有一次发 ...

  2. AI 硬件加速的重大飞跃!可训练机器学习硬件的光学芯片

    编辑 | 绿萝 根据麦肯锡(McKinsey)最近的一份报告,机器学习应用每年飙升至 1650 亿美元.但在机器能够执行诸如识别图像细节等智能任务之前,必须先对其进行训练.训练现代人工智能 (AI) ...

  3. 光芯片上的全光脉冲神经网络

    Nature昨天刊登了德国明斯特大学的一篇最新进展,研究人员在光芯片上实现了脉冲神经网络(spike neural network).先睹为快,这篇笔记主要介绍下这篇进展.研究人员将氮化硅波导与相变材 ...

  4. 斯坦福大学神经网络_斯坦福大学欺骗专家和网络安全首席执行官解释了为什么人们迷上网络骗局

    斯坦福大学神经网络 By Tim Sadler and Jeff Hancock 蒂姆·萨德勒和杰夫·汉考克 We all know the feeling, that awful sinking i ...

  5. 同样的神经网络引擎,苹果A11芯片比华为麒麟970牛在哪? 1

    本文编辑:Cynthia iPhone X发布之后,999美元的售价并没有让人止步,相反,新iPhone的Face ID等功能让越来越多的人期待,库克在<早安美国>节目里也说了,iPhon ...

  6. AI算法在FPGA芯片上还有这种操作?| 技术头条

    作者 | 杨付收 出品 | CSDN(ID:CSDNnews) 碾压与崛起 AI算法的崛起并非一帆风顺的,现在的主流的NN类的卷积神经网络已经是第二波浪潮了,早在上个世纪80年代,源于仿生学,后又发展 ...

  7. AI 算法在 FPGA 芯片上还有这种操作?

    作者 | 杨付收 出品 | CSDN(ID:CSDNnews) 碾压与崛起 AI算法的崛起并非一帆风顺的,现在的主流的NN类的卷积神经网络已经是第二波浪潮了,早在上个世纪80年代,源于仿生学,后又发展 ...

  8. 3D芯片大脑:在芯片上培养脑细胞,还能用来测试新药

    来源:MEMS 在科学实验中,研究人员往往首先以小白鼠为实验对象.虽然是科研需要,但有人谴责这是对生命的亵渎.此外,动物测试成本高且耗时,同时无法精确体现人类的反应.那么有没有其他替代品呢? 来自劳伦 ...

  9. 清华学霸组团的工业 AIoT 创企再获数千万融资:玩家应推动在边缘 AI 芯片上跑算法...

    记者 | 夕颜 采访嘉宾 | 马君,湃方科技联合创始人&总裁 出品 | CSDN(ID:CSDNnews) 「AI技术生态论」 人物访谈栏目是CSDN发起的百万人学AI倡议下的重要组成部分.通 ...

最新文章

  1. 把偷快递的贼炸到怀疑人生!不愧是 NASA 工程师,奇思妙想
  2. Java对象、List集合、Map和JSON格式数据的互转(谷歌的gson-2.2.4.jar包)
  3. python中long类型的取值范围_java基本数据类型取值范围
  4. 怎样解决ASP图片上传漏洞的方法
  5. 博客系统评论模块列表转树形结构
  6. 天津工业大学c语言题库,天津工业大学it1创新2届c语言期末复习.ppt
  7. 滴滴上线自动驾驶服务;微软宣布将永久关闭实体店;.NET 5.0 Preview 6 发布 | 极客头条...
  8. python简单GUI(模拟记事本)
  9. Android 制定安装重写迁移至SD卡 APP2SD
  10. 网页设计常用字体(转)
  11. 指数函数e^x和对数函数lnx 导数的求导过程
  12. 八皇后问题(详解带注释)
  13. LUP分解方法,矩阵求逆
  14. java生成随机10位数字_用Java生成10个随机的四位数字
  15. 自定义动画渲染器 Interceptor
  16. 手机如何实现边有线上网边充电?
  17. for循环的执行顺序(案例+详解)
  18. IntelliJ IDEA设置系列(五):类代码模板自定义(注释)
  19. 七分钟学会 HTML 网页制作
  20. 学习就是这样一条时而郁郁寡欢,时而开怀大笑的路

热门文章

  1. 独家 | 一文带你盘点最新热门技术话题,技术圈潮人必读!
  2. 招聘 | 阿里巴巴搜索推荐事业部-知识图谱校招
  3. 独家 | 建立软件的经济学分析框架,浅议开源软件的经济学特性(附图解)
  4. 斯坦福全球AI报告:清华AI课程人数增16倍,人才需求暴增 35 倍
  5. 独家 | 一文读懂如何用深度学习实现网络安全
  6. 新闻上的文本分类:机器学习大乱斗
  7. 新手求助,关于添加隐式intent程序崩溃问题
  8. Transformer杀疯了!力压DeepMind、百度,在GNN大赛夺冠
  9. 拼多多创始人黄峥,要彻底卸下担子,搞“科研”去了。
  10. 【官方权威教程】 PyTorch 深度学习, 学习PyTorch的必备宝典!