神经网络经历漫长的发展,目前总共有三代,它们分别是:

第一代神经网络
McCulloch–Pitt感知机,它执行阈值运算并输出数字(1,0)。
第二代神经网络
基于sigmoid单元或修正线性单元(ReLU)增加了连续非线性,使其能够计算一组连续的输出值。第二代神经网络也是目前使用的最广泛的网络算法,例如VGG16,ResNet等等的DNN都是第二代网络。
第三代神经网络:‘
主要使用“整合放电”(integrate-and-fire)型尖峰神经元,通过脉冲交换信息,因此称为脉冲神经网络(SNN)。第二代和第三代神经网络之间最大的区别在于信息处理性质。第二代神经网络使用了实值计算(real-value)(例如,信号振幅),而SNN则使用信号的时间(脉冲)处理信息。SNNs中的神经元单元只有在接收或发出尖峰信号时才处于活跃状态,因此它是事件驱动型的,因此可以使其节省能耗。

同传统的人工神经网络一样,脉冲神经网络同样分为三种拓扑结构。它们分别是前馈型脉冲神经网络、递归型脉冲神经网络,和混合型脉冲神经网络。

SNNs最大的优势在于其能够充分利用基于时空事件的信息。今天,我们有相当成熟的神经形态传感器,来记录环境实时的动态改变。这些动态感官数据可以与SNNs的时间处理能力相结合,以实现超低能耗的计算。实际上,与传统上DLNs使用的帧驱动(frame-driven)的方法相比,SNNs将时间作为附加的输入维度,以稀疏的方式记录了有价值的信息,从而实现高效的SNNs框架,并通过计算视觉光流或立体视觉来实现深度感知。

但是,SNNs目前主要受限于缺乏适当的训练、学习的算法。脉冲神经网络的学习方式主要包括无监督学习(unsupervised learning)、监督学习(supervised learning)和强化学习(reinforcement learning)等,这些方式在下一次具体介绍。

此外,SNN还受限于基于脉冲的数据可用性,虽然理想情况要求SNNs的输入是带有时间信息的序列,但SNNs训练算法的识别性能是在现有静态图像的数据集上进行评估的,例如CIFAR或ImageNet,缺乏动态的数据集。

SNN是广阔的蓝海领域,拥有很大的潜力与价值,相信在今后不断的研究中,SNN会不断在实际应用中崭露头角。

脉冲神经网络SNN的简介相关推荐

  1. 第三十二课.脉冲神经网络SNN

    目录 时间驱动与事件驱动 时间驱动 事件驱动 基于时间驱动的脉冲神经元 spikingjelly:LIF神经元 实验仿真 时间驱动与事件驱动 时间驱动 为了便于理解时间驱动,我们可以将SNN(spik ...

  2. 脉冲神经网络SNN流片验证类脑芯片

    面对国内芯片设计厂家,提供开发板验证业务,测试芯片性能,如某高校的SNN芯片. AI边缘计算.视觉基础平台的研发,以FPGA.DSP.ARM为处理器,形态包括 VPX.CPCI-E,主要专注于边缘AI ...

  3. 如何看待第三代神经网络SNN?详解脉冲神经网络的架构原理、数据集和训练方法 原创

    作者丨科技猛兽 编辑丨极市平台 本文首发于极市平台公众号,转载请获得授权并标明出处. 本文目录 1 脉冲神经网络简介 2 脉冲神经网络原理 3 脉冲神经网络数据集 4 脉冲神经网络训练方法 5 脉冲神 ...

  4. 脉冲神经网络克服了类脑计算的硬件障碍,让AI更节能

    图源:海德堡大学 人工神经网络是如今最成功的人工智能(AI)算法,它的基本构成是按照我们大脑真实神经网络的处理模式,一般来说,隐藏层越多,越复杂,网络精度就越高.但基于计算机运行的人工神经网络会消耗惊 ...

  5. 脉冲神经网络:MATLAB实现脉冲神经网络(Spiking Neural Network,SNN) 用于图像分类(提供MATLAB代码)

    一.脉冲神经网络 脉冲神经网络 (Spiking Neural Network,SNN) ,是第三代神经网络.其旨在弥合神经科学和机器学习之间的差距,使用最拟合生物神经元机制的模型来进行计算,更接近生 ...

  6. 脉冲神经网络(SNN)概述

    https://www.toutiao.com/a6701844289518830091/ 主要讨论脉冲神经网络的拓扑结构.信息的脉冲序列编码方法.脉冲神经网络的学习算法和进化方法等. 一.脉冲神经网 ...

  7. 脉冲神经网络_【强基固本】脉冲神经网络(SNN)

    "强基固本,行稳致远",科学研究离不开理论基础,人工智能学科更是需要数学.物理.神经科学等基础学科提供有力支撑,为了紧扣时代脉搏,我们推出"强基固本"专栏,讲解 ...

  8. 脉冲神经网络(SNN)论文阅读(三)-----高精度低时延的ANN转换SNN方法

    原文链接:CSDN-脉冲神经网络(SNN)论文阅读(三)-----高精度低时延的ANN转换SNN方法 Optimal ANN-SNN Conversion for High-accuracy and ...

  9. 深度学习基础--不同网络种类--尖峰神经网络/脉冲神经网络(spiking neural network, snn)

    尖峰神经网络/脉冲神经网络(spiking neural network, snn)   是三代神经网络模型,属于计算神经科学,动物的神经网络大多是脉冲神经网络.   资料不多,而且大多是外文   本 ...

  10. SNN介绍-来自脉冲神经网络原理

    神经科学的一些实验证据表明,视觉与听觉等许多生物神经系统都采用神经元发放的动作电位(即脉冲)的时间来编码信息.针对这些问题,更加符合生物神经系统实际情况的第三代人工神经网络模型--脉冲神经网络应运而生 ...

最新文章

  1. STM32 进阶教程 7 -  C与C++混合编程
  2. C# 消息处理机制及自定义过滤方式
  3. List.addAll方法的入参不能为null
  4. MySQL Workbench Failed to Connect to MySQL at 127.0.0.1:3306 with user root Bad handshake
  5. java 数组扩容_Java数组扩容算法及Java对它的应用
  6. PageRank算法简单实现
  7. T 沙龙 2018 年 1 月上海第 10 次线下活动总结
  8. SaaS-HRM(5)系统用户权限设计(角色管理、权限和资源管理)
  9. [经验] (转帖)IGBT终于不炸了!详解逆变H桥IGBT单管驱动+保护
  10. 【chp2】车万翔-自然语言处理:基于预训练模型的方法
  11. js实现canvas在线画板
  12. flv怎么转换成html5,快速教你如何将FLV转换MP4格式
  13. Java内部类介绍 - 局部内部类和匿名内部类
  14. 网站制作的流程是什么?网站制作的流程包括哪些步骤?
  15. 哈雷监控设备的操作及升级NSG9k6G
  16. 开放耳机有什么优缺点,列举出几款口碑不错的开放式耳机
  17. perforce(p4) 使用
  18. 批量全景视频画面提取
  19. anchor机制讲解
  20. java2.0qq同步_qq同步助手2.0 apk下载

热门文章

  1. hadoop fs -du -s -h 输出三列数据的含义
  2. JQUERY的使用,获取ul,li里面的值
  3. html5视频 小马哥,小码哥-HTML5培训之进击前端的动画狮!
  4. 默认关闭IDEA的注释doc的rendered view模式
  5. Android的SharedPreferences和SQLite
  6. 在多台终端设备的i茅台应用中,实现同时自动化预约X酒的解决方案
  7. [CF936B]Sleepy Game
  8. ZJNU 2314-Sleepy Cow Herding
  9. BZOJ1189: [HNOI2007]紧急疏散evacuate(二分答案,最大流)
  10. pointnet-补充材料阅读