SpykeTorch: Efficient Simulation of Convolutional Spiking Neural Networks With at Most One Spike per
引言
下面我们介绍一下Spyketorch,这个是基于pytorch的框架的。在相同的学习规则下,可以使用STDP和R-STDP,其他的法则也能够应用。该框架中的计算是基于张量的,完全由PyTorch函数完成,这反过来带来了在cpu、gpu或多gpu平台上运行的实时优化能力。
1介绍
多年来,科学家一直试图将类人视觉引入机器和人工智能(AI)中。近年来,基于深度卷积神经网络(DCNNs)的先进技术(Rawat and Wang, 2017;Gu等人,2018),人工视觉从未更接近人类视觉。尽管dcnn在许多人工智能领域都取得了杰出的成果,但它们面临着数据和能量消耗的问题。当涉及到硬件实现来解决现实问题时,能源消耗是至关重要的。
我们的大脑消耗的能量比dcnn少得多,大约20瓦(Mink等人,1981年)——大致相当于一台普通笔记本电脑的能量消耗,因为它具有一流的智能。这一特性促使研究人员开始研究用于人工智能的人类皮层的计算模型。脉冲神经网络(snn)是下一代神经网络,神经元通过被称为脉冲的二进制信号进行通信。snn对于硬件实现来说是节能的,因为脉冲带来了使用基于事件的硬件以及简单的节能累加器的机会。
snn的时空能力使其具有比dcnn更强的潜力,然而,利用它们的终极能力并非易事。各种类型的snn已经被提出用于视觉任务,可以根据它们的规格进行分类,例如:
网络结构:浅的,深的
拓扑结构的连接:卷积,全连接
信息编码:速率,时延
学习规则:监督,无监督,强化
使用Tensorflow (Abadi等,2016)和PyTorch (Paszke等,2017)等仿真框架,开发和运行dcnn是快速和高效的。相反,dcsnn则缺乏这样的框架。
在本文中,我们提出了SpykeTorch,一个基于PyTorch的仿真框架,专门针对每个神经元最多一个脉冲的卷积snn进行优化。SpykeTorch只支持时间到第一个刺信息编码,并提供一个IF模型与每个刺激中最多一个脉冲。
本文的其余部分组织如下:第2节描述了SpykeTorch如何在其计算中包含时间的概念。第3节专门介绍SpykeTorch包结构及其组成部分。在第4节中,给出了一个关于使用SpykeTorch构建、培训和评估DCSNN的简短教程。第6节总结了当前的工作,并强调了可能的未来工作。
去GitHub上看了看这个项目,一颗星都没有。。。算了不翻译了
SpykeTorch: Efficient Simulation of Convolutional Spiking Neural Networks With at Most One Spike per相关推荐
- Mapping Spiking Neural Networks的论文汇总以及思考
首先感谢CSDN平台,发现不是我一个人在SNN Mapping方面纠结着.去年看了Mapping方面的内容后感觉想创新还是有点难度的,毕竟优化就是生物进化算法类似的套路,可是你会发现自己实现的结果就是 ...
- Spiking neural networks 2017 进展
The Brain as an Efficient and Robust Adaptive Learner Training Spiking Neural Networks for Cognit ...
- 论文精翻《Progressive Tandem Learning for Pattern Recognition With Deep Spiking Neural Networks》
目录 0 摘要/Abstract 1 简介/Introduction 2 相关工作/Related Work 3 重新思考ANN-to-SNN的转换/Rethinking ANN-to-SNN Con ...
- 论文略读1《Direct training for spiking neural networks:faster,larger,better》
发布时间2019-07-17,AAAI 文章链接Direct Training for Spiking Neural Networks: Faster, Larger, Better | Procee ...
- Single Channel Speech Enhancement Using Temporal Convolutional Recurrent Neural Networks
Single Channel Speech Enhancement Using Temporal Convolutional Recurrent Neural Networks 标题:基于时域卷积递归 ...
- Spatio-Temporal Backpropagation for Training High-performance Spiking Neural Networks笔记
<Spatio-Temporal Backpropagation for Training High-performance Spiking Neural Networks>笔记 ABST ...
- Direct Training for Spiking Neural Networks: Faster, Larger, Better
摘要 我们提出一种神经元正则化技术去调整神经元分立,而且发展了一种直接的训练算法对于深层SNN. 通过缩小速率编码窗口和转换LIF模型到精确的迭代版本,我们提出了基于pytorch版本的手段去训练深度 ...
- Going Deeper in Spiking Neural Networks: VGG and Residual Architectures
摘要 在过去几年中,SNN已经成为最受欢迎的低能耗方式.我们提出了分析稀疏事件驱动计算去展现硬件的冗余,当在脉冲领域. 关键词: 脉冲神经网络,事件驱动,稀疏性,神经元计算,视觉辨认. 主要贡献 1. ...
- A remark on the error-backpropagation learning algorithm for spiking neural networks
关于尖峰神经网络的误差反向传播学习算法的一点评论✩ 摘要 在用于脉冲神经网络的误差反向传播学习算法中,必须将触发时间tαt^\alphatα区分为状态函数x(t)x(t)x(t)的函数.但是这种区分是 ...
最新文章
- java类加载的表现形式
- (二十一)数组的初始化
- 使用RawSocket进行网络抓包
- (SpringMVC)数据处理及跳转
- PostgreSQL 的 target_list分析(四)
- java 多态_Java 多态
- 微软推出Python免费在线教程视频
- com.alibaba.fastjson.JSONObject cannot be cast to XXX异常解决
- 浅谈文字识别:新观察、新思考、新机遇
- 关于Spring Cloud Commons—普通抽象
- Python Itertools
- 很好的一款监控web请求的工具,fiddler.
- ThinkBook 14P Win11网卡驱动掉了-解决方案
- could not get batchedbridge, make sure your bundle is packaged correctly
- Java获取本周一、上周一、下周一时间
- namecheap namesilo 域名需要备案吗
- NDoc1.3.1使用手册
- [文摘20070308]中国历史朝代歌
- MQ,究竟如何做到削峰填谷?
- 上传gitlab ! [remote rejected] dev - dev (pre-receive hook declined)