一文带你领略人工神经网络激荡70年
↑ 点击上方【计算机视觉联盟】关注我们
M-P模型
1943年神经元解剖学家McCulloch和数学天才Pitts发表文章提出神经元的数学描述和结构
神经元遵循“全或无”原则
证明了只要足够的简单神经元,在相互连接并同步运行的情况下,可以模拟任何计算函数
开创工作被认为是人工神经网络的起点
Hebb学习规则
1949年,生理学家Hebb出版了《行为组织学》,描述了神经元权值的Hebb调整规则
提出“连接主义”
引入“学习假说”,两个神经元之间重复激活,连接权值加强
成为学习系统和自适应系统的灵感源泉
Rosenblatt感知器
1957年,Rosenblatt提出感知器概念。掀起了神经网络研究第一次热潮
提出感知器收敛定理
Widrow和Hoff引入最小均方误差准则(LMS)
整个60年代,人们任务只要很多感知器连接在一起,就可以完成大脑的工作
Minsky的打击
1969年,Minsky和Papert出版《感知器》。指出:单层感知器存在致命缺陷,简单的神经网络只能运用于线性问题的求解,连易或这样的问题都难以解决。求解非线性问题的网络应具有隐层,但理论上还不能证明感知器扩展到多层是有意义的。单层感知器的局限性在多层情况下也不能被完全解决。
Minsky是谁?MIT人工智能实验室联吅创始人,人工智能之父。美国科学院和美国工程院院士。他曾出任美国人工智能学会AAAI的第三任主席(1981-1982)。
1969年图灵奖
形成了10年的低潮,唉
复兴时期!
1982年,加州工学院物理学家JJ.Hopfield提出了Hopfield神经网络模型
1986年,Rumelhart, Hinton, Williams发展了BP算法(多层感知器的误差反向传播算法)
深度学习的突破
Hinton2006年的SCIENCE革命性突破。基于深度置信网络DBN提出非监督贪心逐层训练算法,为解决深层结构相关的优化难题带来希望,随后提出多层自动编码器深层结构。
此外Lecun等人提出的卷积神经网络是第一个真正多层结构学习算法,利用空间相对关系减少参数数目以提高训练性能。
Yann LeCun 是AI尤其是DL最知名的学者,他是Hinton的博士后,发明了CNN。
2016年AlphaGo
......
2018年无人驾驶....
声明:本文来源于【计算机视觉联盟】
热文荐读
2018年12月精选文章目录一览
亲身经历2019年校招8个大厂心得体会,纯干货分享(大疆、百度...)
重磅!图森王乃岩团队最新工作—TridentNet:处理目标检测中尺度变化新思路
GANs最新综述论文: 生成式对抗网络及其变种如何有用【附pdf下载】
算法岗百里挑一热爆了,全球AI大厂薪酬大起底
史上最全!计算机科学领域顶会最佳论文大合集:微软研究院最多,清华排24
MIT的周博磊博士如何解释深度学习模型(附PPT)
【资源下载】512页IBM沃森研究员Charu最新2018著作《神经网络与深度学习》(附下载链接)
人工智能相关领域的国际顶尖会议介绍
一文带你领略人工神经网络激荡70年相关推荐
- 训练数据太少?过拟合?一文带你领略“数据增长魔法”(上)
注意:本文是转载博客,如有侵权,请联系删除! 运行环境及其Paddle版本 [下面是我的主页链接] 来AI Studio互粉吧 https://aistudio.baidu.com/aistudio/ ...
- 人工神经网络与神经网络,带反馈的人工神经网络
1.人工神经网络有哪些类型 人工神经网络模型主要考虑网络连接的拓扑结构.神经元的特征.学习规则等.目前,已有近40种神经网络模型,其中有反传网络.感知器.自组织映射.Hopfield网络.波耳兹曼机. ...
- 独家 | 一文带你上手卷积神经网络实战(附数据集学习资料)
原文标题:Understanding deep Convolutional Neural Networks with a practical use-case in Tensorflow and Ke ...
- 公式太多,读不懂? 一文带你领略KNN近邻算法~简单易懂
↑ 点击上方[计算机视觉联盟]关注我们 K近邻算法采用测量不同特征值之间的距离方法进行分类. K-近邻算法工作原理: 存在一个样本数据集合,也称作训练样本集,并且样本集中的每个数据都存在标签,即我们知 ...
- 一文带你了解卷积神经网络基础,建议收藏
今天给大家讲一下卷积神经网络,主要包括四个部分:卷积神经网络的历史.全连接层.卷积层和池化层. CNN的英文全称是Convolutional Neural Network,雏形是LeCun在1998年 ...
- 一文带你领略并发编程的内功心法
点击上方蓝色"方志朋",选择"设为星标" 回复"666"获取独家整理的学习资料! 本篇文章我们来探讨一下并发设计模型. 可以使用不同的并发模 ...
- 一文带你领略JS中原型链的精妙设计!
对于很多前端初学者来说,JavaScript中的原型链理解是一个很难的过程,有工作了好几年还无法理解原型链设计的大有人在,今天小千就来通过例子给大家介绍这个js原型链. 我们想要理解原型链,首先我们先 ...
- 一文带你领略虚拟化领域顶级技术会议KVM Forum 2018
KVM Forum是由Linux基金会组织的高端技术论坛会议,主要为社区各个维护者,开发人员,和用户提供一个讨论Linux虚拟化技术发展趋势以及挑战的交流场所.参会人员都集中在KVM虚拟化相关领域,是 ...
- 一文带你领略JS中原型链的精妙设计
对于很多前端初学者来说,JavaScript中的原型链理解是一个很难的过程,有工作了好几年还无法理解原型链设计的大有人在,今天小千就来通过例子给大家介绍这个js原型链. 我们想要理解原型链,首先我们先 ...
最新文章
- kafka删除队列_没想到 Kafka 还会这样问,学会这些带你轻松搞定大厂面试!
- 415. Add Strings 字符串相加
- linux下面安装Matlab2017b、快捷键修改、修改背景颜色(转载+自己整理)
- react 子传参父_react子父传参有几种方法?
- 什么叫事务?Java如何处理事务呢?
- 高可用,完全分布式Hadoop集群HDFS和MapReduce安装配置指南
- iOS 代码命名规范 及Android 代码命名规范(2)Android
- python实现判断一个整数是否是回文数
- Ubuntu安装完驱动后进不去界面
- MyBatis中association,collection多表查询(resultMap高级映射)笔录
- mysql+hive+建表语句,在Oracle、MySQL中执行sql脚本生成hive建表语句
- 黑马python5.0课件_2020整理的黑马python 5.0新课程体系零基础到就业大实战
- WebGIS开发快速入门
- Redis的前前后后左左右右
- ext动态树 java_基于Ext异步加载tree的实例 - Seraph115 - JavaEye技术网站
- C语言:野指针成因。
- linux乌班图做服务器,使用 Ubuntu 16.04 搭建全能服务器
- 2018广告屏蔽软件
- ios系统——先了解iCloud是什么吧
- 云呐容灾备份策略,存储容灾备份系统
热门文章
- html5设置data,HTML5自定义data属性
- 51单片机c语言电子钟(已加入调时 '整点报时功能1),51单片机c语言电子钟(已加入调时、闹铃、整点报时功能1)万年历2...
- python length-1_TypeError:使用基本操作时,只有length1数组可以转换为Python标量
- php5.5 getter setter,实现了一个PHP5的getter/setter基类的代码
- 安卓button设置背景图_这些安卓源码调试技巧,不懂的人月薪绝对不过 30k !
- 小学音乐教学和计算机的融合,小学学科教学与计算机深度融合赛课心得体会(共4篇)...
- 【LOJ】#3030. 「JOISC 2019 Day1」考试
- HTTP----HTTP2.0新特性
- uboot——之初体验
- Python基础7(集合与深浅copy)