4.8 这和大脑有什么关系-深度学习第一课《神经网络与深度学习》-Stanford吴恩达教授
| ←上一篇 | ↓↑ | 下一篇→ |
|---|---|---|
| 4.7 参数 vs. 超参数 | 回到目录 | 4.9 总结习题 |
这和大脑有什么关系 (What does this have to do with the brain?)
深度学习和大脑有什么关联性吗？
关联不大。
那么人们为什么会说深度学习和大脑相关呢？
当你在实现一个神经网络的时候，那些公式是你在做的东西，你会做前向传播、反向传播、梯度下降法，其实很难表述这些公式具体做了什么，深度学习像大脑这样的类比其实是过度简化了我们的大脑具体在做什么，但因为这种形式很简洁，也能让普通人更愿意公开讨论，也方便新闻报道并且吸引大众眼球，但这个类比是非常不准确的。
一个神经网络的逻辑单元可以看成是对一个生物神经元的过度简化，但迄今为止连神经科学家都很难解释究竟一个神经元能做什么，它可能是极其复杂的；它的一些功能可能真的类似logistic回归的运算，但单个神经元到底在做什么目前还没有人能够真正可以解释。
深度学习的确是个很好的工具来学习各种很灵活很复杂的函数，学习到从到的映射，在监督学习中学到输入到输出的映射。
但这个类比还是很粗略的，这是一个logistic回归单元的sigmoid激活函数，这里是一个大脑中的神经元，图中这个生物神经元，也是你大脑中的一个细胞，它能接受来自其他神经元的电信号，比如 x1,x2,x3x_1,x_2,x_3x1,x2,x3 ，或可能来自于其他神经元 a1,a2,a3a_1,a_2,a_3a1,a2,a3 。其中有一个简单的临界计算值，如果这个神经元突然激发了，它会让电脉冲沿着这条长长的轴突，或者说一条导线传到另一个神经元。
所以这是一个过度简化的对比，把一个神经网络的逻辑单元和右边的生物神经元对比。至今为止其实连神经科学家们都很难解释，究竟一个神经元能做什么。一个小小的神经元其实却是极其复杂的，以至于我们无法在神经科学的角度描述清楚，它的一些功能，可能真的是类似logistic回归的运算，但单个神经元到底在做什么，目前还没有人能够真正解释，大脑中的神经元是怎么学习的，至今这仍是一个谜之过程。到底大脑是用类似于后向传播或是梯度下降的算法，或者人类大脑的学习过程用的是完全不同的原理。
所以虽然深度学习的确是个很好的工具，能学习到各种很灵活很复杂的函数来学到从 xxx 到 yyy 的映射。在监督学习中，学到输入到输出的映射，但这种和人类大脑的类比，在这个领域的早期也许值得一提。但现在这种类比已经逐渐过时了，我自己也在尽量少用这样的说法。
这就是神经网络和大脑的关系，我相信在计算机视觉，或其他的学科都曾受人类大脑启发，还有其他深度学习的领域也曾受人类大脑启发。但是个人来讲我用这个人类大脑类比的次数逐渐减少了。
课程PPT
| ←上一篇 | ↓↑ | 下一篇→ |
|---|---|---|
| 4.7 参数 vs. 超参数 | 回到目录 | 4.9 总结习题 |
4.8 这和大脑有什么关系-深度学习第一课《神经网络与深度学习》-Stanford吴恩达教授相关推荐
- “人工智能大脑”跳槽记：吴恩达所理解的智能
"人工智能大脑"跳槽记:吴恩达所理解的智能 原标题:"人工智能大脑"跳槽记:吴恩达所理解的智能,创新和失败 2 上周四"机器学习研究会&qu ...
- 35张图，看懂肠道和大脑的魔性关系，绝对涨知识！
本文转载自"热心肠研究院",己获授权. 有些事真的越来越魔性了! 英语里,有一个短语叫"Follow your gut",Follow追随,your你的,gut ...
- JAMA Psychiatry：社区劣势与青少年神经认知和大脑结构的关系
社区劣势(Neighborhood,我们认为中文称为社区更合适,主要体现的是除家庭经济因素外儿童长期居住的地区周边因素,包括许多方面.)是影响儿童和青少年健康的一个重要社会因素.然而,关于社区劣势与青 ...
- 读懂人工智能、机器学习、神经网络和深度学习的关系
最近很长的一段时间,人工智能的热度都维持在一定的高度.但是大家在关注或研究人工智能领域的时候,总是会遇到这样的几个关键词:深度学习.机器学习.神经网络.那他们之间到底是什么样的关系呢? 先说人工智能, ...
- 计算机辅助语言和计算语言学关系,建构主义理论视角下计算机辅助语言学习环境对留学生学习汉语动机的影响——以广西大学泰国留学生为例-语言学及应用语言学专业论文.docx...
下,学习动机是否有所提高,还有待进一步的研究.在相关理论和英语实践研究成果的指导之下,笔者通过调查问卷.访 下,学习动机是否有所提高,还有待进一步的研究. 在相关理论和英语实践研究成果的指导之下,笔者 ...
- 当且仅当函数依赖a→b在r上成立_数据库第06章关系数据理习题课.ppt
您所在位置:网站首页 > 海量文档  > 计算机 > 数据结构与算法 数据库第06章关系数据理习题课.ppt36页 本 ...
- 进阶｜“幂律与临界”支配神经网络，深度学习技术要向大脑学习
作者:Jordana 本文授权自集智俱乐部(ID:swarma_org),转载请联系授权. 未经许可请勿二次转载. 最新的研究表明,神经活动的模式细节丰富且维度很高,它们并不会产生分形,还能保持光滑. ...
- 谷歌大脑提出对智能体进行「正向-反向」强化学习训练，加速训练过程
原文来源:arXiv 作者:Ashley D. Edwards.Laura Downs.James C. Davidson 「雷克世界」编译:嗯~是阿童木呀.KABUDA.EVA 在强化学习问题中,关 ...
- 图马尔可夫网络：融合统计关系学习与图神经网络
©PaperWeekly 原创 · 作者|石壮威 学校|南开大学硕士 研究方向|机器学习.图神经网络 论文标题: GMNN: Graph Markov Neural Networks 收录会议: IC ...
最新文章
- 从零开始一起学习SLAM | 不推公式，如何真正理解对极约束?
- 利用boost做string到wstring转换，以及字符集转换
- 内存泄漏快速定位方法
- 获取iOS任意线程调用堆栈(三)符号化理论：从Mach-o结构分析类名方法名
- android 图片传递,如何使用包在Android活动之间传递图像(位图)？
- Php sql server2005,phpmssqlserver2005数据库连接类
- iOS平台上的音视频即时通讯应用开发
- 华为NP课程笔记27-QINQ概述
- 【最新】报表开发工具--＞FineBI安装与启动---Windows
- 查询包含关系的SQL
- 简析XDP的重定向机制
- DES加密解密kotlin版
- rangeOfString 失效了
- 内容非常全面，细节爆炸
- 国华小状元1号年金险怎么样？好不好？
- 西京学院学位计算机题库和答案,西京学院 学位英语 普通英语 精彩试题整理.doc...
- 2022年证券从业资格证券市场基本法律法规考试每日一练及答案
- 安卓学习之学生签到APP（一）
- 计算机软件很难吗,计算机软件资格考试的试题是否很难？合格率如何？
- Unity 模型顶点法线不统一————使用Blender修改顶点法线