神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。
神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。
神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。
神经网络模型
所谓神经网络就是将许多个单一“神经元”联结在一起,这样,一个“神经元”的输出就可以是另一个“神经元”的输入。例如,下图就是一个简单的神经网络:
我们使用圆圈来表示神经网络的输入,标上“”的圆圈被称为偏置节点,也就是截距项。神经网络最左边的一层叫做输入层,最右的一层叫做输出层(本例中,输出层只有一个节点)。中间所有节点组成的一层叫做隐藏层,因为我们不能在训练样本集中观测到它们的值。同时可以看到,以上神经网络的例子中有3个输入单元(偏置单元不计在内),3个隐藏单元及一个输出单元。
我们用 来表示网络的层数,本例中 ,我们将第 层记为 ,于是 是输入层,输出层是 。本例神经网络有参数,其中 (下面的式子中用到)是第 层第 单元与第 层第 单元之间的联接参数(其实就是连接线上的权重,注意标号顺序), 是第 层第 单元的偏置项。因此在本例中, , 。注意,没有其他单元连向偏置单元(即偏置单元没有输入),因为它们总是输出。同时,我们用 表示第 层的节点数(偏置单元不计在内)。
我们用 表示第 层第 单元的激活值(输出值)。当 时, ,也就是第 个输入值(输入值的第 个特征)。对于给定参数集合 ,我们的神经网络就可以按照函数 来计算输出结果。本例神经网络的计算步骤如下:
我们用 表示第 层第单元输入加权和(包括偏置单元),比如, ,则 。
这样我们就可以得到一种更简洁的表示法。这里我们将激活函数 扩展为用向量(分量的形式)来表示,即 ,那么,上面的等式可以更简洁地表示为:
我们将上面的计算步骤叫作前向传播。回想一下,之前我们用 表示输入层的激活值,那么给定第 层的激活值 后,第 层的激活值 就可以按照下面步骤计算得到:
将参数矩阵化,使用矩阵-向量运算方式,我们就可以利用线性代数的优势对神经网络进行快速求解。
以上内容参考了AG的文献,加上个人的理解!希望可以帮助到大家~
神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。相关推荐
- 神经网络模型图标解释,神经网络模型图标含义
神经网络BP模型 一.BP模型概述误差逆传播(ErrorBack-Propagation)神经网络模型简称为BP(Back-Propagation)网络模型. PallWerbas博士于1974年在他 ...
- 阅读文献的三大问题:坐不住,记不住,想不开
From: http://blog.sciencenet.cn/home.php?mod=space&uid=2068&do=blog&id=500206 阅读文献的三大问题: ...
- #论文投稿必备#如何解决阅读文献的三大问题:坐不住,记不住,想不开
文献阅读是科研的重要基础,但是并非每一个科研人员都喜欢和擅长看文献--例如我自己.我发现,阅读文献存在的问题可以归纳为三个:坐不住,记不住,想不开. 第一大问题:坐不住 坐不住,指的是不喜欢看文献.为 ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(六)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(六) 目录 DRN DNC NTM CN KN AN 相关文章 DL:深度学习 ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(四)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(四) 目录 CNN DN DCIGN 相关文章 DL:深度学习算法(神经网络模 ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(二)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(二) 目录 AE VAE DAE SAE 相关文章 DL:深度学习算法(神经网 ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(一)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(一) 目录 THE NEURAL NETWORK ZOO perceptron ...
- DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(三)
DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(三) 目录 MC HN BM RBM DBN 相关文章 DL:深度学习算法(神 ...
- 关于神经网络的正确说法,可解释的神经网络模型
有人可以介绍一下什么是"神经网络"吗? 由于神经网络是多学科交叉的产物,各个相关的学科领域对神经网络都有各自的看法,因此,关于神经网络的定义,在科学界存在许多不同的见解. 目前使用 ...
最新文章
- Metaspace 引起的 FullGC 问题排查过程及解决方案
- discuz云平台报调用远程接口失败的问题分析和解决
- SharePoint 服务器端对象模型操作文档库(上传/授权/查看权限)
- 根据二叉树前序遍历和中序遍历重建二叉树
- 01_JNI是什么,为什么使用,怎么用JNI,Cygwin环境变量配置,NDK案例(使用Java调用C代码),javah命令使用
- CapsLock Enhancement via AutoHotKey
- 您好,这是我的第一篇文章
- 2017百度之星资格赛 1003 度度熊与邪恶大魔王
- less入门及基础学习(建议有css基础)
- 代码有温度 科技需向善
- [转载] python中 numpy_Python中的Numpy
- 问题:sql server 2005 中数据库关系图无法使用——基于SQL Server 2005
- Mysql面试题(100+)
- 03 vsftpd 登录过程的调试
- 论文阅读 decaNLP -- The Natural Language Decathlon: Multitask Leaning as Question Answering
- C++Mysql8.0数据库跨平台编程实战(上)
- 心率监测仪全国产化电子元件推荐方案
- css rgb转16进制,jquery获取元素颜色css('color')的值返回RGB。如何转十六进制
- 刮刮卡 java代码_Android刮刮卡效果实现代码
- 问题:MongoDB C# driver异常:Truncation resulted in data loss