神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。

神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。

神经网络模型

所谓神经网络就是将许多个单一“神经元”联结在一起,这样,一个“神经元”的输出就可以是另一个“神经元”的输入。例如,下图就是一个简单的神经网络:

我们使用圆圈来表示神经网络的输入,标上“”的圆圈被称为偏置节点,也就是截距项。神经网络最左边的一层叫做输入层,最右的一层叫做输出层(本例中,输出层只有一个节点)。中间所有节点组成的一层叫做隐藏层,因为我们不能在训练样本集中观测到它们的值。同时可以看到,以上神经网络的例子中有3个输入单元(偏置单元不计在内),3个隐藏单元及一个输出单元

我们用 来表示网络的层数,本例中 ,我们将第 层记为 ,于是 是输入层,输出层是 。本例神经网络有参数,其中 (下面的式子中用到)是第 层第 单元与第 层第 单元之间的联接参数(其实就是连接线上的权重,注意标号顺序), 是第 层第 单元的偏置项。因此在本例中, 。注意,没有其他单元连向偏置单元(即偏置单元没有输入),因为它们总是输出。同时,我们用 表示第 层的节点数(偏置单元不计在内)。

我们用 表示第 层第 单元的激活值(输出值)。当 时, ,也就是第 个输入值(输入值的第 个特征)。对于给定参数集合 ,我们的神经网络就可以按照函数 来计算输出结果。本例神经网络的计算步骤如下:

我们用 表示第 层第单元输入加权和(包括偏置单元),比如, ,则

这样我们就可以得到一种更简洁的表示法。这里我们将激活函数 扩展为用向量(分量的形式)来表示,即 ,那么,上面的等式可以更简洁地表示为:

我们将上面的计算步骤叫作前向传播。回想一下,之前我们用 表示输入层的激活值,那么给定第 层的激活值 后,第 层的激活值 就可以按照下面步骤计算得到:

将参数矩阵化,使用矩阵-向量运算方式,我们就可以利用线性代数的优势对神经网络进行快速求解。

以上内容参考了AG的文献,加上个人的理解!希望可以帮助到大家~

神经网络模型符号解释!!!蛮重要的,记不住的可以参考下。相关推荐

  1. 神经网络模型图标解释,神经网络模型图标含义

    神经网络BP模型 一.BP模型概述误差逆传播(ErrorBack-Propagation)神经网络模型简称为BP(Back-Propagation)网络模型. PallWerbas博士于1974年在他 ...

  2. 阅读文献的三大问题:坐不住,记不住,想不开

    From: http://blog.sciencenet.cn/home.php?mod=space&uid=2068&do=blog&id=500206 阅读文献的三大问题: ...

  3. #论文投稿必备#如何解决阅读文献的三大问题:坐不住,记不住,想不开

    文献阅读是科研的重要基础,但是并非每一个科研人员都喜欢和擅长看文献--例如我自己.我发现,阅读文献存在的问题可以归纳为三个:坐不住,记不住,想不开. 第一大问题:坐不住 坐不住,指的是不喜欢看文献.为 ...

  4. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(六)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(六) 目录 DRN DNC NTM CN KN AN 相关文章 DL:深度学习 ...

  5. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(四)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(四) 目录 CNN DN DCIGN 相关文章 DL:深度学习算法(神经网络模 ...

  6. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(二)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(二) 目录 AE VAE DAE SAE 相关文章 DL:深度学习算法(神经网 ...

  7. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(一)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(一) 目录 THE NEURAL NETWORK ZOO perceptron ...

  8. DL:深度学习算法(神经网络模型集合)概览之《THE NEURAL NETWORK ZOO》的中文解释和感悟(三)

    DL:深度学习算法(神经网络模型集合)概览之<THE NEURAL NETWORK ZOO>的中文解释和感悟(三) 目录 MC HN BM RBM DBN 相关文章 DL:深度学习算法(神 ...

  9. 关于神经网络的正确说法,可解释的神经网络模型

    有人可以介绍一下什么是"神经网络"吗? 由于神经网络是多学科交叉的产物,各个相关的学科领域对神经网络都有各自的看法,因此,关于神经网络的定义,在科学界存在许多不同的见解. 目前使用 ...

最新文章

  1. Metaspace 引起的 FullGC 问题排查过程及解决方案
  2. discuz云平台报调用远程接口失败的问题分析和解决
  3. SharePoint 服务器端对象模型操作文档库(上传/授权/查看权限)
  4. 根据二叉树前序遍历和中序遍历重建二叉树
  5. 01_JNI是什么,为什么使用,怎么用JNI,Cygwin环境变量配置,NDK案例(使用Java调用C代码),javah命令使用
  6. CapsLock Enhancement via AutoHotKey
  7. 您好,这是我的第一篇文章
  8. 2017百度之星资格赛 1003 度度熊与邪恶大魔王
  9. less入门及基础学习(建议有css基础)
  10. 代码有温度 科技需向善
  11. [转载] python中 numpy_Python中的Numpy
  12. 问题:sql server 2005 中数据库关系图无法使用——基于SQL Server 2005
  13. Mysql面试题(100+)
  14. 03 vsftpd 登录过程的调试
  15. 论文阅读 decaNLP -- The Natural Language Decathlon: Multitask Leaning as Question Answering
  16. C++Mysql8.0数据库跨平台编程实战(上)
  17. 心率监测仪全国产化电子元件推荐方案
  18. css rgb转16进制,jquery获取元素颜色css('color')的值返回RGB。如何转十六进制
  19. 刮刮卡 java代码_Android刮刮卡效果实现代码
  20. 问题:MongoDB C# driver异常:Truncation resulted in data loss

热门文章

  1. 正确认识不宁腿,固元益腿汤让你不再担心不宁腿的可怕
  2. 七大主流BT5.0低功耗蓝牙芯片原厂及其应用
  3. 计算机专业成长计划书,计算机学习计划书
  4. bzoj 1056 [HAOI2008]排名系统(1862 [Zjoi2006]GameZ游戏排名系统)
  5. 乐视网的视频看不了了,说抱歉,你所访问的视频不存在
  6. CPA二--应收票据(转载)
  7. Qml路径动画-PathAnimation
  8. PSO 粒子群优化算法 大整理
  9. order by limit 造成优化器选择索引错误
  10. 详解likely和unlikely函数【转】