神经网络入门——14多层感知机
实现隐藏层
先修要求
接下来我们会讲神经网络在多层感知器里面的数学部分。讲多层感知器我们会用到向量和矩阵。你可以通过下列讲解对此做个回顾:
- 可汗学院的 向量入门.
- 可汗学院的 矩阵入门.
由来
之前我们研究的是只有一个输出节点网络,代码也很直观。但是现在我们有多个输入单元和多个隐藏单元,它们的权重需要有两个索引 wij,其中 i表示输入单元,j 表示隐藏单元。
例如在下面这个网络图中,输入单元被标注为 x1,x2, x3,隐藏层节点是h1 和 h2。
对比上面的示意图,确保你了解了不同的权重在矩阵中与在神经网络中的对应关系。
用 NumPy 来初始化这些权重,我们需要提供矩阵的形状(shape),如果特征是一个包含以下数据的二维数组:
# Number of records and input units # 数据点数量以及每个数据点有多少输入节点 n_records, n_inputs = features.shape # Number of hidden units # 隐藏层节点个数 n_hidden = 2 weights_input_to_hidden = np.random.normal(0, n_inputs**-0.5, size=(n_inputs, n_hidden))
这样创建了一个名为 weights_input_to_hidden
的二维数组,维度是 n_inputs
乘 n_hidden
。记住,输入到隐藏节点是所有输入乘以隐藏节点权重的和。所以对每一个隐藏层节点 h_jhj,我们需要计算:
为了实现这点,我们需要运用矩阵乘法,如果你对线性代数的知识有些模糊,我们建议你看下之前先修部分的资料。这里你只需要了解矩阵与向量如何相乘。
在这里,我们把输入(一个行向量)与权重相乘。要实现这个,要把输入点乘(内积)以权重矩阵的每一列。例如要计算到第一个隐藏节点 j = 1的输入,你需要把这个输入与权重矩阵的第一列做点乘:
用输入与权重矩阵的第一列相乘得出到隐藏层第一个节点的输入
代表指向 h1 的权重的线条被标成了红色,这样更好区分。
为了定位权重,我们把输入节点的索引 i 和隐藏节点的索引 j 结合,得到:
w11代表从 x1 到h1 的权重;
w12代表从 x_1x1 到 h_2h2 的权重。
下图包括了从输入层到隐藏层的所有权重,用 wij 表示:
之前我们可以把权重写成数组,用wi 来索引。
现在,权重被储存在矩阵中,由 wij 来索引。矩阵中的每一行对应从同一个输入节点发出的权重,每一列对应传入同一个隐藏节点的权重。这里我们有三个输入节点,两个隐藏节点,权重矩阵表示为:
三个输入节点两个隐藏节点的权重矩阵
针对第二个隐藏节点的输入,你需要计算输入与第二列的点积,以此类推。
在 NumPy 中,你可以直接使用 np.dot
hidden_inputs = np.dot(inputs, weights_input_to_hidden)
你可以定义你的权重矩阵的维度是 n_hidden
乘 n_inputs
然后与列向量形式的输入相乘:
注意:
这里权重的索引在上图中做了改变,与之前图片并不匹配。这是因为,在矩阵标注时行索引永远在列索引之前,所以用之前的方法做标识会引起误导。你只需要了解这跟之前的权重矩阵是一样的,只是做了转换,之前的第一列现在是第一行,之前的第二列现在是第二行。如果用之前的标记,权重矩阵是下面这个样子的:
用之前的标记标注的权重矩阵
切记,上面标注方式是不正确的,这里只是为了让你更清楚这个矩阵如何跟之前神经网络的权重匹配。
矩阵相乘最重要的是他们的维度相匹配。因为它们在点乘时需要有相同数量的元素。在第一个例子中,输入向量有三列,权重矩阵有三行;第二个例子中,权重矩阵有三列,输入向量有三行。如果维度不匹配,你会得到:
# Same weights and features as above, but swapped the order
hidden_inputs = np.dot(weights_input_to_hidden, features)
---------------------------------------------------------------------------
ValueError Traceback (most recent call last)
<ipython-input-11-1bfa0f615c45> in <module>()
----> 1 hidden_in = np.dot(weights_input_to_hidden, X)ValueError: shapes (3,2) and (3,) not aligned: 2 (dim 1) != 3 (dim 0)
3x2 的矩阵跟 3 个元素的数组是没法相乘的。因为矩阵中的两列与数组中的元素个数并不匹配。能够相乘的矩阵如下:
这里的规则是,如果是数组在左边,数组的元素个数必须与右边矩阵的行数一样。如果矩阵在左边,那么矩阵的列数,需要与右边向量的行数匹配。
构建一个列向量
看上面的介绍,你有时会需要一个列向量,尽管 NumPy 默认是行向量。你可以用 arr.T
来对数组进行转置,但对一维数组来说,转置还是行向量。所以你可以用 arr[:,None]
来创建一个列向量:
print(features) > array([ 0.49671415, -0.1382643 , 0.64768854])print(features.T) > array([ 0.49671415, -0.1382643 , 0.64768854])print(features[:, None]) > array([[ 0.49671415],[-0.1382643 ],[ 0.64768854]])
当然,你可以创建一个二维数组,然后用 arr.T
得到列向量。
np.array(features, ndmin=2) > array([[ 0.49671415, -0.1382643 , 0.64768854]])np.array(features, ndmin=2).T > array([[ 0.49671415],[-0.1382643 ],[ 0.64768854]])
我个人更倾向于保持所有向量为一维数组,这样可以更好认知。
编程练习
下面你要实现一个 4x3x2 网络的正向传播,用 sigmoid 作为两层的激活函数。
要做的事情:
- 计算隐藏层的输入
- 计算隐藏层输出
- 计算输出层的输入
- 计算神经网络的输出
import numpy as npdef sigmoid(x):"""Calculate sigmoid"""return 1/(1+np.exp(-x))# Network size
N_input = 4
N_hidden = 3
N_output = 2np.random.seed(42)
# Make some fake data
X = np.random.randn(4)weights_input_to_hidden = np.random.normal(0, scale=0.1, size=(N_input, N_hidden))
weights_hidden_to_output = np.random.normal(0, scale=0.1, size=(N_hidden, N_output))# TODO: Make a forward pass through the networkhidden_layer_in = np.dot(X, weights_input_to_hidden)
hidden_layer_out = sigmoid(hidden_layer_in)print('Hidden-layer Output:')
print(hidden_layer_out)output_layer_in = np.dot(hidden_layer_out, weights_hidden_to_output)
output_layer_out = sigmoid(output_layer_in)print('Output-layer Output:')
print(output_layer_out)
转载于:https://www.cnblogs.com/fuhang/p/8963129.html
神经网络入门——14多层感知机相关推荐
- 深度学习入门之多层感知机
深度学习入门之多层感知机 参考书籍:深度学习入门--基于pyhthon的理论与实现 文章目录 深度学习入门之多层感知机 前言 一.单层感知机局限性 1.感知机?异或门 2.小结 二.多层感知机 1.问 ...
- 深度学习入门:多层感知机实现异或门
文章目录 前言 感知机 2层感知机实现异或门 总结 参考文献: 前言 最近又开始看深度学习的内容了,好久不用忘得差不多了,先从最简单的感知机入手了,这里记录下用2层感知机实现异或门. 感知机 什么是感 ...
- 神经网络——MLP(多层感知机)和RBF(径向基函数神经网络)
一.整体概念 神经元 激活值和激活函数 二.MLP 三.RBF 参考: Principles of training multi-layer neural network using backprop ...
- TensorFlow入门--实现多层感知机
目录 第1关:实现全连接层的前向传播 第2关:实现常见激活函数的前向传播 第1关:实现全连接层的前向传播 本关任务:实现全连接层的前向传播. import numpy as npclass Fully ...
- TensorFlow实现多层感知机
一.感知机的简介 在前面我们实现了一个softmax regression,也可以说是一个多分类问题的logistic regression.它和传统意义上的神经网络最大的区别就是没有隐藏层.在一个神 ...
- 深度学习框架 TensorFlow:张量、自动求导机制、tf.keras模块(Model、layers、losses、optimizer、metrics)、多层感知机(即多层全连接神经网络 MLP)
日萌社 人工智能AI:Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战(不定时更新) 安装 TensorFlow2.CUDA10.cuDNN7.6. ...
- 多层感知机 深度神经网络_使用深度神经网络和合同感知损失的能源产量预测...
多层感知机 深度神经网络 in collaboration with Hsu Chung Chuan, Lin Min Htoo, and Quah Jia Yong. 与许忠传,林敏涛和华佳勇合作. ...
- 机器学习--多层感知机、卷积神经网络、循环神经网络
目录 一.多层感知机 二.卷积神经网络 三.循环神经网络 总结 一.多层感知机 手工提取特征(用人的知识进行) --> 神经网络来提取特征. 神经网络(可能更懂机器学习)来提取 可能对后面的线 ...
- TensorFlow基础之模型建立与训练:线性回归、MLP多层感知机、卷积神经网络
TensorFlow基础之模型建立与训练 模型建立与训练:简单的线性回归 MLP多层感知机 数据获取.预处理 模型搭建 训练与评估 卷积神经网络 高效建模 Keras Sequential高效建模 F ...
最新文章
- 单机杀毒软件仅是企业信息安全的时尚毛衣
- T-SQL查询进阶--变量
- spring aop execution表达式
- python基本统计量_Python中简单统计量的计算
- ginkgo spi 错误_开发SPI时不要犯这个错误
- 首次披露!阿里线下智能方案进化史
- 【C语言】使用指针得到数组的最后一个数
- DeePMD-kit的conda安装方法以及速度慢的解决方案
- 力扣383.赎金信(JavaScript)
- Windows 2000的电源管理
- 关于大型asp.net应用系统的架构—如何做到高性能高可伸缩性
- LINUX获取当前窗口的ID
- 第三章——Lyapunov理论基础
- Nantian PR-2/K10打印机的安装及配置方法
- 基于穿戴式智能化步态分析仪的步态分析
- scara工业机器人外观_SCARA工业机器人研究现状
- MATLAB 图像识别
- 数据库完整性实验报告
- mysql 1033_mysql报错1033 Incorrect information in file: ''''xxx.frm''''问题的解决方法(图)...
- Privacy Definitions - (alpha, beta)-privacy
热门文章
- 人群行为分析--Understanding Pedestrian Behaviors from Stationary Crowd Groups
- 【pytorch】Metrics的工作原理
- 批量修改文件名称(Python)
- anaconda: import numpy报错:ImportError: DLL load failed: 找不到指定的模块。
- 《你要么出众,要么出局》读书笔记
- 报错解决:ERROR: Failed to format E:; DiskPart errorlevel -2147212243.
- 集群空间服务器接收不到消息,解决Redis集群条件下键空间通知服务器接收不到消息的问题...
- 同义词词林 java_基于同义词词林扩展版的词语相似度计算
- 消息队列面试经典十连问
- 【java 性能优化实战】4 工具实践:基准测试 JMH,精确测量方法性能