3. 简单前馈神经网络模型及PyTorch实现

一、理论知识

1. 神经元（神经细胞）

如图1所示，人脑中携带和传输信息的细胞，是人脑神经系统中的最基本单元。每个神经元上有成千上万的突触和其他神经元连接。

图1. 神经元的结构 [https://commons.wikimedia.org/wiki/File:Neuron_Hand-tuned.svg]

树突：可以接收刺激并将兴奋传入细胞体，每个神经元可以有一或多个树突；

细胞体：神经细胞膜与相应的化学物质神经递质结合，产生相应的生理活动：兴奋或抑制；

轴突：把自身的兴奋状态传递到另一个神经元，每个神经元只有一个轴突；

2. 神经元的数理模型

如图2所示，人工神经元将每个输入乘以权重后相加，并将值传递给激活函数后，得到输出

图2. 人工神经元的数理模型

3. 前馈神经网络

各个神经元按接收信息的先后分为不同的神经层，每一层中神经元接收前一层神经元的输出，并输出到下一层神经元中。整个网络中的信息朝单一方向传播，没有反向的信息传播。图3即为一个简单的前馈神经网络结构。

图3. 前馈神经网络结构，其包含一个输入层，一个输出层，两个隐藏层

二、基于PyTorch包搭建简单前馈神经网络架构的代码实现

整个前馈神经网络定义为一个名叫NeuralNet的类，主要包含两个对象：

第一个初始化__init__对象中，定义该前馈网络的框架结构；

第二个forward()对象中，定义该前馈网络参数传递的内容；

import torch.nn as nnclass NeuralNet(nn.Module):def __init__(self, in_features, hidden_features, out_features):super(NeuralNet, self).__init__()#Step1: 搭建前馈神经网络结构#输入神经元 线性传递到 隐藏神经元self.layer1 = nn.Linear(in_features, hidden_features)#隐藏神经元 线性传递到 输出神经元self.layer2 = nn.Linear(hidden_features, out_features)def forward(self, x):#Step2: 设置正向传递参数传递y = self.layer1(x)y = self.layer2(y)return yNN_model = NeuralNet(in_size, hidden_size, out_size)

3. 简单前馈神经网络模型及PyTorch实现相关推荐

神经网络原理一个简单的神经网络模型搭建
神经网络基本原理文章目录神经网络基本原理前言一.神经网络是什么? 1.1 神经网络的分类 1.2 神经网络结构图 1.3 神经元 1.4 为什么神经网络能预测? 二. 一个最简单的神经网络模型 ...
典型的多层神经网络模型,最简单的神经网络模型
1.什么叫神经网络模型? 神经网络模型是个比较抽象的概念,你确定了一个神经网络的层数,输入.隐含.输出层数,输入输出函数,各层节点数之后,就可以说你建立了一个神经网络模型. 这里的模型,也就指框架. ...
【深度学习笔记】神经网络模型及经典算法知识点问答巩固（算法工程师面试笔试）
文章目录前言一.前馈神经网络模型 1.请说说你对前馈神经网络中"前馈"二字的理解. 2.记忆和知识是存储在_____上的.我们通常是通过逐渐改变_____来学习新知识. 3.在 ...
神经网络模型预测控制,神经网络回归预测模型
bp神经网络为什么要采用非线性函数来进行预测? 提问:bp神经网络为什么要采用非线性函数来进行预测? 回答:简单的讲,主要是复杂的bp神经网络的行为动态及神经元之间的相互作用是无法用简单的线性函数来描 ...
PyTorch框架：（2）使用PyTorch框架构建神经网络模型---气温预测
目录第一步:数据导入第二步:将时间转换成标准格式(比如datatime格式) 第三步: 展示数据:(画了4个子图) 第四步:做独热编码第五步:指定输入与输出第六步:对数据做一个标准化第七步: ...
PyTorch | （4）神经网络模型搭建和参数优化
PyTorch | (1)初识PyTorch PyTorch | (2)PyTorch 入门-张量 PyTorch | (3)Tensor及其基本操作 PyTorch | (4)神经网络模型搭建和参数 ...
【小白学习PyTorch教程】三、Pytorch中的NN模块并实现第一个神经网络模型
「@Author:Runsen」在PyTorch建立模型,主要是NN模块. nn.Linear nn.Linear是创建一个线性层.这里需要将输入和输出维度作为参数传递. linear = nn.L ...
深度学习修炼（五）——基于pytorch神经网络模型进行气温预测
文章目录 5 基于pytorch神经网络模型进行气温预测 5.1 实现前的知识补充 5.1.1 神经网络的表示 5.1.2 隐藏层 5.1.3 线性模型出错 5.1.4 在网络中加入隐藏层 5.1.5 ...
神经网络模型中class的forward函数何时调用_总结深度学习PyTorch神经网络箱使用...
↑ 点击蓝字关注极市平台来源丨计算机视觉联盟编辑丨极市平台极市导读本文介绍了Pytorch神经网络箱的使用,包括核心组件.神经网络实例.构建方法.优化器比较等内容,非常全面.>>加入 ...

3. 简单前馈神经网络模型及PyTorch实现

3. 简单前馈神经网络模型及PyTorch实现相关推荐

最新文章

热门文章