torch.nn 介绍(部分)

翻译自:https://pytorch.org/docs/stable/nn.html?highlight=nn module#torch.nn.Module

class torch.nn.Parameter

是Tensor的子类,被认为是一个模块的参数

Parameters 是Tendor的子类,当与模块一起用时有特殊的属性

--当它们被分配为一个模块的属性时,它们会被自动加入到模块的参数列表中

--------------------------------------------------------------------

class torch.nn.Module

是所有神经网络模块的基类.你自己构建的神经网络也需要是该模块的子类.

该模块内部也可以添加其它模块,允许其它模块以树的形式构建,你可以将这些子模块看作正常的类属性.

apply(function)

对网络结构的每个子模块分别调用一次该函数.典型的应用是初始化模型参数.

forward(*input)

定义来执行计算的每一次的流程.

该函数需要被自己的网络结构覆盖,即必须要自己重新定义.

zero_grad()

将model中的所有参数的梯度置为0

torch.nn 介绍(部分)相关推荐

【torch.nn.Sequential】序列容器的介绍和使用
文章目录 torch.nn.Sequential 简单介绍构建实例参数列表字典基本操作参考 torch.nn.Sequential 简单介绍 nn.Sequential是一个有序的容器,该类 ...
【深度学习】torch.nn.Sequential方法介绍
torch.nn.Sequential是一个Sequential容器,模块将按照构造函数中传递的顺序添加到模块中. 另外,也可以传入一个有序模块. 作用:Sequential除了本身可以用来定义模型之 ...
PyTorch 笔记（20）— torchvision 的 datasets、transforms 数据预览和加载、模型搭建（torch.nn.Conv2d/MaxPool2d/Dropout）
计算机视觉是深度学习中最重要的一类应用,为了方便研究者使用,PyTorch 团队专门开发了一个视觉工具包torchvision,这个包独立于 PyTorch,需通过 pip instal torchv ...
PyTorch 笔记（16）— torch.nn.Sequential、torch.nn.Linear、torch.nn.RelU
PyTorch 中的 torch.nn 包提供了很多与实现神经网络中的具体功能相关的类,这些类涵盖了深度神经网络模型在搭建和参数优化过程中的常用内容,比如神经网络中的卷积层.池化层.全连接层这类层次构 ...
PyTorch 笔记（15）— 分别使用 tensor、autograd、torch.nn 搭建简易神经网络
1. 使用 tensor 搭建神经网络搭建神经网络模型的具体代码如下,这里会将完整的代码分成几部分进行详细介绍,以便于理解. import torch as tbatch_n = 100 input ...
pytorch笔记：torch.nn.GRU torch.nn.LSTM
1 函数介绍 (GRU) 对于输入序列中的每个元素,每一层计算以下函数: 其中是在t时刻的隐藏状态,是在t时刻的输入.σ是sigmoid函数,*是逐元素的哈达玛积对于多层GRU 第l层的输入(l≥2 ...
Lesson 8.38.4 二分类神经网络torch.nn.functional实现单层二分类网络的正向传播
二.二分类神经网络:逻辑回归 1 二分类神经网络的理论基础线性回归是统计学经典算法,它能够拟合出一条直线来描述变量之间的线性关系.但在实际中,变量之间的关系通常都不是一条直线,而是呈现出某种曲线关系 ...
Lesson 8.18.2 单层回归神经网络torch.nn.Linear实现单层回归神经网络的正向传播
在之前的介绍中,我们已经了解了神经网络是模仿人类大脑结构所构建的算法,在人脑里,我们有轴突连接神经元,在算法中,我们用圆表示神经元,用线表示神经元之间的连接,数据从神经网络的左侧输入, ...
PyTorch基础（12）-- torch.nn.BatchNorm2d()方法
Batch Normanlization简称BN,也就是数据归一化,对深度学习模型性能的提升有很大的帮助.BN的原理可以查阅我之前的一篇博客.白话详细解读(七)----- Batch Normaliz ...

torch.nn 介绍(部分)

torch.nn 介绍(部分)相关推荐

最新文章

热门文章