pytorch 调用forward 的具体流程

forward方法的具体流程：

以一个Module为例：
1. 调用module的call方法
2. module的call里面调用module的forward方法
3. forward里面如果碰到Module的子类，回到第1步，如果碰到的是Function的子类，继续往下
4. 调用Function的call方法
5. Function的call方法调用了Function的forward方法。
6. Function的forward返回值
7. module的forward返回值
8. 在module的call进行forward_hook操作，然后返回值。

上述中“调用module的call方法”是指nn.Module 的__call__方法。定义__call__方法的类可以当作函数调用，具体参考Python的面向对象编程。

也就是说，当把定义的网络模型model当作函数调用的时候就自动调用定义的网络模型的forward方法。nn.Module 的__call__方法部分源码如下所示：

def __call__(self, *input, **kwargs):
       result = self.forward(*input, **kwargs)
       for hook in self._forward_hooks.values():
           #将注册的hook拿出来用
           hook_result = hook(self, input, result)
       ...
       return result

pytorch 调用forward 的具体流程相关推荐

python中forward函数的引用_pytorch 调用forward 的具体流程
forward方法的具体流程: 以一个Module为例: 1. 调用module的call方法 2. module的call里面调用module的forward方法 3. forward里面如果碰到M ...
PyTorch之前向传播函数自动调用forward
参考:1. pytorch学习笔记(九):PyTorch结构介绍 2.pytorch学习笔记(七):pytorch hook 和关于pytorch backward过程的理解 3.Pytorch入门 ...
Pytorch中什么时候调用forward()函数
Module类是nn模块里提供的一个模型构造类,是所有神经网络模块的基类,我们可以继承它来定义我们想要的模型.下面继承Module类构造本节开头提到的多层感知机.这里定义的MLP类重载了Module类 ...
红橙Darren视频笔记 view的invalidate调用draw方法的流程（源码分析基于api 29）
问题描述在界面上的一个控件(比如一个button)调用了invalidate 代码流程是什么样的? 首先一个控件基本要么是View 要么是ViewGroup 因为ViewGroup继承自View 他 ...
pytorch调用tensorboard方法尝试
转载自:pytorch调用tensorboard方法尝试 tensorboard提供了用于监视训练损失很好的接口,可以帮助我们更好的调整参数.下文介绍如何在pytorch中调用tensorboard. ...
cuda的安装，及pytorch调用GPU步骤
前言: 深度学习涉及很多向量或多矩阵运算,如矩阵相乘.矩阵相加.矩阵-向量乘法等.深层模型的算法,如BP,Auto-Encoder,CNN等,都可以写成矩阵运算的形式,无须写成循环运算.然而,在单核C ...
超详细基于Qt平台实现C/C++调用Matlab函数全流程
超详细基于Qt平台实现C/C++调用Matlab函数全流程 1. 基本调用方式介绍 2. 环境配置 3. 将Matlab程序写成函数形式 4. Matlab配置C编译器,将.m文件转换成动态链接库 4 ...
python 支付宝接口_python调用支付宝支付接口流程
项目演示: 一.输入金额二.跳转到支付宝付款三.支付成功四.跳转回自己网站在使用支付宝接口的前期准备: 1.支付宝公钥 2.应用公钥 3.应用私钥 4.APPID 5.Django 1.11. ...
【从零学Python】什么时候调用forward()函数、图片预处理、return中的if...else...
1.什么时候调用forward()函数因为Module类是nn模块里提供的一个模型构造类,是所有神经网络模块的基类,我们可以继承它来定义我们想要的模型. import torch from torc ...

pytorch 调用forward 的具体流程

pytorch 调用forward 的具体流程相关推荐

最新文章

热门文章