Pytorch统计网络参数

#网络参数数量
def get_parameter_number(net):total_num = sum(p.numel() for p in net.parameters())trainable_num = sum(p.numel() for p in net.parameters() if p.requires_grad)return {'Total': total_num, 'Trainable': trainable_num}

#查看网络参数
print(model.state_dict())

FLOPs, MACs, MAdds 关系

见文章：CNN模型复杂度（FLOPs、MAC）、参数量与运行速度

计算工具：

地址	备注
https://github.com/Lyken17/pytorch-OpCounter	Pytorch
https://github.com/sovrasov/flops-counter.pytorch	Pytorch
https://stackoverflow.com/questions/45085938/tensorflow-is-there-a-way-to-measure-flops-for-a-model	TensorFlow: 自带tf.RunMetadata()

另：在PyTorch中，可以使用torchstat这个库来查看网络模型的一些信息，包括总的参数量params、MAdd、显卡内存占用量和FLOPs等。

!pip install torchstat
from torchstat import stat
from torchvision.models import resnet50, resnet101, resnet152, resnext101_32x8dmodel = resnet50()
# stat打印完整信息
stat(model, (3, 224, 224))
# 模型的总参数量
total = sum([param.nelement() for param in model.parameters()])
print("Number of parameters: %.2fM" % (total/1e6))

也可以使用torchsummary

!pip install torchsummary
from torchsummary import summary
summary(model, input_size=(ch, h, w), batch_size=-1)
#ch是指输入张量的channel数量，h表示输入张量的高，w表示输入张量的宽。

Pytorch统计网络参数计算工具、模型 FLOPs, MACs, MAdds 关系相关推荐

PyTorch中CNN网络参数计算和模型文件大小预估
前言在深度学习CNN构建过程中,网络的参数量是一个需要考虑的问题.太深的网络或是太大的卷积核.太多的特征图通道数都会导致网络参数量上升.写出的模型文件也会很大.所以提前计算网络参数和预估模型文件大小 ...
三参数或七参数计算工具使用帮助
三参数或七参数计算工具使用帮助由于在我们国家大多使用的是西安80.北京54甚至是各地的地方坐标系. 国家政策的原因,在制定这些坐标系的时候就加入了保密参数(3参数或者7参数)对地理坐标加偏(有 ...
pytorch对网络参数进行自定义初始化
在使用pytorch构建网络时,如果不自定义进行参数初始化,那么将使用默认的初始化方法,具体查看 pytorch默认参数初始化以及自定义参数初始化 Pytorch提供了几种不同类型的初始化方法 htt ...
pytorch 中网络参数 weight bias 初始化方法
权重初始化对于训练神经网络至关重要,好的初始化权重可以有效的避免梯度消失等问题的发生. 在pytorch的使用过程中有几种权重初始化的方法供大家参考. 注意:第一种方法不推荐.尽量使用后两种方法. # ...
pytorch 打印网络参数
import utils VGG = networks.VGG19('vgg19.pth', feature_mode=True) VGG.to(device) VGG.eval() print('- ...
GPS七参数计算工具
坐标转换问题
塑胶模具设计公式参数计算工具
├ L01_斜顶_普通斜顶 ├ L02_斜顶_上坡斜顶 ├ L03_斜顶_下坡斜顶 ├ L04_斜顶_加速上坡斜顶 ├ L05_斜顶_加速下坡斜顶 ├ S01_滑块_普通滑块 ├ S02_滑块_上坡滑 ...
网络参数和Flops计算
网络参数和Flops计算网络参数计算 1. 卷积层 2. 线性层 3. 归一化层 Flops 1. 卷积层 2. 线性层 3. 归一化计算的模块网络参数计算 1. 卷积层假设输入维度为m,输出 ...
matlab中 ne k,KFoldCV.m 查找径向基神经网络模型的网络参数的程序MATLAB函数'ne 联合开发网 - pudn.com...
KFoldCV.m 所属分类:matlab例程开发工具:matlab 文件大小:1KB 下载次数:1 上传日期:2020-01-12 22:24:33 上传者:Kingvis 说明: 查找径向 ...

Pytorch统计网络参数计算工具、模型 FLOPs, MACs, MAdds 关系

Pytorch统计网络参数

FLOPs, MACs, MAdds 关系

Pytorch统计网络参数计算工具、模型 FLOPs, MACs, MAdds 关系相关推荐

最新文章

热门文章