目录

参数量parameters计算公式:

计算量(浮点运算数)FLOPs计算公式

MAC内存访问代价

VGG16的参数量、Memory、计算量


参数量parameters计算公式:

参数量 = filte长 * filter宽 *fiter通道深度(输入通道数) *filter个数(输出通道数) + filter个数(输出通道数) + filter个数 =w*h*c*n + n

计算量(浮点运算数)FLOPs计算公式

FLOPs首先注意s小写,是floating point operations的缩写(s表复数),意指浮点运算数,理解为计算量。可以用来衡量算法/模型的复杂度。

有另外一个概念和这个FLOPs写法很相似但不是一个东西,即FLOPS,注意全大写,是floating point operations per second的缩写,意指每秒浮点运算次数,理解为计算速度。是一个衡量硬件性能的指标。

卷积乘法操作数:

卷积加法操作数:

偏置加法操作数:

总操作数Madd:次乘加操作。

但是一般FLOPs只算乘法,因此就是​​​​​​​,分别对应输出通道数、输出形状高和宽、输入通道数、卷积核大小

MAC内存访问代价

读取输入图​​​​​​​:

写入输入图​​​​​​​:

权重存储​​​​​​​​​​​​​​:​​​​​​​对应parameters

VGG16的参数量、Memory、计算量

  • 其中第B列包含蓝色和红色的四个数值分别为卷积核的通道数、宽、高、核个数即C、W、H、N
  • 第C列可以看到参数量为138M parameters,保存到磁盘成模型文件需要乘以4bytes。
  • 第E列为一次向前传播占用的内存15M*4bytes=60MB / image(卷积的时候是float32的格式因此需要乘以4bytes,加上反向需要乘以2)
  • 第G列为计算量。

计算VGG16的参数量相关推荐

  1. 以VGG为例,分析深度网络的计算量和参数量

    本文原载于https://imlogm.github.io,转载请注明出处~ 摘要:我第一次读到ResNet时,完全不敢相信152层的残差网络,竟然在时间复杂度(计算量)上和16层的VGG是一样大的. ...

  2. 神经网络计算量及参数量

    目录 前言 卷积 全连接 资料引用 前言 笔者基于以下学习材料进行整理 ①<Deeplearning.ai深度学习教程中文笔记>-作者: 吴恩达 - https://github.com/ ...

  3. 神经网络中参数量parameters和FLOPs计算

    一.神经网络中参数量parameters和FLOPs计算 CNN中的parameters分为两种:W和b,对于某一个卷积层,它的parameters的个数为: (Kh∗Kw∗Cin)∗Cout+Cou ...

  4. 以LeNet为例分析CNN中的参数量

    CNN最重要的两点:局部连接和权值共享 局部连接:神经元和上层部分神经元相连接 权值共享:基于局部连接,在每个神经元和上层部分神经元之间权值是共享的,也就是说对于一个神经元,和它相连的所有上层神经元之 ...

  5. pytorch计算模型参数量

    1. 安装 thop 1.1 常规安装 pip install thop 1.2 若上述安装方式错误,可以参考以下方式: pip install thop-i http://pypi.douban.c ...

  6. 计算卷积神经网络中参数量

    参考 卷积神经网络的参数包含:卷积层的权重和偏置,全连接层的权重和偏置 全连接层参数量 在计算参数量前,先了解卷积计算过程.如下图,给定的图像尺寸是32x32x3(高,宽,深度).对这张图像进行卷积, ...

  7. 模型计算量(FLOPs)和参数量(Params)的理解

    (1)换算 以alexnet为例: 参数量:6000万 设每个参数都是float,也就是一个参数是4字节, 总的字节数是24000万字节 24000万字节= 24000万/1024/1024=228m ...

  8. 【YOLOv5-6.x】模型参数量param及计算量FLOPs解析

    文章目录 前言 参数量param和计算量FLOPs简介 参数量 计算量 YOLOv5计算模型参数 训练和验证输出模型参数不同的原因分析 输出模型参数结果(以YOLOv5s-coco2017为例) 参数 ...

  9. 【深度学习】深度学习中模型计算量(FLOPs)和参数量(Params)等的理解以及四种在python应用的计算方法总结

    接下来要分别概述以下内容: 1 首先什么是参数量,什么是计算量 2 如何计算 参数量,如何统计 计算量 3 换算参数量,把他换算成我们常用的单位,比如:mb 4 对于各个经典网络,论述他们是计算量大还 ...

  10. 神经网络的计算量(FLOPs)、参数量(Params)、推理时间(FPS)的定义及实现方法

    目录 1. 定义 2. 实现方法 2.1. 计算参数量 2.2. 计算参数量和FLOPs 2.3. 计算推理时间(FPS) 3. 数据大小对参数量和FLOPs的影响 4. 参数量和FLOPs对于硬件要 ...

最新文章

  1. 有时间担心中年危机,还不如用忧虑的时间来提升自己——再论程序员该如何避免所谓的中年危机...
  2. mac下安装配置mongodb
  3. JavaScript 自执行函数剖析
  4. Flex 最全的换行 制表符 回车 空格 特殊符号
  5. iframe关闭当前窗口_iframe 、 a标签、input标签
  6. Ubuntu21.04设置国内镜像源
  7. 一个很酷的SilverLight例子
  8. 使用PyTorch搭建ResNet101、ResNet152网络
  9. python django面试题_django面试题(21道)
  10. 日本警方称地震造成3676人死亡7843人下落不明
  11. 大数据必学Java基础(五):第一段程序
  12. 【Linux】/etc/issue、/etc/issue.net和/etc/motd的区别
  13. [DOS教程----读书笔记]命令全集
  14. 浅谈大数据之足球盘口赔率水位分析的思路与神准预测技巧(一)
  15. 严蔚敏数据结构习题第九章
  16. 求职简历模板百度云网盘分享
  17. html分享qq好友app接口,iOS-QQ分享功能实现
  18. H264编码器12( H264基本原理 --图文表达很清晰)
  19. 典型CCN网络——efficientNet(2019-Google-已开源)
  20. js实现兼容ie浏览器的菜单点击效果

热门文章

  1. matlab中norm函数的用法
  2. ❄️全网最详细的Python入门基础教程,Python最全教程(非常详细,整理而来)
  3. android+nfc+助手,NFC助手app
  4. js代码实现百度换肤
  5. html5播放器视频抓取,分享10款最棒的免费HTML5视频播放器
  6. 思维导图设计测试用例
  7. DotNetBar的使用—(Office2007界面风格)
  8. php laypage,LayUI分页和LayUI laypage分页区别详解
  9. SqlHelper——只因为在人群中多看了你一眼
  10. sqlhelper java_java 版本SQLHelper