关于深度学习神经网络模型训练，参数过大，导致显卡内存溢出问题的总结

实验是利用CIFAR10模型,计算将图片分成10个分类的误差。一开始采用cpu模型来训练，迭代一个epoch需要50分钟，所以换成GPU模型，GPU有4G内存，结果刚加载模型显卡内存就溢出。

报错如下：

先用keras来计算网络的大小，参数的个数。

(50000, 32, 32, 3) (50000,) (10000, 32, 32, 3) (10000,)
sample: (512, 32, 32, 3) (512,) tf.Tensor(-1.0, shape=(), dtype=float32) tf.Tensor(1.0, shape=(), dtype=float32)
Model: "res_net_1"
_________________________________________________________________
Layer (type)                 Output Shape              Param #
========================================&#

关于深度学习神经网络模型训练，参数过大，导致显卡内存溢出问题的总结相关推荐

【模型结构绘制】深度学习神经网络模型结构图绘制工具及方法总结【写论文必备】
本文我们聊聊如何才能画出炫酷高大上的神经网络图,下面是常用的几种工具. 这个工具可以非常方便的画出各种类型的图,是下面这位小哥哥开发的,来自于麻省理工学院弗兰克尔生物工程实验室, 该实验室开发可视化和 ...
# PyTorch学习笔记（15）--神经网络模型训练实战
PyTorch学习笔记(15)–神经网络模型训练实战本博文是PyTorch的学习笔记,第15次内容记录,主要是以一个实际的例子来分享神经网络模型的训练和测试的完整过程. 目录 PyTorch ...
神经网络模型训练简记（二）
神经网络模型训练简记(二) 内容简述三.机器视觉网络模型分类及简介 3.2目标检测 3.2.1RCNN 3.2.2SPPNet 3.2.3Fast RCNN 3.2.4Faster RCNN 3.2 ...
图片2分类卷积神经网络模型训练、分类预测案例全过程（1）
图片2分类卷积神经网络模型训练.分类预测案例全过程(1) 前言 (1)尽管目前有关卷积神经网络深度学习的相关材料较多,但深度学习牵涉到数据预处理.模型构建.模型调用等环节,我也是一个初学者,中间有很多 ...
神经网络模型训练简记（一）
神经网络模型训练简记(一) 一.概念介绍 1.1人工智能.机器学习.神经网络与深度学习 1.2backbone与pretrain_model 1.3batch_size.learning_rate.e ...
深度学习模型的训练（大总结）
深度学习模型的训练前言 1.模型的保存与加载方法一:同时保存模型和参数方法二:仅保存参数(数据量小,推荐!) 2.断点的保存与加载 3.预训练模型的使用 4.模型的冻结方法一:设置requir ...
OpenCV-6-ANN_MLP神经网络模型训练
OpenCV-6-ANN_MLP神经网络模型训练文章目录 OpenCV-6-ANN_MLP神经网络模型训练 @[toc] ANN_MLP神经网络理论介绍神经网络介绍 MLP多层感知器神经网络理论 ...
神经网络模型的工作过程,神经网络模型训练过程
利用人工神经网络建立模型的步骤人工神经网络有很多种,我只会最常用的BP神经网络.不同的网络有不同的结构和不同的学习算法.简单点说,人工神经网络就是一个函数.只是这个函数有别于一般的函数.它比普通的函 ...
深度学习网络的训练方式
我们知道我们在使用深度学习网络模型时,往往是将输入值放入网络中,然后就能得出一个很好的预测值,但是你知道网络模型里面的运行规则和具体的运行过程吗?今天我们就来讲一讲深度学习网络的训练方式,解开黑匣子里 ...
浅谈深度学习混合精度训练
↑ 点击蓝字关注视学算法作者丨Dreaming.O@知乎来源丨https://zhuanlan.zhihu.com/p/103685761 编辑丨极市平台本文主要记录下在学习和实际试用混合精度 ...

关于深度学习神经网络模型训练，参数过大，导致显卡内存溢出问题的总结

关于深度学习神经网络模型训练，参数过大，导致显卡内存溢出问题的总结相关推荐

最新文章

热门文章