Keras指定GPU训练模式，设置GPU的使用量

最近又要用到深度学习模型训练这块的内容了，之前有些操作都忘记了，这里就想着把这些内容记录一下备忘。

我们使用的是阿里云GPU服务器，由于有多个进程同时在训练计算，这里需要限定单个进程里面的GPU使用量，

因为我只有一块显卡，所以这里指定GPU的编号都是 0 ，设定GPU使用量经常用到的方式主要有一下三种：

1、直接指定GPU的使用比例

import os
import tensorflow as tf
import keras.backend.tensorflow_backend as KTF
os.environ["CUDA_VISIBLE_DEVICES"] = "0"#设定使用 40% 的GPU资源
config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.4
session = tf.Session(config=config)
# 设置session
KTF.set_session(session)

2、设定GPU按照实时计算所需动态增长变化

import tensorflow as tf
import keras.backend.tensorflow_backend as KTFconfig = tf.ConfigProto()
config.gpu_options.allow_growth=True   #不全部占满显存, 按需分配
session = tf.Session(config=config)# 设置session
KTF.set_session(session)

3、前面两种方式的综合，限定用量但是可以动态增长变化

import os
import tensorflow as tf
import keras.backend.tensorflow_backend as KTFos.environ["CUDA_VISIBLE_DEVICES"] = "0"
config = tf.ConfigProto()
config.gpu_options.allow_growth=True   #不全部占满显存, 按需分配
session = tf.Session(config=config)
KTF.set_session(session)

然后，需要查看GPU使用情况的话Nvidia提供了 nvidia-smi 命令，可以很方便地进行查看，如下所示：

如果想要动态刷新的话，我经常使用的是下面的命令：

watch -n 1 -d nvidia-smi

效果如下所示：

后续有用的技巧都会持续更新备忘！

Keras指定GPU训练模式，设置GPU的使用量相关推荐

程序如何在两个gpu卡上并行运行_深度学习分布式训练相关介绍 - Part 1 多GPU训练...
本篇文章主要是对深度学习中运用多GPU进行训练的一些基本的知识点进行的一个梳理文章中的内容都是经过认真地分析,并且尽量做到有所考证抛砖引玉,希望可以给大家有更多的启发,并能有所收获介绍大多数时 ...
TensorFlow在美团外卖推荐场景的GPU训练优化实践
省时查报告-专业.及时.全面的行研报告库省时查方案-专业.及时.全面的营销策划方案库知识图谱在美团推荐场景中的应用实践搜索场景下的智能实体推荐机器学习在B站推荐系统中的应用实践小红书推荐系统 ...
深度学习入门（三十八）计算性能——多GPU训练
深度学习入门(三十八)计算性能--多GPU训练前言计算性能--多GPU训练课件多GPU并行数据并行VS模型并行数据并行总结教材 1 问题拆分 2 数据并行性 3 简单网络 4 数据同步 ...
pytorch 多GPU训练
pytorch 多GPU训练 pytorch多GPU最终还是没搞通,可用的部分是前向计算,back propagation会出错,当时运行通过,也不太确定是如何通过了的.目前是这样,有机会再来补充 p ...
如何使用“GPU 呈现模式”进行卡顿问题定位
如何使用"GPU 呈现模式"进行卡顿问题定位工具介绍 Android 包含一些设备上的开发者选项,可帮助您直观地查看您的应用可能会在何处遇到界面渲染问题,如执行不必要的渲染工作, ...
第二章 GPU虚拟化方案之——GPU直通模式
第二章 GPU虚拟化方案之--GPU直通模式目前流行的商用GPU虚拟化方案可以分为以下几类:GPU 直通模式,GPU SRIOV 模式,GPU 半虚拟化(mediated passthrough:包 ...
pytorch多GPU训练实例与性能对比
以下实验是我在百度公司实习的时候做的,记录下来留个小经验. 多GPU训练 cifar10_97.23 使用 run.sh 文件开始训练 cifar10_97.50 使用 run.4GPU.sh 开始训 ...
keras指定gpu_Keras多GPU训练指南
摘要:随着Keras(v2.0.8)最新版本的发布,使用多GPU 训练深度神经网络将变得非常容易,就跟调用函数一样简单!利用多GPU,能够获得准线性的提速. Keras是我最喜欢的Python深度学习 ...
Keras多GPU训练指南
更多深度文章,请关注:https://yq.aliyun.com/cloud Keras是我最喜欢的Python深度学习框架,特别是在图像分类领域.我在很多地方都使用到了Keras,包括生产系统.我自 ...
keras指定gpu_keras不使用gpu，但tensorflow
Keras没有使用MyGPU,尽管tensorflow似乎运行良好.我听从了其他人的建议,检查tensorflow:import tensorflow from tensorflow.python.c ...

Keras指定GPU训练模式，设置GPU的使用量

Keras指定GPU训练模式，设置GPU的使用量相关推荐

最新文章

热门文章