keras系列︱keras是如何指定显卡且限制显存用量

2024-05-20 00:41:48

keras系列︱keras是如何指定显卡且限制显存用量

原创 2017年07月21日 10:59:24

标签：
keras /
gpu /
显卡 /
指定 /
限制

6630

keras在使用GPU的时候有个特点，就是默认全部占满显存。
若单核GPU也无所谓，若是服务器GPU较多，性能较好，全部占满就太浪费了。
于是乎有以下三种情况：
- 1、指定GPU
- 2、使用固定显存的GPU
- 3、指定GPU + 固定显存

一、固定显存的GPU

本节来源于：深度学习theano/tensorflow多显卡多人使用问题集（参见：Limit the resource usage for tensorflow backend · Issue #1538 · fchollet/keras · GitHub）
在使用keras时候会出现总是占满GPU显存的情况，可以通过重设backend的GPU占用情况来进行调节。

import tensorflow as tf
from keras.backend.tensorflow_backend import set_session
config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.3
set_session(tf.Session(config=config))

1
2
3
4
5

需要注意的是，虽然代码或配置层面设置了对显存占用百分比阈值，但在实际运行中如果达到了这个阈值，程序有需要的话还是会突破这个阈值。换而言之如果跑在一个大数据集上还是会用到更多的显存。以上的显存限制仅仅为了在跑小数据集时避免对显存的浪费而已。（2017年2月20日补充）

二、指定GPU

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "2"

1
2

此时的代码为选择了编号为2 的GPU

# python设置系统变量的方法
os.environ["CUDA_VISIBLE_DEVICES"] = "8,9,10,11,12,13,14,15"

1
2

注意，在代码中指定设备时，重新从0开始计，而不是从8开始。
来源：Tensorflow 学习笔记（七） ———— 多GPU操作

三、指定GPU + 固定显存

上述两个连一起用就行：

import os
import tensorflow as tf
os.environ["CUDA_VISIBLE_DEVICES"] = "2"
from keras.backend.tensorflow_backend import set_session
config = tf.ConfigProto()
config.gpu_options.per_process_gpu_memory_fraction = 0.3
set_session(tf.Session(config=config))

1
2
3
4
5
6
7

那么在命令行，可以使用：https://github.com/tensorflow/nmt/issues/60

CUDA_VISIBLE_DEVICES=0 python -m nmt.nmt

keras系列︱keras是如何指定显卡且限制显存用量相关推荐

keras系列︱keras是如何指定显卡且限制显存用量（GPU/CPU使用）
keras在使用GPU的时候有个特点,就是默认全部占满显存. 若单核GPU也无所谓,若是服务器GPU较多,性能较好,全部占满就太浪费了. 于是乎有以下五种情况: 1.指定GPU 2.使用固定显存的GP ...
双显卡单独分辨率_CPU、GPU双重碾压！AMD RX 6000系列显卡正式发布 16G显存吊锤RTX 30...
期待已久的AMD新一代显卡终于发布了,全新Radeon RX 6000系列显卡正式登场,首批包括RX 6800.RX 6800 XT.RX 6900 XT三款型号,均基于RDNA 2架构.Navi 2 ...
矩池云中Tensorflow指定GPU及GPU显存设置
矩池云中Tensorflow指定GPU及GPU显存设置指定GPU 查看机器上GPU情况命令: nvidia-smi 功能:显示机器上gpu的情况命令: nvidia-smi -l 功能:定时更新 ...
win7怎么看计算机显卡内存大小,显存,教您怎么看电脑的显存
电脑显卡的显存大小决定了显卡的处理能力,显存越大,显卡的处理能力就越强,反之显存越小,显卡的处理能力越低.喜欢玩游戏的朋友肯定都知道,如果使用显存比较小的电脑,开启游戏特效后就会非常卡,那么怎么看电脑 ...
显卡花屏显存测试软件6,显卡花屏诊断好帮手：Video Memory Stress Test
显卡花屏是众多游戏玩家所厌恶的故障,有可能是供电不足造成,也有可能是显卡显存有瑕疵.那么如何才能判定显卡花屏是显存所造成的呢?Video Memory Stress Test就是一个好"帮手 ...
计算机怎么看显卡内存容量,显存容量是什么,详细教您查看显卡容量大小方法...
最近小编发现小伙伴们向小编提出了许多的问题,例如其中就有要如何查看显卡容量的这个问题.所以小编今天就来给小伙伴们说说查看显卡容量的方法,可以让小伙伴们自己就能够查看显卡容量. 显卡容量要怎样进行查看呢 ...
amd显卡Linux查看显存,通过软件查看显存参数_显卡_显卡技术应用-中关村在线
通过软件查看显存参数说了这么多深奥的东西,相信各位读者也看腻了,所以接下来来点干货,我来教教DIY初学者如何查看显卡的显存参数.需要的软件就一个,那就是显卡最强检测软件--GPU-Z,这款软件可谓是 ...
曝NV或将推出新一代Titan显卡：48G显存功率高达900W
外媒Wccftech消息,据Kopite7kimi爆料称,除了传闻中的RTX 4090 Ti之外,NVIDIA还在开发配备了满血AD102 GPU的显卡.消息称,基于Ada Lovelace GPU架 ...
显卡维修之显存位置如何确认
众所周知,一般显卡花屏通常是由显存问题引起,也有可能是核心脱焊.这里主要说的是N卡,即NVIDIA显卡. 通过mats工具可以知道是哪一个位置上的显存出问题,如下图B0报错知道显存出问题,那么就需要 ...

最新文章

热门文章