AssertionError: Invalid device id 和RuntimeError: CUDA error: invalid device ordinal

我在使用torch多卡并行时出现了这个两个问题。

##问题一：AssertionError: Invalid device id，即无效的设备id

出现的原因：结合代码解释：

import ...os.environ["CUDA_VISIBLE_DEVICES"] = "2,3"model = model(...)torch.cuda.set_device(2)
model = torch.nn.DataParrel(model, device_ids=[2,3])

错误原因：os.environ["CUDA_VISIBLE_DEVICES"] = "2,3"这个语句将原本的divice：2和device：3的编号映射为device：0和device：1，因此在set_device时汇报错，无效的设备id

解决办法：方法一：将os.environ删除。若是某些卡被占用不得不使用os.environ来设置可用设备，则使用方法二：按照重新映射的编号进行操作，例set_device（0）

##问题二：RuntimeError: CUDA error: invalid device ordinal

出现的原因：结合代码

import ...os.environ["CUDA_VISIBLE_DEVICES"] = "2,3"model = model(...)model = torch.nn.DataParrel(model, device_ids=[2,3])

错误原因：与上文一致，os.environ["CUDA_VISIBLE_DEVICES"] = "2,3"这个语句将原本的divice：2和device：3的编号映射为device：0和device：1，因此在执行torch.nn.DataParrel时会报错

解决办法：方法一：将os.environ删除。若是某些卡被占用不得不使用os.environ来设置可用设备，则使用方法二：按照重新映射的编号进行操作，例：

model = torch.nn.DataParrel(model, device_ids=[0,1])

推荐一篇文章，简单实现多卡并行：

https://muzhan.blog.csdn.net/article/details/109318226

https://www.codeleading.com/article/2345206500

https://blog.csdn.net/weixin_34233421/article/details/91396978

AssertionError: Invalid device id 和RuntimeError: CUDA error: invalid device ordinal相关推荐

cuda error invalid argument
用pytorch训练时报的错在loss.backward时报错估计应该是loss出现了异常值. 网上其他答案: 问题: RuntimeError: CUDA error: invalid conf ...
RTX 3090运行报错：RuntimeError: CUDA error: no kernel image is available for execution on the device
RuntimeError: CUDA error: no kernel image is available for execution on the device 安装适用于GeForce RTX ...
[debug] RuntimeError: CUDA error: no kernel image is available for execution on the device
问题描述运行程序时出现报错: RuntimeError: CUDA error: no kernel image is available for execution on the device ( ...
RuntimeError: CUDA error: no kernel image is available for execution on the device
导致的原因一般都是显卡算力和cuda或者torch版本不匹配比如在conda中安装的pytorch=1.5.0 cuda=10.2 错误:RuntimeError: CUDA error: no k ...
出现错误（已解决）RuntimeError: CUDA error: no kernel image is available for execution on the device CUDA ker
出现问题(已解决)RuntimeError: CUDA error: no kernel image is available for execution on the device CUDA ker ...
（ubuntu）YOLOv5报错：RuntimeError: CUDA error: no kernel image is available for execution on the ...
笔者之前在另一台电脑成功跑通了自己修改的yolov5,但在新系统运行时报了如下错误 RuntimeError: CUDA error: no kernel image is available for ...
【bug记录】RuntimeError: CUDA error: CUBLAS_STATUS_EXECUTION_FAILED when calling `cublasSgemm
问题在训练到一定迭代次数之后报错: RuntimeError: CUDA error: CUBLAS_STATUS_EXECUTION_FAILED when calling cublasSgemm ...
RuntimeError: CUDA error: out of memory
写在前面( 已解决) 记录一下很诡异的情况,实验室两台同样的电脑做服务器,相同的代码在一直使用的机子上是 ok 的,移到另一台配置好的电脑就开始在 model=model.cuda()的地方报错正式 ...
Debug Pytorch: RuntimeError: CUDA error: device-side assert triggered
报错信息 RuntimeError: CUDA error: device-side assert triggered /pytorch/aten/src/THC/THCTensorScatterGa ...

AssertionError: Invalid device id 和RuntimeError: CUDA error: invalid device ordinal

AssertionError: Invalid device id 和RuntimeError: CUDA error: invalid device ordinal相关推荐

最新文章

热门文章