Pytorch的一些小问题

1、ValueError: optimizer got an empty parameter list

实质上就是**model.parameters()**为空

2、AttributeError: ‘DRPGAT’ object has no attribute ‘to’

说明模型DRPGAT初始化的时候没有继承module，原来我的初始化是：

class DRPGAT(object):

修改为：

class DRPGAT(nn.Module):

3、RuntimeError: mat1 and mat2 shapes cannot be multiplied (50x1 and 50x1)

使用了torch.matmul(a,b)，目的是想要a和b两个矩阵的对应位相乘。
修改为

torch.mul(a,b)

4、ValueError: optimizer got an empty parameter list

实际是在

 optimizer = Adam(params = model.parameters(), lr = param.lr)

model.parameters()获取值为空.。
解决办法：
将模型例如con1d等写在模型初始化时候，即不在forward函数里面，而是在init函数里面。

5、RuntimeError:one of the variables needed for gradient computation has been modified.which is output 0 of LeakyReluBackward0, is at version 1; expected version 0 instead. Hint: the backtrace further above shows the operation that failed to compute its gradient

报错位置：我出现问题的位置是在loss.backward()的之后.
原因：看了很多帖子，大多是因为出现了如下情况：x +=y，这个要更改成x = x+y。具体原因在于你在backward()的时候由于loss计算过程中的变量发生了改变，反向传播过程的时候他就蒙了，咋还变了？
所以记得更改如下：

x +=y 更改为x =x+y
在上述基础上还不行，就x_1=x+y
注意如果在tensor中使用了x.add(y)或者x.add_(y)的情况，改为x_1=x+y（我的问题就是出现在了这里）

Pytorch的一些小问题相关推荐

收藏 | 13则PyTorch使用的小窍门
点上方蓝字计算机视觉联盟获取更多干货在右上方 ··· 设为星标 ★,与你不见不散仅作学术分享,不代表本公众号立场,侵权联系删除转载于:极市平台,知乎作者丨z.defying@知乎来源丨http ...
pytorch 指定卡1_收藏 | 13则PyTorch使用的小窍门
点击上方"智能与算法之路",选择"星标"公众号第一时间获取价值内容仅作学术分享,不代表本公众号立场,侵权联系删除转载于:极市平台,知乎作者丨z.defyin ...
Pytorch使用GPU
pytorch如何使用GPU 在本文中,我将介绍简单如何使用GPU pytorch是一个非常优秀的深度学习的框架,具有速度快,代码简洁,可读性强的优点. 我们使用pytorch做一个简单的回归. 首先 ...
7个使用PyTorch的技巧，含在线代码示例！网友：我连第一个都不知道？！
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达丰色发自凹非寺量子位报道 | 公众号 QbitAI 大家在使 ...
PyTorch Trick集锦
点击蓝字关注我们作者丨z.defying@知乎来源丨https://zhuanlan.zhihu.com/p/76459295 极市导读本文整理了13则PyTorch使用的小窍门,包括了指定 ...
PyTorch or TensorFlow？强力推荐PyTorch不是没有理由的！一文学透pytorch！
在机器学习领域,面对各类复杂多变的业务问题,构建灵活易调整的模型是高阶机器学习工程师必备的工作能力.然而,许多工程师还是有一个想法上的误区,以为只要掌握了一种深度学习的框架就能走遍天下了. 事实上,在 ...
Lesson 4.34.4 梯度下降(Gradient Descent)基本原理与手动实现随机梯度下降与小批量梯度下降
Lesson 4.3 梯度下降(Gradient Descent)基本原理与手动实现在上一小节中,我们已经成功的构建了逻辑回归的损失函数,但由于逻辑回归模型本身的特殊性,我们在构造损失函数时无法采用 ...
编写高效的PyTorch代码技巧（下）
点击上方"算法猿的成长",关注公众号,选择加"星标"或"置顶" 总第 133 篇文章,本文大约 3000 字,阅读大约需要 15 分钟原文 ...
windows10下安装pytorch并导入pycharm
首先需要安装Anaconda:https://www.anaconda.com/download/ 进入到windows中的命令提示符(cmd),通过运行以下命令来创建一个名为pytorch(自命名, ...