一、问题描述

当模型参数初始化使用torch.nn.init.kaiming_normal_时：

def reset_parameters(self, initializer=None):for weight in self.parameters():torch.nn.init.kaiming_normal_(weight)

然后报错如题：

Fan in and fan out can not be computed for tensor with fewer than 2 dimensions

二、解决方案

torch.nn.init.kaiming_normal_(tensor, a=0, mode='fan_in', nonlinearity='leaky_relu')

这是因为torch.nn.init.kaiming_normal_参数初始化（其实其他大部分参数初始化API也是），该函数第一个参数tensor的维度不能小于等于二维，也就是说在问题描述代码中，for循环时存在维度为1的情况，那就多加个判断（如果是一维则增加为二维）就好了：

def reset_parameters(self, initializer=None):for weight in self.parameters():if len(weight.shape) < 2:torch.nn.init.kaiming_normal_(weight.unsqueeze(0))else:torch.nn.init.kaiming_normal_(weight)

Reference

[1] 深度学习参数初始化（二）Kaiming初始化含代码

解决报错：Fan in and fan out can not be computed for tensor with fewer than 2 dimensions相关推荐

解决报错: MobaXterm X11 proxy: Unsupported authorisation protocol
此文首发于我的个人博客:解决报错 MobaXterm X11 proxy Unsupported authorisation protocol - zhang0peter的个人博客今天在使用Moba ...
Sublime Text 3便携版下载安装和常用插件安装--顺便解决报错An error occured installing和no packages available for install
文章目录 Sublime Text 3便携版下载安装和常用插件安装 1.Sublime Text 3便携版下载: 2.sublime 插件控制器(Package Control)安装 2.1离线安装P ...
解决报错：import sun.misc.BASE64Decoder无法找到
解决报错:import sun.misc.BASE64Decoder无法找到 2017年09月29日 16:03:26 chaoyu168 阅读数:2116 标签: sun.misc.BASE64De ...
mplab 语法错误不报错_Python怎么解决报错？
相信很多小伙伴在初学python的时候,都会遇到很多的报错,那么该怎么解决呢?下面是一些常见的错误以及解决方法. 语法错误语法错误是初学者最常犯的错误,例如引号没有成一对.括号没有成一对.逻辑判断时 ...
Qt5.x解决报错main.cpp:1:10: fatal error: QApplication: No such file or directory问题
Qt5.x解决报错main.cpp:1:10: fatal error: QApplication: No such file or directory问题问题描述定位问题解决方法 The en ...
解决报错：OSError: Failed to open file b‘D:\\\xe5\xad\xa6\xe4\xb9\xa0\\scipy-_7cm39vc‘(图文并茂版详细版！！)
解决报错报错信息问题分析解决方法注意报错信息 •当我们在使用matplotlib绘图时,可能会出现下述报错!! OSError: Failed to open file b'D:\\\xe5 ...
【亲测成功】Ubuntu18.04升级GLIBC2.27——解决报错：ibc.so.6: version `GLIBC_2.28‘ not found
[亲测成功]Ubuntu18.04升级GLIBC2.27--解决报错:/lib/x86_64-linux-gnu/libc.so.6: version `GLIBC_2.28' not found 事 ...
Win10 Rational Rose 关于报错 Rational Lience Key Error及一劳永逸解决报错法
文章目录一.安装软件二.解决报错问题三.一劳永逸一.安装软件续第一节的内容: 点击访问第一节安装教程二.解决报错问题还记得我们开头下载的两个压缩包吗?接下来我们就需要用到这个文件用记事 ...
C++解决报错常量中有换行符
C++解决报错常量中有换行符报错详情解决方案报错详情解决方案点击高级保存选项 == 编码 == 选择简体中文(GB2312) 重新启动,报错解决

解决报错：Fan in and fan out can not be computed for tensor with fewer than 2 dimensions

文章目录

一、问题描述

二、解决方案

Reference

解决报错：Fan in and fan out can not be computed for tensor with fewer than 2 dimensions相关推荐

最新文章

热门文章