卷积核权值初始化_Pytorch卷积层手动初始化权值的实例

由于研究关系需要自己手动给卷积层初始化权值，但是好像博客上提到的相关文章比较少(大部分都只提到使用nn.init里的按照一定分布初始化方法)，自己参考了下Pytorch的官方文档，发现有两种方法吧。

所以mark下。

import torch

import torch.nn as nn

import torch.optim as optim

import numpy as np

# 第一一个卷积层，我们可以看到它的权值是随机初始化的

w=torch.nn.Conv2d(2,2,3,padding=1)

print(w.weight)

# 第一种方法

print("1.使用另一个Conv层的权值")

q=torch.nn.Conv2d(2,2,3,padding=1) # 假设q代表一个训练好的卷积层

print(q.weight) # 可以看到q的权重和w是不同的

w.weight=q.weight # 把一个Conv层的权重赋值给另一个Conv层

print(w.weight)

# 第二种方法

print("2.使用来自Tensor的权值")

ones=torch.Tensor(np.ones([2,2,3,3])) # 先创建一个自定义权值的Tensor，这里为了方便将所有权值设为1

w.weight=torch.nn.Parameter(ones) # 把Tensor的值作为权值赋值给Conv层，这里需要先转为torch.nn.Parameter类型，否则将报错

print(w.weight)

效果预览

以上这篇Pytorch卷积层手动初始化权值的实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持我们。

本文标题: Pytorch卷积层手动初始化权值的实例

本文地址: http://www.cppcns.com/jiaoben/python/268829.html

卷积核权值初始化_Pytorch卷积层手动初始化权值的实例相关推荐

Pytorch 学习（6）：Pytorch中的torch.nn Convolution Layers 卷积层参数初始化
Pytorch 学习(6):Pytorch中的torch.nn Convolution Layers 卷积层参数初始化 class Conv1d(_ConvNd):......def __init ...
pytorch tensor 初始化_Pytorch - nn.init 参数初始化方法
Pytorch 的参数初始化 - 给定非线性函数的推荐增益值(gain value):nonlinearity 非线性函数gain 增益 Linear / Identity1 Conv{1,2,3}D ...
卷积层网络CNN初学笔记（简单代码）
学习网站:https://www.bilibili.com/video/av20542427?p=20 传统神经网络:权值太多,计算量太大,需要大量样本进行训练. 卷神经网络CNN:通过感受野和权值共 ...
YOLO 卷积层代码学习
YOLO 卷积层代码学习卷积层的初始化 void im2col_cpu(float* data_im,int channels, int height, int width,int ksize, i ...
深度学习：卷积层的实现
文章目录卷积层的数据shape和普通层的数据shape差别: 卷积层实现实现池化层实现 CNN 中的特殊层结构实现 LayerFactory 网络结构卷积层的数据shape和普通层的数据sh ...
在卷积层的运用_Conv 卷积层
onv 卷积层一.why CNN for image ? 1.Some Patterns are much smaller than the whole image. 一些模式比起整张图片来说更小, ...
卷积层运算详解与im2col实现
全连接层存在的问题之前介绍的全连接的神经网络中使用了全连接层(Affine层).在全连接层中,相邻层的神经元全部连接在一起,输出的数量可以任意决定. 全连接层存在什么问题呢?那就是数据的形状被&qu ...
卷积神经网络概述-卷积层
卷积层(convolutional layer) 1.卷积核(convolutional kernel) 卷积层的功能是对输入数据进行特征提取,其内部包含多个卷积核,组成卷积核的每个元素都对应一个权重 ...
机器学习入门（17）— 输入 4 维数据、基于 im2col 展开来实现卷积层
1. 输入 4 维数据 CNN 中各层间传递的数据是 4 维数据.所谓 4 维数据,比如数据的形状是(10, 1, 28, 28),则它对应 10 个高为 28.长为 28.通道为 1 的数据.用 P ...

卷积核权值初始化_Pytorch卷积层手动初始化权值的实例

卷积核权值初始化_Pytorch卷积层手动初始化权值的实例相关推荐

最新文章

热门文章