torch.contiguous()方法

orch.contiguous()方法语义上是“连续的”，经常与torch.permute()、torch.transpose()、torch.view()方法一起使用，要理解这样使用的缘由，得从pytorch多维数组的低层存储开始说起：

touch.view()方法对张量改变“形状”其实并没有改变张量在内存中真正的形状，可以理解为：

view方法没有拷贝新的张量，没有开辟新内存，与原张量共享内存；
view方法只是重新定义了访问张量的规则，使得取出的张量按照我们希望的形状展现。
pytorch与numpy在存储MxN的数组时，均是按照行优先将数组拉伸至一维存储，比如对于一个二维张量

// An highlighted block
t = torch.tensor([[2, 1, 3], [4, 5, 9]])

在内存中实际上是

[2, 1, 3, 4, 5, 9]

按照行优先原则，数字在语义和在内存中都是连续的，当我们使用torch.transpose()方法或者torch.permute()方法对张量翻转后，改变了张量的形状

// An highlighted block
t2 = t.transpose(0, 1)
t2
tensor([[2,4],[1,5],[3,9])

此时如果对t2使用view方法，会报错：

原因是：改变了形状的t2语义上是3行2列的，在内存中还是跟t一样，没有改变，导致如果按照语义的形状进行view拉伸，数字不连续，此时torch.contiguous()方法就派上用场了

// An highlighted block
t3 = t2.contiguous()
t3
tensor([[2,4],[1,5],[3,9])

可以看到t3与t2一样，都是3行2列的张量，此时再对t3使用view方法：

// An highlighted block
t3.view(-1)
tensor([2, 4, 1, 5, 3, 9])

t3已经按照语义的形状展开了，t2与t共享内存是怎样的呢？

// An highlighted block
t.view(-1)tensor([2, 1, 3, 4, 5, 9])

可以看出contiguous方法改变了多维数组在内存中的存储顺序，以便配合view方法使用
torch.contiguous()方法首先拷贝了一份张量在内存中的地址，然后将地址按照形状改变后的张量的语义进行排列。

torch.contiguous()方法相关推荐

关于Contiguous()方法
方法作用:返回一个内存连续的有相同数据的tensor,如果原tensor内存连续,则返回原tensor. 一般与transpose,permute,view等方法搭配使用. 使用示例: 使用trans ...
python torch exp_Python torch.diag方法代码示例
本文整理汇总了Python中torch.diag方法的典型用法代码示例.如果您正苦于以下问题:Python torch.diag方法的具体用法?Python torch.diag怎么用?Python ...
python柱状图zzt_Python torch.diag方法代碼示例
本文整理匯總了Python中torch.diag方法的典型用法代碼示例.如果您正苦於以下問題:Python torch.diag方法的具體用法?Python torch.diag怎麽用?Python ...
python torch exp_Python torch.add方法代码示例
本文整理汇总了Python中torch.add方法的典型用法代码示例.如果您正苦于以下问题:Python torch.add方法的具体用法?Python torch.add怎么用?Python tor ...
python linspace函数_Python torch.linspace方法代碼示例
本文整理匯總了Python中torch.linspace方法的典型用法代碼示例.如果您正苦於以下問題:Python torch.linspace方法的具體用法?Python torch.linspac ...
PyTorch基础（15）-- torch.flatten()方法
前言最近在复现论文中一个块的时候需要使用到torch.flatten()这个方法,这个方法其实很简单,但其中有一些细节可能需要注意,且有个关键点很容易忘记,故在此记录以备查阅. 方法解析 flatt ...
PyTorch基础（十）----- torch.max()方法
一.前言这个方法跟上一篇文章的torch.max()方法非常类似,只不过一个是求最大值,一个是求平均值.在某些情况下,甚至可以代替下采样中的最大池化和平均池化,所以说,这两个方法的用处还是蛮大的. ...
torch.contiguous()函数用法
在看代码的时候发现了torch.contiguous()这个函数,那么它有什么用途呢? 1)背景知识首先得知道一个tensor的shape和stride的区别.以二维矩阵为例,shape = [ro ...
PyTorch基础（六）----- torch.eq()方法
一.torch.eq()方法详解对两个张量Tensor进行逐元素的比较,若相同位置的两个元素相同,则返回True:若不同,返回False. torch.eq(input, other, *, out ...

torch.contiguous()方法

torch.contiguous()方法相关推荐

最新文章

热门文章