Concat和Add操作

1、Concat：张量拼接，会扩充两个张量的维度，
2、Add：张量相加，张量直接相加，不会扩充维度。

一般情况下，feature maps的结合有两种方法，一种是元素对应相加，简称add，另一种就是把特征图堆到一起来，简称concatenate。
假设feature map 1 的维度为B1∗ C1 ∗ H1 ∗ W1
feature map 2 的维度为B2 ∗ C2 ∗ H2 ∗ W2

1）在add情况下，就是两个四维矩阵的按元素相加，那么这时候我们需要两个矩阵维度全部相等。并且相加后矩阵维度不变，例如256* 26* 26和256* 26* 26相加，结果还是256* 26* 26。

如下图所示为三个1 * 3 * 3的feature maps add后还是1 * 3 * 3的。

2）在concatenate情况下，我们把两个矩阵在某个维度叠加起来，这要求在这个连接的维度上可以不同，但是在其他维度上必须相等。叠加后，某个维度会增加，是两个矩阵上的某个维度相加。比如，我们在Channel这个维度上连接两个矩阵，那么新的矩阵维度是B2 ∗ （ C2 + C1 ）∗ H2 ∗ W2

例如256* 26* 26和256* 26* 26相加，结果是512* 26* 26

reference

深度学习（GAN）中concatenate 和 add的区别_月下花弄影的博客-CSDN博客_concatenate和add

Concat和Add操作相关推荐

concat特征融合_如何理解concat和add的方式融合特征
一.如何理解concat和add的方式融合特征在各个网络模型中,ResNet,FPN等采用的element-wise add来融合特征,而DenseNet等则采用concat来融合特征.那add与c ...
Git 取消上一次commit操作,但保留add操作
为什么80%的码农都做不了架构师?>>> 场景重现删除了代码中的一些空白行,习惯性添加&提交 git add .git commit -m "溢出一些空白行 ...
为什么阿里巴巴禁止在 foreach 循环里进行元素的 remove/add 操作
在阿里巴巴Java开发手册中,有这样一条规定: 但是手册中并没有给出具体原因,本文就来深入分析一下该规定背后的思考. 1 foreach循环 foreach循环(Foreach loop)是计算机编程 ...
不要在foreach循环里进行元素的remove/add操作。remove元素请使用iteratot方式，如果并发操作，需要对Iterator对象加锁
不要在foreach循环里进行元素的remove/add操作.remove元素请使用iteratot方式,如果并发操作,需要对Iterator对象加锁
java不进入for_为什么阿里巴巴Java开发手册中强制要求不要在foreach循环里进行元素的remove和add操作？...
在阅读<阿里巴巴Java开发手册>时,发现有一条关于在 foreach 循环里进行元素的 remove/add 操作的规约,具体内容如下: 错误演示我们首先在 IDEA 中编写一个在 f ...
【Java开发规范】禁止在 foreach 循环里进行元素的 remove/add 操作
在阿里巴巴Java开发手册中,有这样一条规定: 但是手册中并没有给出具体原因,本文就来深入分析一下该规定背后的思考. foreach循环 Foreach循环(Foreach loop)是计算机编程语言 ...
不要在 foreach 循环里进行元素的 remove / add 操作
在foreach 循环里面,不能用remove方法,因为当list里面的最后一个元素被remove时候,会报错. 摘自<阿里巴巴Java开发手册> [强制]不要在 foreach 循环里进 ...
git 撤销 add .操作
不小心把不该同步的文件add进去了撤销add操作 git reset HEAD . 就可以把工作区Unstaged 了
为什么阿里巴巴Java开发手册中强制要求不要在foreach循环里进行元素的remove和add操作...
在阅读<阿里巴巴 Java 开发手册>时,发现有一条关于在 foreach 循环里进行元素的 remove/add 操作的规约,具体内容如下:"不要在foreach循环里进行 r ...

Concat和Add操作

reference

Concat和Add操作相关推荐

最新文章

热门文章