Involution论文解读：从卷积变换出的神经网络新算子
这篇文章来自CVPR2021，作者是港科大计算机系在读，本科毕业于清华，个人主页。
Motivation
既然是从卷积出发，我们需要先梳理卷积。
卷积的操作如上图所示，是目前神经网络里最基础的算子。
它具备两个特性：
- 空间不变性
因为卷积网络采用滑窗的形式，所以对于一张图片的各个部分，是共享卷积核参数的，相比于全连接网络，它在某个像素处，只考虑一个小邻域的信息，相当于加了一个很强的正则。
这个特性的好处是大大降低了图像处理所需的参数量，以及使得网络输出具有平移不变性，也就是某一个特征不管出现在图像的某处，都会得到相同的输出。
但是，平移不变性带来的坏处在于网络忽略了图像特征的位置信息，同时也受制于卷积核的大小使得网络无法提取远距离的像素相关性。 - 通道特异性
另一个特性是通道特异性，意思是每个输出通道来自于同一个卷积核，如图（来源见水印）：
如果一个Kernel的size是K×K×CK\times K \times CK×K×C的，那么我们把它展开成C×K2C\times K^2C×K2的矩阵，在C很大的时候，因为矩阵的秩最大不超过K2K^2K2，所以其中一定有信息的冗余。
Dao
网络设计的本质在于分配算力，而卷积显然是将算力更多地分配在通道之间。
但是从人的视觉出发，我们更关注像素空间的联系，所以卷积有一定的不合理性。
Involution
作者基于此，给出了一种和卷积对偶的算子，称为内卷。
这张图说明了Involution的工作流程：对某一处的像素（图中红色部分），首先用∅函数（一般是某种线性变换，在论文中是BottleNeck形式，即一种1x1卷积的组合生成特定大小的向量）生成特定大小的权重向量，然后再用一种变换H（最一般的形式是重新排列）将权重展开成一个kernel，最后在通道维度上延展（直接复制），得到K×
Involution论文解读：从卷积变换出的神经网络新算子相关推荐
- 本周AI热点回顾：和欧阳娜娜一起搞研发？强大的神经网络新算子involution，超越卷积、自注意力机制！...
点击左上方蓝字关注我们 01 我和欧阳娜娜一起搞研发 AI新闻播报,开车明星导航,现如今根据文本生成语音的AI技术,那真是飞入寻常百姓家--见怪不怪了. 在这档口, ...
- AAAI 2019 论文解读：卷积神经网络继续进步
机器之心 卷积神经网络(CNN)近年来已经取得了很大的成功,但研究者仍在进一步推进研究前沿,提出新的思路和方法.在本文中,技术分析师 Joshua Chou 将解读三篇有关卷积神经网络的 AAAI 2 ...
- CVPR'21 | Involution：超越convolution和self-attention的神经网络新算子
进入公众号,在消息对话框 回复[CVPR2021]即可获取CVPR2021最新论文集 来源:我爱计算机视觉 本文是对我们CVPR 2021被接收的文章 Involution: Inverting th ...
- CVPR‘21 | 真·内卷！involution：超越convolution和self-attention的神经网络新算子
点击上方"迈微AI研习社",选择"星标★"公众号 重磅干货,第一时间送达 本文来自李铎的投稿,介绍他们在深度卷积神经网络中的新工作,通过反转前述的卷积设计原理提 ...
- [论文解读]CNN 卷积的魅力+特征图+感受野+共享权重和偏置
一.基础知识 1.1卷积神经网络(CNN) CNN新出现了卷积层(Convolution层)和池化层(Pooling层), 这两种不同类型的层通常是交替的, 最后通常由一个或多个全连接层组成 卷积网络 ...
- 超越卷积、自注意力：神经网络新算子「内卷(Involution)」
论文名称:Involution: Inverting the Inherence of Convolution for Visual Recognition 作者:Duo Li, Jie Hu, Ch ...
- 超越卷积、自注意力机制：强大的神经网络新算子involution
视学算法发布 转载自:机器之心 作者:李铎 这篇工作主要是由我和SENet的作者胡杰一起完成的,也非常感谢HKUST的两位导师 陈启峰和张潼老师的讨论和建议. 本文是对我们CVPR 2021被接收的文 ...
- AAAI 2018论文解读 | 基于文档级问答任务的新注意力模型
在碎片化阅读充斥眼球的时代,越来越少的人会去关注每篇论文背后的探索和思考. 在这个栏目里,你会快速 get 每篇精选论文的亮点和痛点,时刻紧跟 AI 前沿成果. 点击本文底部的「阅读原文」即刻加入社区 ...
- 最强！超越卷积、自注意力机制：强大的神经网络新算子involution
点上方计算机视觉联盟获取更多干货 仅作学术分享,不代表本公众号立场,侵权联系删除 转载于:机器之心,李铎 AI博士笔记系列推荐 周志华<机器学习>手推笔记正式开源!可打印版本附pdf下载链 ...
最新文章
- 宝塔面板遇到No space left on device错误的解决方法
- XDP/eBPF — 架构设计
- 在制造业大厂当程序员是什么感受？
- #define与typedef的区别！
- 集成学习(ensemble learning)(四)
- Centos 7 mysql Buffered warning: Changed limits: max_connections: 214 解决方法
- CNN训练模型 花卉
- 【LeetCode】开始LeetCode的第一题offer03
- MDUI登陆注册案例
- 嗅探工具 --- wireshark、tcpdump、dsniff、ettercap、bettercap、netsniff-ng
- python input隐藏输入_python输入input
- stc89c52 单片机模块
- 如何注册网站域名？申请域名详细教程
- 网卡地址和ip地址的区别
- paip.破解网站手机验证码
- 爱了爱了，这样的文字动画让你爱不释手
- python mongodb分页查询_python数据库分页查询语句
- Cadence OrCAD Capture 如何批量替换元器件
- STM32 - ADC采集电压 中断处理
- 使double保留两位小数的多方法 java保留两位小数