分类、检测、分割任务均有SOTA表现,ACNet有多强?
Intorduction
给定输入数据,ACNet自适应地训练搜索每个节点的最优连接,连接关系和连接之间的关系可以用下式表示:
实验证明,ACNet在ImageNet-1K上top-1error比ResNet更低
Background Knowledge
- non-Euclidean data(非欧几里得数据)
https://link.zhihu.com/?target=https%3A//blog.csdn.net/imsuhxz/article/details/91361977
ACNet(Adaptive-Connected Neural Networks)
- ACNet的公式表示(以图像处理为例)
其中,yi表示第i层的输出节点,j是所有可能与i层节点相关的节点,前文说过,与一个节点有关的节点来自三个方面:来自第i层的节点,i层节点的相邻节点,任意层的节点({the i-th node itself}, {the neighborhood N(i) of the i-th node},{all possible nodes}),这正好对应三种推理模式:自转换,局部推理,全局推理。
- 省略了非线性激活函数f,它不影响公式的推导过程。
- i, j ∈ [1, H × W]
- S表示一个节点的八个相邻节点的集合,S = {i -W -1, i-W, i-W + 1,i, i + 1, i + W-1,i+W , i + W + 1}
- 这跟ACNet的式二是一样的
Experiments
- 在ImageNet-1K上的表现
- 可视化
Conclusion
◆
精彩推荐
◆
推荐阅读
快手王华彦:端上视觉技术的极致效率及其短视频应用实践 | AI ProCon 2019
中文预训练ALBERT模型来了:小模型登顶GLUE,Base版模型小10倍、速度快1倍
100多次竞赛后,他研发了一个几乎可以解决所有机器学习问题的框架
伯克利人工智能研究院开源深度学习数据压缩方法Bit-Swap,性能创新高
NLP被英语统治?打破成见,英语不应是「自然语言」同义词
TensorFlow2.0正式版发布,极简安装TF2.0(CPU&GPU)教程
肖仰华:知识图谱构建的三要素、三原则和九大策略 | AI ProCon 2019
AI落地遭“卡脖子”困境:为什么说联邦学习是解决良方?
限时早鸟票 | 2019 中国大数据技术大会(BDTC)超豪华盛宴抢先看!
你点的每个“在看”,我都认真当成了喜欢
分类、检测、分割任务均有SOTA表现,ACNet有多强?相关推荐
- #今日论文推荐#ECCV 2022 | 清华字节提出MGD:适用于分类/检测/分割的生成式知识蒸馏
#今日论文推荐#ECCV 2022 | 清华&字节提出MGD:适用于分类/检测/分割的生成式知识蒸馏 知识蒸馏主要可以分为logit蒸馏和feature蒸馏.其中feature蒸馏具有更好的拓 ...
- ECCV 2022 | 清华字节提出MGD:适用于分类/检测/分割的生成式知识蒸馏
点击下方卡片,关注"CVer"公众号 AI/CV重磅干货,第一时间送达 作者:美索不达米亚平原 | 已授权转载(源:知乎)编辑:CVer https://zhuanlan.zhi ...
- CVPR 2021 | 即插即用! CA:新注意力机制,助力分类/检测/分割涨点!
摘要 最近关于移动网络设计的研究已经证明了通道注意(例如,挤压和激发注意)对于提升模型性能的显著效果,但是它们通常忽略位置信息,而位置信息对于生成空间选择性注意图是重要的.本文提出了一种新的移动网络注 ...
- 如何将深度学习模型部署到实际工程中?(分类+检测+分割)
应用背景介绍 早在遥远的1989年,一家叫做ALVIVN的公司首次将神经网络用在汽车上,进行车道线检测和地面分割.时至今日,深度学习已经应用在自动驾驶系统的多个分支领域.首先是感知领域,常用的传感器有 ...
- 【视频课】言有三每天答疑,38课深度学习+超60小时分类检测分割数据算法+超15个Pytorch框架使用与实践案例助你攻略CV...
计算机视觉中大大小小可以包括至少30个以上的方向,在基于深度学习的计算机视觉研究方向中,图像分类,图像分割,目标检测无疑是最基础最底层的任务,掌握好之后可以很快的迁移到其他方向,比如目标识别,目标跟踪 ...
- 分类检测分割中的损失函数和评价指标
文章目录 一.分类 1.1 CrossEntropy Loss 1.2 带权重的交叉熵Loss 1.3 Focal Loss 二.检测 2.1 L1, L2, smooth L1, IoU loss ...
- 重磅!OpenMMLab 更新啦!分类/检测/分割/3D等项目全面升级
点击上方"3D视觉工坊",选择"星标" 干货第一时间送达 本文作者:陈恺 https://zhuanlan.zhihu.com/p/74597564 本文已由原 ...
- CVPR 2021 论文解读I 动态区域感知卷积,进一步提升分类/检测/分割性能|Dynamic Region-Aware Convolution
Dynamic Region-Aware Convolution 摘要 介绍 方法 实验结果 总结 论文单位:旷视研究院 论文链接:https://arxiv.org/abs/2003.12243 作 ...
- CVPR 2021 论文解读Vol.6 I 动态区域感知卷积,进一步提升分类/检测/分割性能
论文单位:旷视研究院 论文链接:https://arxiv.org/abs/2003.12243 作者:Jin Chen, Xijun Wang, Zichao Guo, Xiangyu Zhang, ...
最新文章
- 修改linux的时间可以使用date指令
- React+TypeScript练手小项目
- leetcode刷题之树(三)
- 华为V3.4-RIP命令总结
- Mysql 去除 特定字符后面的所有字符串
- Kafka参数broker.id详解
- Java使用线程并发库模拟弹夹装弹以及发射子弹的过程
- TAR命令参数详解[转]
- java map集合 事务控制_对象回收过程?线程池执行过程? map原理?集合类关系?synchronized 和 volatile ? 同一个类的方法事务传播控制还有作用吗?java 锁...
- oracle mysql 常用语句(查询表中某字段有几种类型,及每种类型有多少个数、插入多行、查询前几行)
- 迁移桌面程序到MS Store(8)——通过APPX下载Win32Component
- 2019年北航OO第二单元(多线程电梯任务)总结
- 网络(14)-Web站点如何防范XSS、CSRF、SQL注入攻击?
- 第11月第18天 RACSequence
- tcp和udp协议的聊天 和udp协议的时间同步机制-----编码
- 暴风影音xp版本_暴风影音黯然退市!怀念那些年用过的播放器
- 一文了解无线网桥-小白笔记
- 2019软件测试都学习什么?
- 未来量子计算机运算速度,中国科学家实现 “量子霸权”,计算速度比超级计算机快100万亿倍...
- 随机森林算法(Random Forest)R语言实现