Non-local的一些理解

其实non-local就是先计算该点（点为向量，维度是通道数）与其他点（也是向量，维度是通道数）的相似度，对这个相似度进行归一化，得到各个点的权重，这个权重再对应乘以对应点的特征映射值（g(x)），加起来的结果就是当前点的输出yi，这样yi就包含了全局信息，而且利用相似度，相似度其实暗示其他点对这个点的贡献度，这样加权得来，其他点对该点联系越大，相似度越大，那么对yi的影响就越大，这也说明non-local是合理的，其实它这样就与nlp中的注意力机制原理很像，注意其中的联系

字面上也是非常容易理解non local这种操作，就是在提取某处特征时利用其周围点的信息，这个“周围”既可以是时间维度的，也可以是空间维度的。时间维度的话就如这篇文章中的视频分类例子一样，可以更好地利用时序上的信息。

看上面这个图，我们能了解到，其实在这里xi是一个向量，它是维度为通道大小，看那个f，计算相似度，计算的是当前的点与其他点的相似度，由公式(1)看出，输出的一点是该点与其他点的相似度乘以对应其他点的特征加起来所得，其实就是利用相似度当权重，然后加权可得，与全连接很类似，只不过这里对权重进行了规约（即除以C(X)那个操作），其实与我们在NLP中学的注意力机制很像

Non-local的一些理解相关推荐

理解maven命令package、install、deploy的联系与区别
https://blog.csdn.net/zhaojianting/article/details/80324533 博客学院下载图文课论坛 APP 问答商城 VIP会员活动招聘 IT ...
nagios全攻略(一)----准备阶段
一. 准备阶段: 1.实验环境包含3台主机,详细信息如下主机名操作系统 IP 作用 nagios-server redhat 9 192.168.0.111 监控机 dbpi redhat 9 ...
高斯拟合原理_AlexNet原理和实现
本文是读深度学习的开山之作<ImageNet Classification with Deep Convolutional Neural Networks>所作的笔记. 论文笔记 1.解决 ...
vue第二次ajax失效,解决VUE-Router 同一页面第二次进入不刷新的问题
最近正好遇到一个问题,修改用户的头像,修改后再进入用户主页,发现改了之后即使数据变了..页面也不会重新渲染... 下面提供几种解决方案来给予大家参考: 1. 可以在刷新的页面定义一个参数, 这样每次都 ...
前端面试题及答案整理（一）
各公司秋招很快就开始了,最近在准备面试的东西,干脆将发现的各类面试题整理一下共享出来,大部分面试题是没有标准答案的,我给出的答案也是仅供参考,如果有更好的解答欢迎在评论区留言. Part1 手写代码 ...
JNI中的内存管理(转）
源:JNI中的内存管理 JNI 编程简介 JNI,Java Native Interface,是 native code 的编程接口.JNI 使 Java 代码程序可以与 native code 交互 ...
PyFlink + 区块链？揭秘行业领头企业 BTC.com 如何实现实时计算
大家好,我们是 BTC.com 团队.2020 年,我们有幸接触到了 Flink 和 PyFlink 生态,从团队自身需求出发,完善了团队内实时计算的任务和需求,搭建了流批一体的计算环境. 在实现实时 ...
AlexNet原理和实现
个人博客:http://www.chenjianqu.com/ 原文链接:http://www.chenjianqu.com/show-56.html 本文是读深度学习的开山之作<ImageNe ...
Git学习总结（17）——大型分布式团队的代码版本管理
从开始工作到现在,我经历过没有代码版本管理.代码集中式管理,以及现在的分布式管理,我深刻体会到它在软件开发过程中的重要性: 我在工作中遇到的很多客户都存在对于代码版本管理的各种问题.困惑和不同的需求. ...
第三章_深度学习基础
文章目录第三章深度学习基础 3.1 基本概念 3.1.1 神经网络组成? 3.1.2神经网络有哪些常用模型结构? 3.1.3如何选择深度学习开发平台? 3.1.4为什么使用深层表示? 3.1.5为 ...

Non-local的一些理解

Non-local的一些理解相关推荐

最新文章

热门文章