小样本学习之关系网络：让机器自己学习如何度量

论文：2018-CVPR-《Learning to Compare: Relation Network for Few-Shot Learning》

之前讲过一篇有关度量学习的论文--原型网络。那篇论文中讨论了如何将样本投影到一个嵌入空间中，使得相似样本间的距离较近，他学习的是如何投影这个过程，而样本间的距离度量方法是人为设定的，这样的话那个投影过程也就是基于人为设定的度量方法来学习的了。就像我之前所说，度量学习的一个问题就是度量两个样本间相似性的方法，使用一个单纯的距离来判断是否合理？或者说使用一个我们认为的某种维度上的距离来判断是否合理？

在这篇论文中，抛弃了之前所说的人为设定的距离度量方法，而是选择让机器自己去学习如何度量两个样本间的相似性。毕竟对于机器能理解的相似性和我们所理解的相似性我们是无法判断是否是一样。

先上图：

f函数就是之前所讲的嵌入函数，我们将五个类别的训练图片通过嵌入函数投影至一个空间中，再将另外一个属于之前五个类别中一类的一张图片同样投影到这个空间中，然后我们将这个图片与之前的五张图片的数据拼接起来，通过一个关系网络g来输出一个one-hot向量，训练阶段我们是知道他们的标签的，故我们的目标函数便是让狗那个类别在One-hot向量中所对应的那位最大。

通过这样的方法，我们就能学到一种起码在机器来看比较好的度量方法，能够较好的判断两个样本间的相似性。

其中f和g都是带参数的网络，需要去学习。

这篇论文的想法真的挺好，我们在向通用人工智能方向研究的过程中，应该就是一个不断将人为设定的内容摒弃的过程，我相信自主学习的机器是不需要人为设定过多东西的，所以这篇论文相比之前的度量学习方法是一个很大的进步。

小样本学习之关系网络：让机器自己学习如何度量相关推荐

干货！小样本分子性质预测新方法——性质感知的关系网络
点击蓝字关注我们 AI TIME欢迎每一位AI爱好者的加入! 分子性质预测能够识别具有目标性质的候选分子,在药物发现中发挥着重要作用.由于新药发现研究中已知药理性质的分子(有标签样本)少,分子性质预 ...
人工智能(AI)、机器学习、深度学习的关系
文章目录人工智能.机器学习.深度学习的关系 1.人工智能 2.机器学习监督学习和无监督学习 (unsupervised learning) 3.深度学习人工智能.机器学习.深度学习的关系人工智 ...
小样本学习记录————相似性计算经典网络结构(孪生网络、匹配网络、原型网络、关系网络)
小样本学习记录----四种相似性计算经典网络结构小样本学习记录----四种相似性计算经典网络结构孪生网络(Siamese network) 匹配网络(Matching network) 原型网络( ...
机器不学习：浅析深度学习在实体识别和关系抽取中的应用
机器不学习 jqbxx.com -机器学习好网站命名实体识别(Named Entity Recognition,NER)就是从一段自然语言文本中找出相关实体,并标注出其位置以及类型,如下图.命名实体 ...
元学习—关系网络和匹配网络
元学习-关系网络和匹配网络 1 关系网络(Relation Network) 1.1 关系网络的基本函数一个关系网络至少需要包含两个核心的函数,第一个核心的函数是编码函数f,该函数经支持集(Supp ...
有望替代卷积神经网络？微软最新研究提基于关系网络的视觉建模
导语:最近两年,自注意力机制.图和关系网络等模型在NLP领域刮起了一阵旋风,基于这些模型的Transformer.BERT.MASS等框架已逐渐成为NLP的主流方法.这些模型在计算机视觉领域是否能同样 ...
2021 年了，机器/深度学习还有哪些坑比较好挖？
作者丨张趔趄.微调.金雪锋来源丨知乎问答编辑丨极市平台导读深度学习以及机器学习发展至今,涌入了大量的人才和资源,有很多方向已经达到了一个瓶颈,短时间内有非常大的突破有些难以实现.那么对于有学术 ...
深度学习图像分割：网络结构设计一览
来源:极市平台本文共5400字,建议阅读15分钟在利用CNNs进行图像语义分割时,有一些针对网络结构的创新点,主要包括了新神经架构和新组件或层的设计.文章的后半部分则对医学图像分割领域中网络结构设计 ...
NeurIPS 2018 | 如何用循环关系网络机智地解决数独类关系推理任务？
选自 arXiv 作者:Rasmus Berg Palm.Ulrich Paquet.Ole Winther 机器之心编译参与:李诗萌.王淑婷本文引入循环关系网络来解决步骤相互依赖的关系推理任务, ...

小样本学习之关系网络：让机器自己学习如何度量

小样本学习之关系网络：让机器自己学习如何度量相关推荐

最新文章

热门文章