Learning Modality-Specific Representations for Visible-Infrared Person Re-Identification
当前的问题及概述
由于不同的视觉特征,在异构模式下匹配行人非常具有挑战性。
模型及loss
2.1Overview:

图中可以看到,本文1)为每个域建立一个特定于模态的网络和一个特定于模态的loss函数,以便在特征提取过程中嵌入与模态相关的信息。2)通过欧几里得约束将交叉模态嵌入到模态特异性网络中,以对齐来自异质模态的特征。3)利用模态共享层来开发共享知识,提高深度表示的模态不变性。4)对每个网络工作都实现了一个判别度量,以学习模态内部判别特征。5)我们通过学习一个视图分类器来集成视图信息。总loss为:

2.2Modality-Specific Identity Loss
图1中共红色部分为specific layers,单独使用不同的权值来捕捉不同的特征,并为每种模式学习一个单独的网络,modality-specific softmax loss:其中,xVn和xIn表示第n个RGB和IR属于yV n类和yI n类的特征:

2.3Cross-Modality Euclidean Constraint
图1中的黄色部分,虽然特定于模态的网络可以从模态信息中获益,但是来自不同模态的同一行人的特征是不同的,没有考虑跨模态约束,因此,本文在不同的模态网络之间实现了交叉模态欧几里德约束(CMEC),提出的度量通过最小化来自异质模态的同一行人特征之间的距离(即跨模态类内距离)来缩小跨模态边界,如下图:

图中,(a)不同模态的特征存在于不同的子空间中;(b)以尽量减少跨方式类内差异为目标的最佳化过程;©输出结果。Loss为,其中,KVi和KIi表示不同模态的第i个身份,xVip 和 xIiq为两个模态同一个身份i的不同特征q和p:

2.4Modality-Shared Identity Loss
图1中的紫色部分,即Modality-Shared,loss选用softmax loss。
2.5Modality-Specific Discriminant Metric:
图1中每个分支的最后一部分,本文对可见光和红外分支都使用了度量学习来进一步增强该方法的识别能力。模式特异性鉴别度量(MSDM)通过最小化类内变化和扩大同一模态内特征的类间变化,提高了模式特异性表征的模内鉴别能力。Loss:

其中,δij = 1 为同一行人的特征,δij = -1为不同行人的特征,更深一步讲:

其中θ1为类内距离的平均数,θ2为类间距离的平均数。
2.6View Classifie
通过构造一个视图分类器来学习与视图相关的信息,对不同视角(view)的图像进行分别分类,但这部分从效果来看作用不大,其loss选用softmax loss:

2.7Transfer Knowledge From Visible Domain
把特定模态训练好的模型迁移到本文直接用。
实验
数据集:RegDB and SYSU-MM01
消融实验:

和其他框架进行比较:

2019 TIP之ReID:Learning Modality-Specific Representations for Visible-Infrared Person Re-Identificati相关推荐

  1. 2019 IET之ReID:HPILN: a feature learning framework for cross-modality person re-identification

    HPILN: a feature learning framework for cross-modality person re-identification 当前的问题及概述: 提出了一种新的特征学 ...

  2. [CVPR2016]Learning Deep Feature Representations with Domain Guided Dropout for Person Re-id

    论文题目:Learning Deep Feature Representations with Domain Guided Dropout for Person Re-identification 还是 ...

  3. 阅读笔记 MISA: Modality-Invariant and -Specific Representations for Multimodal Sentiment Analysis

    文章目录 1.前言 2.模型结构 2.1 Modality Representation Learning 2.1.1 Utterance-level Representations 2.1.2 Mo ...

  4. Learning Generalisable Omni-Scale Representations for Person Re-Identification

    Learning Generalisable Omni-Scale Representations for Person Re-Identification Abstract Introduction ...

  5. 翻译-A Simple Framework for Contrastive Learning of Visual Representations

    推荐文章 A Simple Framework for Contrastive Learning of Visual Representations 摘要 这篇文章提出了SimCLR, 一种简单的.用 ...

  6. lxmert:learning cross-modality encoder representations from transformers

    LXMERT: Learning Cross-Modality Encoder Representations from Transformers 论文笔记_小有名气的可爱鬼的博客-CSDN博客视觉 ...

  7. A Simple Framework for Contrastive Learning of Visual Representations

    A Simple Framework for Contrastive Learning of Visual Representations Abstract 本文提出了一个简单的视觉表征对比学习框架- ...

  8. Machine learning of neural representations of suicide and emotion concepts identifies suicidal youth

    Machine learning of neural representations of suicide and emotion concepts identifies suicidal youth ...

  9. 员外陪你读论文:DeepWalk: Online learning of Social Representations

    本次要分享的是 14 年论文 DeepWalk: Online learning of Social Representations, 论文链接DeepWalk[1],参考的代码CODE[2],本论文 ...

最新文章

  1. Oracle 服务器 进程中的 LOCAL=NO 和 LOCAL=YES
  2. c调用c++ qt_【C/C++】qt库结构及示例
  3. jQuery 1.4官方文档中文版
  4. linux连接池等待时间,LINUX系统下解决time_wait 连接数过多问题
  5. spring整合CXF
  6. fastjson 版本_以快标榜的fastjson,快没快多少,倒是漏洞一大堆
  7. java图片转换pdf_Java实现图片转换PDF文件的示例代码
  8. android viewdraghelper 点击移动,ViewDragHelper使用时遇到的问题
  9. 程序员为什么需要学会Markdown
  10. 五款超好用ZBrush笔刷(文末附下载链接)
  11. 网络空间安全——2021软科中国大学专业排名
  12. 投影 WGS84坐标与北京54坐标转换
  13. 品牌做小红书投放,究竟选择KOL还是KOC?
  14. 常见神经系统疾病的临床诊断及处理原则题库【2】
  15. 破壳而出的琉璃之鸟汉化 QA
  16. Instruction Tuning(FLAN、instructGPT、chatGPT)
  17. 详细BP神经网络预测算法及实现过程实例
  18. 6.oop-类和对象
  19. 程序员是不是“后浪”?
  20. 第一次作业:每段经历都是财富

热门文章

  1. CA EXPO会议参会小记(组图)
  2. 关于flask入门教程-ajax+echarts实现矩形树图
  3. 中间选民定理(迭代剔除劣势策略,换位思考)
  4. 思维转换--等价换位思考
  5. 抖音纸短情长音乐计算机简谱,抖音纸短情长女版谁唱的 纸短情长计算器简谱完整版...
  6. Navicat怎样导入Excel表格和txt文本的数据
  7. 28岁转行程序员?别想了、没戏。事实真就如此残酷?
  8. 基于Java毕业设计校园社团管理平台演示录像2021源码+系统+mysql+lw文档+部署软件
  9. 解决WIN10“系统和压缩内存”“ntoskrnl.exe”系统空闲时占用大量CPU
  10. 漫游计算机英语,计算机系统漫游