超越最新无监督域自适应方法，研究人员提轻量CNN新架构OSNet

作者 | Kaiyang Zhou, Xiatian Zhu, Yongxin Yang, Andrea Cavallaro, and Tao Xiang

译者 | TroyChang

编辑 | Jane

出品 | AI科技大本营（ID：rgznai100）

CNN新架构OSNet

【导读】今天推荐论文《Learning Generalisable Omni-Scale Representations for Person Re-Identification》，这是一篇关于行人再识别领域的新研究（Person Re-Identification , re-ID）。这篇论文中，作者们提出了一个新的CNN架构——OSNet，在实验效果方面，这一新模型架构击败了最新的无监督域自适应方法。

论文地址：

https://arxiv.org/pdf/1910.06827.pdf

Github：

https://github.com/KaiyangZhou/deep-person-reid

摘要

有效的行人再识别模型应该学习特征表示，这些特征表示既可以用于区别外观相似的人员，又可以在无需任务调整下用于跨数据集部署。

在本文中，我们提出了新的CNN架构来应对这两个挑战。首先，我们提出了一个被称为全尺度网络（OSNet）的CNN来学习特征，它不仅可以捕捉不同的空间尺度，而且可以封装多个尺度的协同组合，即全尺度特征。基本构建块由多个卷积流组成，每个卷积流检测一定范围内的特征。对于全尺度特征学习，提出了一种统一的聚合门，将多尺度特征与信道权值动态融合。OSNet是轻量级的，因为它的构建块包含分解卷积。

其次，为了改进通用特征学习，我们在OSNet中引入实例规范化层来处理跨数据集的差异。为了确定这些层在体系结构中的最佳位置，我们提出了一种有效的可微体系结构搜索算法。

大量的实验表明，在传统的相同数据集设置下，尽管OSNet比现有的re-ID模型要小得多，但它仍能实现最先进的性能。在更具挑战性和实用性的跨数据集设置中，OSNet击败了最新的无监督域自适应方法，同时并不需要任何目标数据来进行模型自适应。

引言

行人再识别(re-ID)是一个细粒度的实例识别问题，其目的是在没有重叠视野的摄像机视图中匹配行人。随着深度学习技术的发展，近年来对人再识别的研究已经从繁琐的特征工程转向了利用深度神经网络进行端到端特征表示学习，尤其是卷积神经网络。

尽管在CNN的端到端表示学习帮助下，re-ID的性能得到了显著提升，但是还有两个问题没有解决。第一个问题是判别特征学习。作为一个实例级识别任务，在不相交的摄像机视图下重新识别人需要克服类内变化大和类间模糊两大困难。例如，在图1(a)中，相机之间的视角变化（从正面到背面）给背包区域带来了较大的外观变化，使对同一个人的匹配变得具有挑战性。此外，从远处看，就像在监控视频中常见的那样，人们看起来非常相似，如图1中的错误匹配就是一个例子。这需要使用re-ID特性来捕获细微的细节(例如，图1(d)中的太阳眼镜)，用以区分具有相似外表的人。

图1

第二个问题是通用特征学习。由于光线条件、背景、视点等方面的差异造成的re-ID数据集之间存在固有的区域差距(见图1)，直接将在源数据集上训练的re-ID模型应用到不可见的目标数据集上，通常会导致的性能大幅下降。这表明所学习的re-ID特性严重地过拟合标记数据，并且不能进行区域泛化。

在本文中，我们设计了新的CNN架构来解决这两个问题。

OSNet网络结构

首先，我们认为这些特征需要全尺度的，定义为变量同构和异构尺度的组合，每一个都由多个尺度的混合组成。从图1可以明显看出对全尺度特性的需求。为了匹配和区分人与冒名顶替者，与局部小区域(如鞋子、眼镜)和整体身体区域相对应的特征是很重要的。

例如，给定图1(a)(左)中的查询图像，查看全局范围的特性(例如，年轻人，白t恤+灰色短裤组合)将搜索范围缩小到真正的匹配(中)和冒名顶替者(右)。现在，局部尺度（local-scale）特征开始发挥作用——鞋子区域暴露了右边的人是骗子的事实(运动鞋vs.凉鞋)。

然而，对于更具挑战性的情况，即使是变量同构尺度的特征也不够。需要更复杂和更丰富的跨多个尺度的特性。例如，要消除图1(b)(右)中的冒名顶替者，需要在前面具有特定标识的白色T恤上添加一些特征。

请注意，这个标志本身并没有什么特别之处——如果没有白色T恤作为背景，它可能会与许多其他图案混淆。同样，白色T恤在夏天随处可见(如图1(a))。它是独特的组合，由跨越小(标志尺寸)和中(上身尺寸)尺度的异构特性捕获，这使得这些特性最有效。

因此，我们提出了一种全新的CNN体系结构OSNet（Omni-scale Network，OSNet）,它是专门为学习全尺度特征表示设计的。托换构建块（building block）由多个不同的卷积特征流组成(如图2所示)，每个流所关注的特征尺度由指数（exponent）决定，指数是一个新的维度因子，跨流线性增加，以确保每个块中捕获不同尺度。

关键的是，由统一聚合门(AG)生成的通道权值动态融合得到的多尺度特征图。AG是一种跨所有流共享参数的子网络，具有许多有效的模型训练所需的特性。在可训练的AG下，生成的信道权值依赖于输入，从而实现了动态尺度融合。这种新颖的AG设计为全尺度特征学习提供了极大的灵活性：根据特定的输入图像，门可以通过为特定的流/尺度分配主导权重来聚焦于单个尺度；或者，它可以选择和混合，从而产生异构的特征尺度。

图2

OSNet的另一个关键特性是轻量级。轻量级的ReID模型有两个优点：（1）由于收集跨摄像头匹配的人图像的困难，ReID数据集通常是中等大小。因此，具有少量参数的轻量级网络不容易出现过拟合；（2）在大规模的监控应用中(例如全市范围内使用数千个摄像头的监控)，re-ID最实用的方式是在摄像头端进行特征提取，将提取的特征发送到中央服务器，而不是原始视频。对于设备上的处理，小型的re-ID网络显然是首选。为此，在我们的构建块中，我们将标准卷积分解为点卷积和深度卷积，使OSNet不仅在特征学习上有区别，而且在实现和部署上也很高效。

解决第二个问题，是由不同re-ID数据集造成的差距,我们注意到这些差距通常反映在不同的图像样式，如亮度、颜色温度和角度(参见图1)。这些风格差异是由不同的照明条件和相机/设置在不同的摄像机网络特征。现有的工作使用无监督域适应(UDA)方法解决了这个问题。这些需要未标记的目标域数据来进行模型调整。

相反，我们将其视为一个更一般的域泛化问题，而不使用任何目标域数据。通过消除给定新目标域的数据收集和模型更新的繁琐过程，使用我们的方法，可以对任何未知的目标数据集开箱即用地应用使用源数据集训练的re-ID模型。

OSNet是通过将提出的轻量级瓶颈（OS块）逐层堆叠来构建的。详细的网络架构如图3所示。与标准卷积相同的网络架构有690万个参数和33849万个多添加操作，比精简3×3卷积层设计的OSNet大3倍。图3中的标准OSNet在实践中可以很容易地伸缩，以平衡模型大小、计算成本和性能。为此，我们在之后使用了一个宽度倍增器4和一个图像分辨率增器。

图3

实验

简单说一下实验，对当前七个广泛使用的re-ID数据集进行实验，包括Market1501 ， CUHK03 ， DukeMTMC-reID (Duke) ， MSMT17 ， VIPeR ， GRID和CUHK01。前四个通常被认为是大型的ReID数据集，尽管它们的大小相当适中(对于最大的数据集MSMT17，大约有30k的训练图像)。其余三个数据集通常太小，如果没有适当的训练前，就无法训练深度模型。

对于CUHK03，我们使用767/700 split来检测图像。对于VIPeR、GRID和CUHK01，我们遵循，对大型的re-ID数据集进行模型预训练，然后对目标数据集进行微调，平均结果为10个随机分割。对于re-ID评价指标，我们使用累积匹配特征(CMC)秩精度和平均精度(mAP)，其中结果以百分比报告。

本文在同区域行人再识别和跨区域行人在识别问题上分别与当前SOTA的方法进行了比较。

从上图可以看出在VIPeR上，可以观察到OSNet的性能显著优于所有其他选择(超过11%)。GRID比VIPeR更具挑战性，因为除了额外的干扰物之外，它只有250张125个身份的训练图像。在CUHK01上，有大约1900张训练图像，OSNet的表现明显优于主轴和JLML，分别为6.7%和16.8%。总体而言，OSNet在这些小数据集上的性能是优越的，这表明它在没有大规模训练数据的实际应用中有很大的优势。

总结

在本文中，我们提出了一种轻量级的CNN架构OSNet，它能够学习人的全方位特征表示。与现有的ReID CNNs相比，OSNet具有在每个构建块内显式学习多尺度特征的独特能力，其中统一聚合门动态融合多尺度特征生成全尺度特征。

为了改进跨域的泛化，我们通过可微架构搜索为OSNet配备了实例规范化，从而产生了一种称为OSNet- ain的域自适应变体。在相同域的re-ID设置中，结果显示OSNet在比基于resnet的竞争对手小得多的同时，还能达到最先进的性能。

在跨域的ReID设置中，OSNet-AIN在不可见的目标数据集上表现出了非凡的泛化能力，甚至在没有对目标域数据进行每域模型自适应的情况下，也击败了最新的UDA方法。

（*本文为 AI科技大本营编译文章，转载请微信联系 1092722531）

◆

精彩推荐

◆

2019 中国大数据技术大会（BDTC）再度来袭！豪华主席阵容及百位技术专家齐聚，15 场精选专题技术和行业论坛，超强干货+技术剖析+行业实践立体解读，深入解析热门技术在行业中的实践落地。

即日起，限量 5 折票开售，数量有限，扫码购买，先到先得！

超越最新无监督域自适应方法，研究人员提轻量CNN新架构OSNet相关推荐

*基于类平衡自我训练的无监督域自适应用于语义分割
基于类平衡自我训练的无监督域自适应用于语义分割摘要:最近的深度网络实现了最先进的性能在各种语义分割任务中.尽管有这样的进步,但是这些模型在现实世界中面临挑战,它们存在很大的差别在已标签训练/源文件和 ...
语义分割背景下UDA（无监督域自适应）的三个方向
一.基于对抗学习 AdaptSegNet是经典的基于对抗学习的域适应方法.这一类方法训练一个判别器来使得目标域的分布在像素空间(output space)或者特征空间(feature map)上进行对 ...
深度学习自学（三十三）：通过结构正则化深度聚类解决无监督域自适应问题
整理的人脸系列学习经验:包括人脸检测.人脸关键点检测.人脸优选.人脸对齐.人脸特征提取,Re-ID等学习过程总结,有需要的可以参考,仅供学习,请勿盗用.https://blog.csdn.net/Th ...
无监督域对抗算法：ICCV2019论文解析
无监督域对抗算法:ICCV2019论文解析 Drop to Adapt: Learning Discriminative Features for Unsupervised Domain Adapta ...
【ICML 2015迁移学习论文阅读】Unsupervised Domain Adaptation by Backpropagation (DANN) 反向传播的无监督领域自适应
会议:ICML 2015 论文题目:Unsupervised Domain Adaptation by Backpropagation 论文地址: http://proceedings.mlr.pre ...
ICCV 2019 | 基于轻量级新架构OSNet的域适应改进ReID
译者 | TroyChang 编辑 | Jane 出品 | AI科技大本营(ID:rgznai100) [导读]今天推荐论文<Learning Generalisable Omni-Scale ...
如何将最大化互信息引入到无监督域适应（UDA）任务？
©作者 | 李加贝单位 | 浙江工商大学研究方向 | 视频文本检索本文介绍三篇来自于北京大学和牛津大学的工作,其思想都主要是利用了最大化互信息这一概念来减小域特征差异的,通过交叉熵损失函数来隐式 ...
CVPR2019:Domain-Specific Batch Normalization for Unsupervised Domain Adaptation无监督域适配的特定域批处理规范化
CVPR2019:Domain-Specific Batch Normalization for Unsupervised Domain Adaptation无监督域适配的特定域批处理规范化 0.摘要 ...

超越最新无监督域自适应方法，研究人员提轻量CNN新架构OSNet

推荐阅读

超越最新无监督域自适应方法，研究人员提轻量CNN新架构OSNet相关推荐

最新文章

热门文章