• 由于自己研究方向为基于高阶的图像分类,故在这里对相关论文做一个简单的划分和总结。
  • 按照计算高阶的层,位于卷积神经网络的位置划分,可以分为:
    • 网络末端
    • 网络中部

2022-05-24 update

  • (CVPR 2022) Deep Brownian Distance Covariance for Few-Shot Classification Project | code | pdf

网络末端

B-CNN(ICCV 2015)
MPN-COV(Matrix Power Normalization covariance pooling)(ICCV 2017)
G2^22DeNet
  • 这篇主要工作是对feature map做高斯特征建模,说着比较简单,但是真要实现起来,也是面临和上面一样的问题,要想能End-To-End训练,必须要解决反向传播的问题,这个问题都可以追溯到DeepO2_22​P,这篇工作可是说是计算矩阵的SVD或者EIG在神经网络的开山之作,里面公式较多,感兴趣的可以去看看。
  • 后续工作: Global Gated Mixture of Second-order Pooling for Improving Deep Convolutional Neural Networks (NeurIPS 2018) 采用多个高斯模型来对特征进行建模。

网络中部

SORT: Second-Order Response Transform for Visual Recognition(ICCV 2017)
Global Second-order Pooling Convolutional Networks(CVPR 2019)

最近顶会看高阶

ICCV 2019

Mixed High-Order Attention Network for Person Re-Identification
Second-order Non-local Attention Networks for Person Re-identification

CVPR 2019

Second-order Attention Network for Single Image Super-Resolution