多视图多示例多标签的协同矩阵分解
嘿,记得给“机器学习与推荐算法”添加星标
题目: Multi-View Multi-Instance Multi-Label Learning based on Collaborative Matrix Factorization
会议: AAAI 2019
论文: https://arxiv.org/pdf/1905.05061.pdf
1 Motivation
1、现有的M3L方法仅仅探索了部分实体(包,实例和标签)之间的关系,而这些实体之间的关系可以给M3L方法提供丰富的上下文信息,因此,现有的M3L方法性能次优;
2、大部分的MIML算法仅关注单视图数据,但是,在实际应用中,通常可以通过不同的视图来表示多实例多标签对象。
2 Related work
由于包之间以及实例之间存在多种类型的关系,与最近大量研究的MIML任务相比,从多视图包中学习更加困难和挑战。当前已有不少研究工作致力于解决这样一种挑战。如表1所示:
尽管这些方法在努力解决多视图MIML学习问题,但是这些方法仅考虑了包之间和实例之间有限的关系类型。
3 Methodology
所提模型主要包括两部分,一部分是异质网络的构建,另一部分是协同关系矩阵分解。
3.1 Heterogeneous Network Construction
1、construct a subnetwork of instances for each feature view
利用高斯热核为每个特征视图中的实例构建子网,其中
为第v个视图中m个实例的平均欧氏距离。
2、construct a bag subnetwork for each feature view
利用豪斯多夫距离为每个试图中的包构建子网
3、construct a subnetwork of labels
利用cosine相似度来量化标签相关性,其中
和为两个标签,是标签c在所有包中的分布。
以上三部分便构建完了实例-实例,包-包,标签-标签的子网,另外,通过数据集的信息,作者继续构建包-实例,包-标签,实例-标签之间的数据矩阵。
4、The bag-instance inter-relational data matrix
.
5、The bag-label relational matrix
.
6、The instance-label relational data matrix
. 初始,实例-标签的数据矩阵未知,设为0.
3.2 Collaborative Matrix Factorization
论文所提方法M3Lcmf的目标函数所下所示:
M3Lcmf有两个预测项:实例-标签的联系
和包-标签的联系。除了直接利用趋近,作者增加了一个整合项。这个整合项受多实例学习原理的驱动,即包的标签取决于其实例的标签。另外,此整合项可以反向指导和的学习。
由目标函数的前三项可以看出,M3Lcmf构建了包-实例,包-标签,实例-标签之间的关系。按照流行正则的思想,促使有着高相似性的数据点在低维空间内相似,构成MR(G),利用图拉普拉斯矩阵来构建包-包,实例-实例,标签-标签之间的关系。
最后,可以利用优化好的
和来获取实例-标签的相关性矩阵:,同样,要将实例的标签进一步映射到相应的包上,作者利用来趋近包-标签相关性矩阵。因此,M3Lcmf既可以实现包级预测也可以实现实例级预测。
Experiments
Datasets
前五个数据集为包级的数据集,后四个为实例级的数据集。
Metric
1、Ranking Loss (RankLoss),
2、macro AUC (Area Under receiver operating Curve)
3、Average Recall (AvgRecall),
4、Average F1-score (AvgF1).
Results
1、Prediction Results at the Bag-Level
M3Lcmf优于MIMLmix和M2IL:M3Lcmf利用了更多对象之间的关系;
M3Lcmf优于MIML方法(MIMLNN, MIMLfast 和 MIMLSVM):MIML相比于M3Lcmf利用了更少的实体之间的关系;
MIMLRBF性能逼近M3Lcmf:尽管MIMLRBF利用了更少的实体关系,但是MIMLRBF利用神经网络来获取特征表示。
2、Prediction Results at the Instance-Level
M3Lcmf性能最优,MIMLmix第二,MIMLfast第三是因为MIMLmix没有利用包-包联系和实例-实例之间的关系,MIMLfast在此基础上,还没有利用实例-标签的关系。
3、Contribution of Different Types of Relations
说明实体之间的各种关系都有助于M3L方法的学习。
参数敏感实验详情请见原论文。
参考文献
[Nguyen, Zhan, and Zhou 2013] Nguyen, C. T.; Zhan, D. C.; and Zhou, Z. H. 2013. Multi-modal image annotation with multi-instance multi-label lda. In IJCAI, 1558–1564.
[Nguyen et al. 2014] Nguyen, C. T.; Wang, X.; Liu, J.; and Zhou, Z. H. 2014. Labeling complicated objects: multi-view multi-instance multi-label learning. In AAAI, 2013–2019.
[Yang et al. 2018] Yang, Y.; Wu, Y.-F.; Zhan, D.-C.; Liu, Z.- B.; and Jiang, Y. 2018. Complex object classification: A multi-modal multi-instance multi-label deep network with optimal transport. In KDD, 2594–2603.
[Li et al. 2017] Li, B.; Yuan, C.; Xiong, W.; Hu, W.; Peng, H.; Ding, X.; and Maybank, S. 2017. Multi-view multi-instance learning based on joint sparse representation and multi-view dictionary learning. TPAMI 39(12):2554–2560.
[Zhou et al. 2008] Zhou, Z. H.; Zhang, M. L.; Huang, S. J.; and Li, Y. F. 2008. Miml: A framework for learning with ambiguous objects. Corr Abs 2012.
[Huang, Gao, and Zhou 2018] Huang, S.-J.; Gao, W.; and Zhou, Z.-H. 2018. Fast multi-instance multi-label learning. TPAMI 99(1):1–14.
[Zhang and Wang 2009] Zhang, M. L., and Wang, Z. J. 2009. Mimlrbf: Rbf neural networks for multi-instance multi-label learning. Neurocomputing 72(16-18):3951–3956.
推荐阅读
多视图多示例多标签的协同矩阵分解相关推荐
- 【推荐系统】多视图多示例多标签的协同矩阵分解
嘿,记得给"机器学习与推荐算法"添加星标 题目: Multi-View Multi-Instance Multi-Label Learning based on Collabora ...
- 【论文解读】多视图多示例多标签的协同矩阵分解
题目: Multi-View Multi-Instance Multi-Label Learning based on Collaborative Matrix Factorization 会议: A ...
- jsf用于页面判断的标签_JSF –在JSF视图页面中添加标签,图像,按钮和文本字段
jsf用于页面判断的标签 There are various UI components that JSF framework includes by default. Let us see some ...
- Qt 视图框架示例 Colliding Mice 的翻译
目录名字 Qt 视图框架示例 Colliding Mice 的翻译 简介: Mouse Class 定义 Mouse Class 定义 The Main() 函数 Qt 视图框架示例 Collidin ...
- 集合视图控制器(CollectionViewController) 、 标签控制器(TabBarController) 、 高级控件介绍...
1 创建集合视图,设置相关属性以满足要求 1.1 问题 集合视图控制器UIConllectionViewController是一个展示大量数据的控制器,系统默认管理着一个集合视图UICollect ...
- MIML系列(一):Fast Multi-Instance Multi-Label Learning 快速多示例多标签学习
MIML系列(一):Fast Multi-Instance Multi-Label Learning 快速多示例多标签学习 目前的研究方向是基于MIML的,然而网上关于MIML的论文讲解有点少,因 ...
- 多示例多标签学习(MIML系列文章总结)
从入学以来就一直调研图像标注相关文章.调研发现,传统的监督学习中,一个图像区域以一个instance(示例)呈现,并仅关联于一个label(标签).很多图像多标签标注的方法是通过将图像进行物体分割(o ...
- 推荐系统系列教程之十五:一网打尽协同过滤、矩阵分解和线性模型
编者按:之前推出了<推荐系统系列教程>,反响不错,前面已经推出了十四期,今天按约推出第十五期:一网打尽协同过滤.矩阵分解和线性模型.希望朋友们多点"在看",多多转发,我 ...
- 矩阵sum_推荐系统——从协同过滤到矩阵分解
本文简单扼要地介绍推荐算法中的两种经典算法:协同过滤和矩阵分解.内容有以下三部分 协同过滤算法 矩阵分解 协同过滤与矩阵分解的关系 早期的推荐系统以业务理解为核心,通过复杂的规则描述来向用户推荐商品, ...
最新文章
- QT 5.4.1 for Android Ubuntu QtWebView Demo
- APP启动原理,APPdelegate程序状态解析
- centos 服务详解
- 快速优雅的为React组件生成文档
- BUGLY集成升级空指针问题
- esp8266接收到的数据如何存放到数组中_java零基础——数组
- Java继承_java练习本(20190617)
- yolo算法_不到2MB,超轻YOLO算法!准确率接近YOLOv3,速度快上45%
- python函数可变长参数_day14 Python函数之可变长参数
- linux远程日志rsyslog服务端和客户端安装(亲测)--自定义接收日志格式
- 【POJ 3279】【开关问题】Fliptile【暑期 No.5】
- C++网易云课堂开发工程师-操作符重载
- 中南大学19软工上岸青年的一点考研经验
- 量化投资学习——股指期货研究(八)
- 用户分类以及用户活跃度的衡量方法
- 最全面DS18B20中文资料
- 使用ESP8266-01S 作为Station PC作为Server通讯出现 ERROR CLOSED问题的解决办法
- 用html+js用canvas 实现刮风下雨特效【建议收藏】
- DP4344音频转换芯片ACD/DAC完全兼容CS4344音频解码
- 家用 NAS 服务器(1)| 配置选择及准备
热门文章
- 2021年起重机械指挥考试总结及起重机械指挥考试技巧
- 2022年上半年软考科目有哪些?要注意
- JavaScript学习笔记(二)
- 创业团队:太极图形团队
- Windows系统cmd命令+实用工具
- 无线网关服务器搭建教程,【树莓派】简易LoRa网关搭建+服务器设置一条龙教程(the things network)...
- 根据给定的三边,判断能否则组成一个三角形若能用这三个数作为边长组成三角形( 任意两边之和大于第三边),能组成三角形计算并输出该三角形的面积,否则输出Can‘t。 (提示:Can‘t输出直接放到双引号中
- 【ZeloEngine】ImGui汇总
- JavaDoc文档生成
- JAVA实现Excel模板填充