小样本点云深度学习库_论文 | 小样本学习综述
转自:专知【https://www.zhuanzhi.ai/】
【导读】现有的机器学习方法在很多场景下需要依赖大量的训练样本。但机器学习方法是否可以模仿人类,基于先验知识等,只基于少量的样本就可以进行学习。本文介绍41页小样本学习综述《Few-shot Learning: A Survey》,包含146篇参考文献,来自第四范式和香港科技大学习的研究学者。
论文地址:
Few-shot Learning: A Surveywww.zhuanzhi.ai
目录:
- 摘要
- 简介
- 概览
- 符号
- 问题定义
- 相关的学习问题
- 核心问题
- 分类
- 数据
- 利用变换来复制增强数据集
- 从别的数据集引入数据
- 总结
- 模型
- 多任务学习
- 嵌入学习
- 额外记忆学习
- 生成模型
- 总结
- 算法
- 改善已有参数
- 改善Meta-learned
- 学习搜索步骤
- 总结
- 未来工作
- 问题设置
- 技术
- 应用
- 理论
- 总结
【摘要】“机器会思考吗”和“机器能做人类做的事情吗”是推动人工智能发展的任务。尽管最近的人工智能在许多数据密集型应用中取得了成功,但它仍然缺乏从有限的数据示例学习和对新任务的快速泛化的能力。为了解决这个问题,我们必须求助于机器学习,它支持人工智能的科学研究。特别地,在这种情况下,有一个机器学习问题称为小样本学习(Few-Shot Learning,FSL)。该方法利用先验知识,可以快速地推广到有限监督经验的新任务中,通过推广和类比,模拟人类从少数例子中获取知识的能力。它被视为真正人工智能,是一种减少繁重的数据收集和计算成本高昂的培训的方法,也是罕见案例学习有效方式。随着FSL研究的广泛开展,我们对其进行了全面的综述。我们首先给出了FSL的正式定义。然后指出了FSL的核心问题,将问题从“如何解决FSL”转变为“如何处理核心问题”。因此,从FSL诞生到最近发表的作品都被归为一个统一的类别,并对不同类别的优缺点进行了深入的讨论。最后,我们从问题设置、技术、应用和理论等方面展望了FSL未来可能的发展方向,希望为初学者和有经验的研究者提供一些见解。
小样本学习方法体系:
- 我们给出了FSL的形式化定义。它可以自然地链接到以往文献中提出的经典机器学习定义。这个定义不仅足够概括,包括所有现有的FSL -shot Learning: A Survey problems,而且足够具体,明确了什么是FSL的目标,以及我们如何解决它。这一定义有助于确定未来FSL领域的研究目标。
- 指出了基于误差分解的FSL在机器学习中的核心问题。我们发现,正是不可靠的经验风险最小化使得FSL难以学习。这可以通过满足或降低学习的样本复杂度来缓解。理解核心问题有助于根据解决核心问题的方式将不同的工作分类为数据、模型和算法。更重要的是,这为更有组织和系统地改进FSL方法提供了见解。
- 我们对从FSL诞生到最近发表的文献进行了广泛的回顾,并将它们进行了统一的分类。对不同类别的优缺点进行了深入的讨论。我们还对每个类别下的见解进行了总结。这对于初学者和有经验的研究人员都是一个很好的指导方针。
- 我们在问题设置、技术、应用和理论方面展望了FSL未来的四个发展方向。这些见解都是基于当前FSL发展的不足之处,并有可能在未来进行探索。我们希望这部分能够提供一些见解,为解决FSL问题做出贡献,为真正的AI而努力。
- 与已有的关于小样本概念学习和经验学习的FSL相关调相比,我们给出了什么是FSL,为什么FSL很难,以及FSL如何将小样本监督信息与先验知识结合起来使学习成为可能的正式定义。我们进行了广泛的文献审查的基础上提出的分类法与详细讨论的利弊,总结和见解。我们还讨论了FSL与半监督学习、不平衡学习、迁移学习和元学习等相关话题之间的联系和区别
元学习设置:
监督机器学习中常见设置与少样本设置的比较
基于嵌入学习的小样本学习方法
学习FSL问题的搜索步骤
小样本点云深度学习库_论文 | 小样本学习综述相关推荐
- 小样本点云深度学习库_小样本学习综述报告
文章内容整理:Enneng Yang, Xiaoqing Cao 本文仅作为学习交流使用,如有问题,请联系ennengyang@qq.com. 1.小样本问题的研究意义✚●○ 深度学习已经在各个领域取 ...
- 小样本点云深度学习库_基于点云深度学习的点云数据集制作系统及方法与流程...
本发明涉及测控技术领域,尤其涉及一种基于点云深度学习的点云数据集制作系统及方法. 背景技术: 深度学习网络模型一般都是基于64线单帧激光数据集进行.但64线激光器和单帧的限定,造成了工程应用中点云数据 ...
- 小样本点云深度学习库_NeurIPS2019 | MIT与上海交大提出新型点云深度学习框架Point-Voxel CNN...
首发于公众号:3D点云深度学习. 论文:'Point-Voxel CNN for Efficient 3D Deep Learning' 来源:NeurIPS2019Spotlight 共同一作:Zh ...
- 小样本点云深度学习库_合成鲁棒的对抗样本来欺骗深度学习分类器
本期一诺sec关注深度学习系统安全问题,推荐一篇来自ICML 2018会议论文Synthesizing Robust Adversarial Examples.论文链接http://proceedin ...
- 小样本点云深度学习库_2019-01-07-小样本深度学习
小样本数据通常不建议用深度学习的理由: 对于classification model,有如下结论 训练样本N,h为Vc维数,详见https://www.cnblogs.com/HappyAngel/p ...
- 亚马逊深度学习库_汽车Linux,8位社交,与Amazon的深度学习以及更多新闻
亚马逊深度学习库 在本周的开源新闻摘要中,我们将介绍汽车Linux,社交8位,具有神经网络的深度学习等等! 2016年5月7日至14日的开源新闻摘要 汽车用Linux等于大型汽车制造商的快速创新 Li ...
- 微信小程序云函数传递数组_微信小程序云开发一周入门
作为一个程序员,一直想自己做一款程序,无奈工作以来一直做的是数据处理的工作.数据库用的挺溜,但前端就两眼一抹黑了.早在微信小程序刚出来的时候,就关注过,但考虑到前端后端的种种因素,一直没太做深入的了解 ...
- 微信小程序云函数传递数组_微信小程序云开发能力之数据库基础概念
云开发提供了一个 JSON 数据库,顾名思义,数据库中的每条记录都是一个 JSON 格式的对象.何为JSON 格式的对象? 像这样的{"name":"温仪" , ...
- 计算机论文专著 论文集,学习计算机方面论文参考文献 学习计算机专著类参考文献有哪些...
[100个]学习计算机方面论文参考文献,每一个论文参考文献都是精选出来的,看了后定能知晓学习计算机专著类参考文献有哪些等相关写作技巧,让学习计算机论文写作轻松起来! 一.学习计算机论文参考文献范文 [ ...
最新文章
- 周志华教授:关于深度学习的一点思考
- 004-安装CentOS7后需要的操作
- SQL Server 命令行管理工具:SqlLocalDB.exe
- matlab out of memory产生原因和解决办法
- POJ 4979 海贼王之伟大航路 【状压dp】【北大ACM/ICPC竞赛训练】
- C#删除字符串最后一个字符的几种方法
- 解决spring boot1.5以上版本@ConfigurationProperties提示“Spring Boot Configuration Annotation Processor not..
- mysql adduser_SQL创建登陆用户和赋予权限
- 设计模式之GOF23建造者模式
- java 换行规范_JAVA代码规范(一)
- 美国的卫星导航系统服务器,中国的北斗卫星和美国的gps到底哪个更厉害?
- BP神经网络综合评价法
- C# Winform鼠标样式设置方法
- 【2021】朱伟(恋练有词)
- 【KSQL引擎 介绍】
- 微信浏览器页面默认背景色的问题
- MTK 平台lcm驱动框架分析1
- 2017年中国智慧城市PPP模式发展情况分析
- a标签 download属性不生效,一直还是预览图片BUG
- C# 实现WinForm窗口最小化到系统托盘代码
热门文章
- Java代理系列-静态代理
- [置顶] 任务三 主题、样式
- 利用SQL查找表中的质数(prime number)和完全数(perfect number)以及几个有趣的SQL语句...
- pycharm快捷键_春节快结束了回单位途中总结下pycharm快捷键
- python和noip的区别_【noi与noip的区别】
- 云海技术u盘怎么恢复成普通盘_BITLOCKER加密中断数据无法读取恢复一例
- SCHAR_MIN常数,C ++中的示例
- type c pin定义_在C中定义宏以设置和清除PIN的位
- java 方法 示例_Java ArrayDeque带有示例的removeFirstOccurrence()方法
- php脚本开头注释_PHP文件注释标记及规范小结