论文讲解-Tripartite: Tackle Noisy Labels by a More Precise Partition

论文基本信息

题目：Tripartite: Tackle Noisy Labels by a More Precise Partition
地址：https://arxiv.org/pdf/2202.09579.pdf
领域：知识蒸馏

1. abstract & motivation

数据质量对于模型精度至关重要，数据集中一般混有部分噪声数据或者误标注的数据，误标注的数据会导致模型学偏，因此最好的办法就是在训练集中去除这种数据。

相比于正常的数据，噪声数据或者难样本计算的loss一般要更大一些，因此可以将其作为判断样本类型的依据。

为了避免噪声数据对于模型训练的损害，同时最大化数据的价值，这篇论文在使用的时候，本文在训练的时候，给hard-data赋予很低的loss权重，同时使用自监督的方法去血吸噪声数据的信息。实验证明，文本提出的方法可以更准确地过滤掉噪声数据，同时在5个benchmark上也超过了现有SOTA。

2. introduction

现有处理noisy label的方法主要有2种。

（1）small loss criterion：该方法假设noisy label的loss很大，因此可以设置阈值T，当 l o

论文讲解-Tripartite: Tackle Noisy Labels by a More Precise Partition相关推荐

[论文阅读笔记58]Learning from Noisy Labels with Deep Neural Networks：A Survey
1.题目 Learning from Noisy Labels with Deep Neural Networks: A Survey 作者团队:韩国科学技术院(KAIST) Song H , Kim ...
《Confident Learning: Estimating Uncertainty in Dataset Labels》论文讲解
1.参考链接 (1)别让数据坑了你!用置信学习找出错误标注 (2)curriculum learning 摘要 "confidence"这个概念以前都是focus在模型上,这里我们 ...
论文阅读Jo-SRC: A Contrastive Approach for Combating Noisy Labels
Jo-SRC: A Contrastive Approach for Combating Noisy Labels Abstract Introduction Method Summary 整理了文章 ...
论文解读：Are Noisy Sentences Useless for Distant Supervised Relation Extraction?
论文解读:Are Noisy Sentences Useless for Distant Supervised Relation Extraction? 注:本文章初次编辑为2020年9月2日,最新编 ...
Learning with noisy labels总结
Learning with noisy labels总结 Deep Label Distribution Learning With Label Ambiguity Joint Optimizatio ...
COMA(一)： Learning to Communicate with Deep Multi-Agent Reinforcement Learning 论文讲解
Learning to Communicate with Deep Multi-Agent Reinforcement Learning 论文讲解论文链接:https://papers.nips.c ...
EMNLP-21-Learning from Noisy Labels for Entity-Centric Information Extraction-noise label
Learning from Noisy Labels for Entity-Centric Information Extraction 文章目录 Learning from Noisy Labels ...
方面级情感分析综述论文论文+讲解+复现(ABSA)
2022最新方面级别情感分析论文综述: A Survey on Aspect-Based Sentiment Analysis:Tasks, Methods, and Challenges 其中关于A ...
Open-Vocabulary Object Detection Using Captions论文讲解
文章目录一.论文前言二.提出原因三.论文的核心四.论文讲解 4.1 论文流程 4.2 OVD与之前相关的setting 4.3 结果对比一.论文前言目标检测是人工智能最突出的应用之一,也是 ...

论文讲解-Tripartite: Tackle Noisy Labels by a More Precise Partition

论文基本信息

1. abstract & motivation

2. introduction

论文讲解-Tripartite: Tackle Noisy Labels by a More Precise Partition相关推荐

最新文章

热门文章