OHEM算法论文理解
CVPR2016的文章,CMU与rbg大神的合作。原谅我一直没有对这篇文章做一个笔记~~
文章提出了一种通过online hard example mining(OHEM)算法训练基于区域的卷积检测算子的高效目标检测算法,能够对简单样本和一些小数量样本进行抑制,使得训练过程更加高效。该方法利用显著的bootstrapping技术(SVM中被普遍利用),对SGD算法进行一定的修改,使得原有的region-based ConvNets的启发式学习和多参数可以被移除,并得到较准确稳定的检测结果。在PASCAL VOC2007和2012中的mAP分别为:78.9%,76.3%。https://github.com/abhi2610/ohem
Hard example mining:
主要有2种参见Hard example mining算法,优化SVM时候的算法和非SVM时的利用。
在优化SVM中使用Hard example mining时,训练算法主要维持训练SVM和在工作集上收敛的平衡迭代过程,同时在更新过程中去除一些工作集中样本并添加其他特殊的标准。这里的标准即去掉一些很容易区分的样本类,并添加一些用现有的模型不能判断的样本类,进行新的训练。工作集为整个训练集中的一小部分数据。
非SVM中使用时,该Hard example mining算法开始于正样本数据集和随机的负样本数据集,机器学习模型在这些数据集中进行训练使其达到该数据集上收敛,并将其应用到其他未训练的负样本集中,将判断错误的负样本数据(false positives)加入训练集,重新对模型进行训练。这种过程通常只迭代一次,并不获得大量的再训练收敛过程。
注意点:bg_lo = 0.1, 这里已经近似的使用难例挖掘;
要使用OHEM时,建议采用正负比例设置为1:3,并且bg_lo =0;这样效果较好
网络结构框架:
OHEM算法基于Fast R-CNN算法进行改进,作者认为Fast R-CNN算法中创造mini-batch用来进行SGD算法,并不具有高效和最优的状态,而OHEM可以取得lower training loss,和higher mAP。对比下图两种算法Fast R-CNN和OHEM结构:
对比可以发现,文章提出的OHEM算法里,对于给定图像,经过selective search RoIs,同样计算出卷积特征图。但是在绿色部分的(a)中,一个只读的RoI网络对特征图和所有RoI进行前向传播,然后Hard RoI module利用这些RoI的loss选择B个样本。在红色部分(b)中,这些选择出的样本(hard examples)进入RoI网络,进一步进行前向和后向传播。
OHEM算法论文理解相关推荐
- A Learned Representation for Artistic Style论文理解
A Learned Representation for Artistic Style论文理解 这篇论文是在Perceptual losses for real-time style transfer ...
- Raft 一致性算法论文译文
本篇博客为著名的 RAFT 一致性算法论文的中文翻译,论文名为<In search of an Understandable Consensus Algorithm (Extended Vers ...
- React中diff算法的理解
React中diff算法的理解 diff算法用来计算出Virtual DOM中改变的部分,然后针对该部分进行DOM操作,而不用重新渲染整个页面,渲染整个DOM结构的过程中开销是很大的,需要浏览器对DO ...
- Vue中diff算法的理解
Vue中diff算法的理解 diff算法用来计算出Virtual DOM中改变的部分,然后针对该部分进行DOM操作,而不用重新渲染整个页面,渲染整个DOM结构的过程中开销是很大的,需要浏览器对DOM结 ...
- [计算机视觉] AprilTag 2: Efficient and robust fiducial detection(2016)论文理解
论文地址 chrome-extension://cdonnmffkdaoajfknoeeecmchibpmkmg/assets/pdf/web/viewer.html?file=https%3A%2F ...
- [计算机视觉] AprilTag: A robust and flexible visual fiducial system(2011)论文理解
论文地址 chrome-extension://cdonnmffkdaoajfknoeeecmchibpmkmg/assets/pdf/web/viewer.html?file=https%3A%2F ...
- Raft 一致性算法论文
本篇博客为著名的 RAFT 一致性算法论文的中文翻译,论文名为<In search of an Understandable Consensus Algorithm (Extended Vers ...
- Raft一致性算法论文
本篇博客为著名的 RAFT 一致性算法论文的中文翻译,论文名为<In search of an Understandable Consensus Algorithm (Extended Vers ...
- 论文理解【RL - Exp Replay】—— 【ReMERN ReMERT】Regret Minimization Exp Replay in Off-Policy RL
标题:Regret Minimization Experience Replay in Off-Policy Reinforcement Learning 文章链接:Regret Minimizati ...
- 计算机视觉中,目标跟踪相关算法论文总结
目标跟踪相关算法&论文总结 作为小白,近期想看一些目标跟踪相关的内容,但又无从下手,花了几天时间,找各种资料,总结了网上大佬们写的文章.(大部分来自CSDN.知乎.微信公众号,均已注明出处) ...
最新文章
- 分布式服务Dubbo+Zookeeper安全认证
- Unity-基本函数用法
- react实现上传文件进度条功能_React.js 可拖放文件的上传表单(支持多文件和进度显示)...
- 财务模块多组织,GL, SLA, SOB, COA, BSV, CCID, LE 概念的简单介绍
- [DJANGO] excel十几万行数据快速导入数据库研究
- 论PHP框架设计模式及MVC的缺陷
- jenkins(一)------Windows环境下jenkins下载和安装
- javascript设计模式--设计原则
- EDGE浏览器打开网页缓慢解决
- steam无法连接至计算机,详解无法连接至steam网络怎么办
- 【时间之外】几张图说清楚供应链金融赚钱方法
- allure报告定制
- Opencv实现击中击不中
- payjs插件php,基于payjs的discuz支付插件制作
- 【RL-TCPnet网络教程】第30章 RL-TCPnet之SNTP网络时间获取
- 汉诺塔(hanoi tower)游戏
- 飞控中加速度计数据fft分析
- 计算两组2D bbox的IOU
- 总有你值得一试的python开源项目
- sql server 数据库表中增加列,增加字段,插入列,插入字段,修改列,修改字段,
热门文章
- 虚函数、C++类、结构体、父类与子类的继承性
- linux命令大全dfs,Linux常用的dfs命令
- tukey 窗口_语音信号滤波去噪——使用TUKEYWIN窗设计的FIR滤波器.
- linux 权限 代码,linux 管理权限(示例代码)
- matlab在高等数学中的应用,Matlab在高等数学中的若干应用
- 腾讯云数据库TDSQL-学习心得与收获
- oa导入表格html,oa系统表单模板导入操作过程
- dsp调音一次多少钱_DSP调音到底调的是什么?什么是EQ?
- RFID FDX HDX Technology
- Ubuntu18.04找不到wifi适配器解决办法以及怎么上网