有序回归： Ordinal Regression的理解

今天读文献，遇到有序回归（Ordinal Regression）算法。

通过简单的调研，这里说一下自己对有序回归的理解。

Ordinal Regression就是解决类别之间有某种顺序关系的模型，比如年龄，收入等。使模型除了考虑分类损失以外，还要考虑不同类别之间的顺序关系，使与真实标签排序更近的误判的损失小于远离真实标签的误判的损失。

有序回归问题可以看作是分类问题和回归问题的中间问题。（It can be considered an intermediate problem between regression and classification--wikipedia）

逻辑回归

原始的逻辑回归只解决二分类问题，由二分类问题进而也可以扩展到多分类问题。参考李航的《统计学习方法》。

分类问题可用于对猫，狗，鸟，花等的分类。

有序回归

但是，当不同类别的类别之间有一定的顺序关系时，仅仅使用分类损失是不够的。

比如：我们对人的年龄进行分类：0岁，1岁和2岁。这时仅仅使用分类损失是不够的。

如果一个样本的真实年龄是0，如果用分类方法，我们把它的年龄分类成1岁和2岁时的损失是相等的。但是，明显1岁要比2岁，更加接近于0岁，1岁是一个比2岁更可被接受的分类。因此从应用意义上，1岁应该比2岁有更小的损失。

有序回归就是解决这个问题，除了考虑分类损失以外，还要考虑误分类的类别和真实类别之间的排序关系，排序更近的损失应该更小。

有序回归的一个典型应用就是年龄估计的问题：年龄估计：Ordinal Regression

参考：年龄估计：Ordinal Regression

有序回归（Ordinal regression）和逻辑回归有什么区别？--知乎

有序回归： Ordinal Regression的理解相关推荐

逻辑回归(logistic regression)原理理解+matlab实现
使用梯度下降法迭代: function theta =logisticReg() % 梯度下降法寻找最合适的theta,使得代价函数J最小 options=optimset('GradObj','on ...
有序回归（ordinal regression)
假如有如下训练数据: (x1,明天),(x2,后天),(x3,大后天). 其中第一项x表示一个事件,第二项表示该事件发生的时间. 现在需要你训练一个模型,能够给定事件x作为输入,输出其发生的时间. 乍 ...
Faster RCNN原理篇（一）——Bounding-Box Regression边界框回归的学习和理解
Bounding-Box Regression边界框回归的学习和理解引言 1. (Why?)为何要做边框回归? 2. (What?)什么是边框回归? 3. (How?)如何实现边框回归? 4. 边框 ...
机器学习之回归(Regression)再理解
文章目录一前言引入 1. 回归定义及应用场景 2. 解决步骤 3. 过拟合和解决方法二回归问题再理解 1. 问题提出 2. 问题解决三结束语一前言引入 1. 回归定义及应用场景 ...
Soft Labels for Ordinal Regression阅读笔记
Soft Labels for Ordinal Regression CVPR-2019 Abstract 提出了简单有效的方法约束类别之间的关系(其实就是在输入的label中考虑到类别之间的顺序关系 ...
Rank-consistent Ordinal Regression for Neural Networks
Rank-consistent Ordinal Regression for Neural Networks 摘要分类任务的网络结构已经得到显著的发展,但是常用的损失函数(例如多类别交叉熵)不能解决 ...
Deep Ordinal Regression Network for Monocular Depth Estimation 单目深度估计,论文阅读,DORN；视频笔记
tags: 单目深度估计,论文阅读,DORN 原始论文是: Deep Ordinal Regression Network for Monocular Depth Estimation Huan Fu ...
Coursera公开课笔记: 斯坦福大学机器学习第六课“逻辑回归(Logistic Regression)”
Coursera公开课笔记: 斯坦福大学机器学习第六课"逻辑回归(Logistic Regression)" 斯坦福大学机器学习第六课"逻辑回归"学习笔记,本次 ...
斯坦福大学机器学习第四课“逻辑回归(Logistic Regression)”
斯坦福大学机器学习第四课"逻辑回归(Logistic Regression)" 本次课程主要包括7部分: 1) Classification(分类) 2) Hypothesis R ...
逻辑回归(logistic regression)的本质——极大似然估计
文章目录 1 前言 2 什么是逻辑回归 3 逻辑回归的代价函数 4 利用梯度下降法求参数 5 结束语 6 参考文献 1 前言逻辑回归是分类当中极为常用的手段,因此,掌握其内在原理是非常必要的.我会争 ...

有序回归： Ordinal Regression的理解

有序回归： Ordinal Regression的理解相关推荐

最新文章

热门文章