【机器学习详解】SVM解回归问题

转载请注明出处：http://blog.csdn.net/luoshixian099/article/details/51121767

CSDN−勿在浮沙筑高台

\color{Blue}{CSDN-勿在浮沙筑高台}
对于SVM解分类二分类问题，及多分类问题，在上一篇文章已经详述 http://blog.csdn.net/luoshixian099/article/details/51073885。本文将对SVM解回归问题，进行分析。

1.方法分析

在样本数据集 (xn,tn) (x_n,t_n)中， tn t_n不是简单的离散值，而是连续值。如在线性回归中，预测房价的问题。与线性回归类似，目标函数是正则平方误差函数：

在SVM回归算法中，目的是训练出超平面 y=wTx+b y=w^Tx+b，采用 yn=wTxn+b y_n=w^Tx_n+b作为预测值。为了获得稀疏解，即计算超平面参数 w,b w,b不依靠所有样本数据，而是部分数据（如在SVM分类算法中，支持向量的定义），采用 ϵ−insensitive \epsilon-insensitive 误差函数–Vapnik,1995。
ϵ−insensitive \epsilon-insensitive 误差函数定义为，如果预测值 yn y_n与真实值 tn t_n的差值小于阈值 ϵ \epsilon将不对此样本点做惩罚，若超出阈值，惩罚量为 |yn−tn|−ϵ |y_n-t_n|-\epsilon。

下图为 ϵ−insensitive \epsilon-insensitive 误差函数与平方误差函数的图形

2.目标函数

观察上述的 Eϵ E_{\epsilon} 误差函数的形式,可以看到，实际形成了一个类似管道的样子，在管道中样本点，不做惩罚，所以被称为 ϵ−tube \epsilon-tube，如下图阴影红色部分

采用 Eϵ E_{\epsilon}替代平方误差项，因此可以定义最小化误差函数作为优化目标：

由于上述目标函数含有绝对值项不可微。我们可以转化成一个约束优化问题，常用的方法是为每一个样本数据定义两个松弛变量 ξn≥0,ξn^≥0 \xi_n\geq0,\hat{\xi_n}\geq0，表示度量 tn t_n与 ϵ−tube \epsilon-tube的距离。
如上图所示：
当样本点真实值 tn t_n位于管道上方时， ξn>0 \xi_n>0,写成表达式： tn>y(xn)+ϵ t_n>y(x_n)+\epsilon时， ξn>0，ξ^n=0 \xi_n>0，\hat\xi_n=0；
当样本点真实值 tn t_n位于管道下方时， ξn^>0 \hat{\xi_n}>0,写成表达式： tn<y(xn)−ϵ t_n时， ξn^>0，ξn=0 \hat{\xi_n}>0，\xi_n=0；
因此使得每个样本点位于管道内部的条件为：
当 tn t_n位于管道上方时， ξn>0 \xi_n>0，有 tn−y(xn)−ξn≤ϵ t_n-y(x_n)-\xi_n\leq\epsilon
当 tn t_n位于管道下方时， ξn^>0 \hat{\xi_n}>0，有 y(xn)−tn−ξ^n≤ϵ y(x_n)-t_n-\hat{\xi}_n\leq\epsilon
误差函数可以写为一个凸二次优化问题：

约束条件：
ξn≥0 \xi_n\geq0
ξn^≥0 \hat{\xi_n}\geq0
tn−y(xn)−ξn≤ϵ t_n-y(x_n)-\xi_n\leq\epsilon
y(xn)−tn−ξ^n≤ϵ y(x_n)-t_n-\hat{\xi}_n\leq\epsilon
写成拉格朗日函数：

3.对偶问题

上述问题为极小极大问题： minw,b,ξn,ξn^ maxμn,μn^,αn,αn^L min_{w,b,\xi_n,\hat{\xi_n}}\ max_{\mu_n,\hat{\mu_n},\alpha_n,\hat{\alpha_n}}L与SVM分类分析方法一样，改写成对偶问题 maxμn,μn^,αn,αn^ minw,b,ξn,ξn^L max_{\mu_n,\hat{\mu_n},\alpha_n,\hat{\alpha_n}}\ min_{w,b,\xi_n,\hat{\xi_n}}L；首先分别对 w,b,ξn,ξn^ w,b,\xi_n,\hat{\xi_n}求偏导数

带回到拉格朗日函数中，化简得到只关于 αn,αn^ \alpha_n,\hat{\alpha_n}的函数，目标即最大化此函数。

约束条件为：
0≤αn≤C 0\leq\alpha_n\leq C
0≤αn^≤C 0\leq \hat{\alpha_n} \leq C,其中 k(xn,xm)=(xn)Txm k(x_n,x_m)=(x_n)^Tx_m为向量内积。
下面考虑KKT条件：

由式7.65,7.66知：
当 αn≠0 \alpha_n\neq0时，必有 ϵ+ξn+y(xn)−tn=0 \epsilon+\xi_n+y(x_n)-t_n=0,这些点位于管道上方边界出，或者管道上面。
当 α^n≠0 \hat\alpha_n\neq0时，必有 ϵ+ξn−y(xn)+tn=0 \epsilon+\xi_n-y(x_n)+t_n=0,这些点位于管道下方边界出，或者管道下面。
同时，由式7.65,7.66知，对于任意一个数据点，由于 ϵ>0 \epsilon>0，则 αn，α^n \alpha_n，\hat\alpha_n不可能同时不为0，而且得到在管道内部的点，必然有 αn=0，α^n=0 \alpha_n=0，\hat\alpha_n=0。

4.超平面计算：

把 w w表达式带入到y=wTx+by=w^Tx+b得：

由上述的分析，影响超平面参数的点为位于管道边界处，或者管道外面。
关于b的计算，可以考虑在管道上方边界处一个点必然有：
ξn=0 \xi_n=0
ϵ+ξn+y(xn)−tn=0 \epsilon+\xi_n+y(x_n)-t_n=0
联立解出：

参考：PRML