高维空间中点到超平面的距离

高维空间中点到超平面的距离可以表示为一个约束优化问题：
{min∥x−x0∥s.t.wTx+b=0\left \{ \begin{aligned} &min \quad\ \|x-x_{0}\|\\ &s.t. \quad\ w^{T}x+b=0\\ \end{aligned} \right. {min ∥x−x0∥s.t. wTx+b=0
其中，x0x_{0}x0为平面之外的一点，wTx+b=0w^{T}x+b=0wTx+b=0表示空间中的超平面。上式的含义为求超平面上一点，使其到x0x_{0}x0距离最短。该式等价于
{min12xTx−xTx0s.t.wTx+b=0\left \{ \begin{aligned} &min \quad\ \frac 1 2\ x^Tx-x^Tx_0 \\ &s.t. \quad\ w^{T}x+b=0\\ \end{aligned} \right. ⎩⎨⎧min 21 xTx−xTx0s.t. wTx+b=0
上述优化问题为等式约束的凸优化问题，可以用拉格朗日乘子法求解，其拉格朗日函数如下：
L(x,λ)=12xTx−xTx0+λ(wT+b)L(x,\lambda)=\frac 1 2\ x^Tx-x^Tx_0 + \lambda (w^T+b) L(x,λ)=21 xTx−xTx0+λ(wT+b)
对xxx求梯度可得：
∂L∂x=x−x0+λw\frac{\partial L}{\partial x}=x-x_0+\lambda w ∂x∂L=x−x0+λw
令梯度∂L∂x=0\frac {\partial L}{\partial x}=0∂x∂L=0，可得最优解
x∗=x0−λwx^*=x_0-\lambda w x∗=x0−λw
该式的物理意义非常清晰，即从点x0x_0x0沿平面法向量方向向平面延伸，该点到平面的距离即为延伸向量的长度∣λ∣∥w∥|\lambda|\|w\|∣λ∣∥w∥显然，根据约束条件可确定λ\lambdaλ的值，即将x∗x^*x∗代入约束中
wTx∗+b=wT(x0−λw)+b=0w^Tx^*+b=w^T(x_0-\lambda w)+b=0 wTx∗+b=wT(x0−λw)+b=0
可得
λ=wTx0+bwTw\lambda=\frac{w^Tx_0+b}{w^Tw} λ=wTwwTx0+b
所以点x0x_0x0到超平面的距离为
d=∣λ∣∥w∥=∣wTx0+b∣∥w∥2∥w∥d=|\lambda|\|w\|=\frac{|w^Tx_0+b|}{\|w\|^2}\|w\| d=∣λ∣∥w∥=∥w∥2∣wTx0+b∣∥w∥
即
d=∣wTx0+b∣∥w∥d=\frac{|w^Tx_0+b|}{\|w\|} d=∥w∥∣wTx0+b∣
将xxx和λ\lambdaλ的值代入目标函数中也能得到相同的结果。

高维空间中点到超平面的距离相关推荐

《西瓜书》第六章公式6.2推导空间任一点到超平面的距离
在样本空间中,划分超平面可通过如下线性方程来描述:wTx+b=0(西瓜书,6.1)w^Tx+b=0 \quad\quad (西瓜书,6.1)wTx+b=0(西瓜书,6.1) 其中 w 决定了超平面的方 ...
空间任一点到超平面的距离公式的推导过程
在感知机模型中,输入空间中任意一点到超平面S的距离: 其推导过程如下:
一个点到多边形顶点距离相同_走进高维空间——所有点之间的距离都相等！奇妙、疯狂、不可思议...
欢迎来到高维系列的第三部分,在这里我们将探索高维空间中一些奇怪而不可思议的现象.这是走进高维空间系列的第三部分,感兴趣的朋友可以阅读前两个部分,在文章的末尾我会附上链接. 今天我们将探索一种现象,这种 ...
Computer Science Theory for the Information Age-3: 高维空间中的高斯分布和随机投影
Computer Science Theory for the Information Age-3: 高维空间中的高斯分布和随机投影高维空间中的高斯分布和随机投影 (一)在高维球体表面产生均匀分布点 ...
Computer Science Theory for the Information Age-1: 高维空间中的球体
Computer Science Theory for the Information Age-1: 高维空间中的球体高维空间中的球体注:此系列随笔是我在阅读图灵奖获得者John Hopcroft ...
高维空间中的高斯分布和随机投影
高维空间中的高斯分布和随机投影高维空间中的高斯分布和随机投影 (一)在高维球体表面产生均匀分布点的方法我们来考虑一个采样问题,就是怎样在高维单位球体的表面上均匀的采样.首先,考虑二维的情况,就是在 ...
java点到直线的投影点到经纬度_12分高考答题必刷题型，“空间向量分析点到线的距离问题”...
12分高考答题必刷题型,"空间向量分析点到线的距离问题" 立体几何大题立体几何在各地高考中,基本都占据20分以上的比例,在解答方法上,小题技巧相对比较丰富,但大题解答上有明显的规 ...
点到直线的投影公式_12分高考答题必刷题型，“空间向量分析点到线的距离问题”...
12分高考答题必刷题型,"空间向量分析点到线的距离问题" 立体几何大题立体几何在各地高考中,基本都占据20分以上的比例,在解答方法上,小题技巧相对比较丰富,但大题解答上有明显的规 ...
高维空间中椭圆的基本方程
二维空间下椭圆基本方程为 (1) 这个是我们大家都熟知的,但是,如果背景空间不是二维空间,而是N维欧式 ...
点到超平面的距离公式
超平面: 第一步:求出超平面的法向量超平面上任意两点, 则向量一定垂直于该超平面的法向量.这两点满足: 两式相减: 就是向量,由此可以看出超平面的法向量就是向量第二步:求出点到超平面的距离r 假 ...

高维空间中点到超平面的距离

高维空间中点到超平面的距离相关推荐

最新文章

热门文章