点到超平面距离的证明

点到超平面距离

在支持向量机的推导中，我们介绍了式（6-2）
w和b就可以确定确定一个超平面，我们就将由w和b确定的该超平面记为(w,b)，任意点x到超平面(w,b)的距离为
r = ∣ w T x + b ∣ ∣ ∣ w ∣ ∣ (6-2) r=\frac{\lvert w^Tx+b \rvert}{\mid \mid w\mid\mid} \tag{6-2} r=∣∣w∣∣∣wTx+b∣(6-2)
这里给出证明

对于任一点 x 0 = ( x 1 0 , x 2 0 , . . . , x n 0 ) T x_0=(x_1^0,x_2^0,...,x_n^0)^T x0=(x10,x20,...,xn0)T，设其在超平面 w T x + b = 0 w^Tx+b=0 wTx+b=0上的投影点（即从 x 0 x_0 x0做一条垂直于该超平面的直接与超平面的交叉点）为 x 1 = ( x 1 1 , x 2 1 , . . . , x n 1 ) T x_1=(x_1^1,x_2^1,...,x_n^1)^T x1=(x11,x21,...,xn1)T，则 w T x 1 + b = 0 w^Tx_1+b=0 wTx1+b=0（因为 x 1 x_1 x1在该超平面上），且向量 x 1 x 0 ⃗ \vec{x_1x_0} x1x0 与超平面的法向量平行（即 x 1 x 0 ⃗ \vec{x_1x_0} x1x0 \\ w w w）
∣ w ⋅ x 1 x 0 ⃗ ∣ = ∣ ∣ ∣ w ∣ ∣ ⋅ c o s π ⋅ ∣ ∣ x 1 x 0 ⃗ ∣ ∣ ∣ = ∣ ∣ ∣ w ∣ ∣ ⋅ ∣ ∣ x 1 x 0 ⃗ ∣ ∣ ∣ (1) \mid w\cdot \vec{x_1x_0}\mid=\mid\mid \mid w\mid \mid \cdot cos\pi \cdot \mid \mid\vec{x_1x_0} \mid \mid \mid=\mid\mid \mid w\mid \mid\cdot \mid \mid\vec{x_1x_0} \mid \mid \mid \tag{1} ∣w⋅x1x0 ∣=∣∣∣w∣∣⋅cosπ⋅∣∣x1x0 ∣∣∣=∣∣∣w∣∣⋅∣∣x1x0 ∣∣∣(1)

而这里的 ∣ ∣ x 1 x 0 ⃗ ∣ ∣ \mid \mid \vec{x_1x_0} \mid \mid ∣∣x1x0 ∣∣正是我们想要的，我们将其记为r
式（1）可变为
∣ w ⋅ x 1 x 0 ⃗ ∣ = ∣ ∣ w ∣ ∣ ⋅ ∣ ∣ x 1 x 0 ⃗ ∣ ∣ = ∣ ∣ w ∣ ∣ ⋅ r (2) \mid w\cdot \vec{x_1x_0}\mid= \mid \mid w\mid \mid\cdot \mid \mid\vec{x_1x_0} \mid \mid=\mid \mid w\mid \mid\cdot r \tag{2} ∣w⋅x1x0 ∣=∣∣w∣∣⋅∣∣x1x0 ∣∣=∣∣w∣∣⋅r(2)

我们可以用向量的方式求 w ⋅ x 1 x 0 ⃗ w\cdot \vec{x_1x_0} w⋅x1x0 ，
w ⋅ x 1 x 0 ⃗ = ( w 1 , w 2 , . . . , w n ) ⋅ ( x 1 0 − x 1 1 , x 2 0 − x 2 1 , . . . , x n 0 − x n 1 ) = w 1 ( x 1 0 − x 1 1 ) + w 2 ( x 2 0 − x 2 1 ) + . . . + w n ( x n 0 − x n 1 ) = w 1 x 1 0 + w 2 x 2 0 + . . . + w n x n 0 − ( w 1 x 1 1 + w 2 x 2 1 + . . . + w n x n 1 ) = w T x 0 − w T x 1 = w T x 0 + b (3) \begin{aligned} w\cdot \vec{x_1x_0}&= (w_1,w_2,...,w_n)\cdot (x_1^0-x_1^1,x_2^0-x_2^1,...,x_n^0-x_n^1)\\ &=w_1(x_1^0-x_1^1)+w_2(x_2^0-x_2^1)+...+w_n(x_n^0-x_n^1)\\ &=w_1x_1^0+w_2x_2^0+...+w_nx_n^0-(w_1x_1^1+w_2x_2^1+...+w_nx_n^1)\\ &=w^Tx_0-w^Tx_1\\ &=w^Tx_0+b \tag{3} \end{aligned} w⋅x1x0 =(w1,w2,...,wn)⋅(x10−x11,x20−x21,...,xn0−xn1)=w1(x10−x11)+w2(x20−x21)+...+wn(xn0−xn1)=w1x10+w2x20+...+wnxn0−(w1x11+w2x21+...+wnxn1)=wTx0−wTx1=wTx0+b(3)

将式（3）带入式（2）即可求得r，即点到直线的距离
∣ w ⋅ x 1 x 0 ⃗ ∣ = ∣ ∣ w ∣ ∣ ⋅ r r = ∣ w T x 0 + b ∣ ∣ ∣ w ∣ ∣ (4) \begin{aligned} \mid w\cdot \vec{x_1x_0}\mid&=\mid \mid w\mid \mid\cdot r\\ r&=\frac{\mid w^Tx_0+b\mid}{\mid \mid w\mid \mid} \tag{4} \end{aligned} ∣w⋅x1x0 ∣r=∣∣w∣∣⋅r=∣∣w∣∣∣wTx0+b∣(4)

点到超平面距离的证明相关推荐

点到超平面距离的原理推导
什么是超平面? 首先有个直观的理解,一条直线的超平面是这条直线上的一个点(一维的超平面是零维),一个平面的超平面是这个平面上的一条直线(二维的超平面是一维),一个空间的超平面是这个空间内的一个平面(三 ...
《西瓜书》第六章公式6.2推导空间任一点到超平面的距离
在样本空间中,划分超平面可通过如下线性方程来描述:wTx+b=0(西瓜书,6.1)w^Tx+b=0 \quad\quad (西瓜书,6.1)wTx+b=0(西瓜书,6.1) 其中 w 决定了超平面的方 ...
点到面距离公式向量法_点到线或面的距离公式
我们知道高中解析几何或立体几何题中时常需要知道点到线的距离或点到面的距离.下面我们给出这两个公式以及它们的巧妙证明. 点到线的距离已知直线的方程为 ,平面上任意一点到该直线的距离的公式为: 证 ...
三角形一点到三边距离最小_三角形内有没有一个点到三边距离之和最小 -
不论是不是内心, 一个点到三边的距离都是垂线段的长度, 相互之间不能直接比较. 正确的结论是这样的: ①若三角形不等腰, 则平面上到三边距离和最小的点是最大内角的顶点. ②若三角形等腰, 而底边大于腰 ...
三角形一点到三边距离最小_三角形内有没有一个点到三边距离之和最小
不论是不是内心 , 一个点到三边的距离都是垂线段的长度 , 相互之间不能直接比较 . 正确的结论是这样的 : ①若三角形不等腰 , 则平面上到三边距离和最小的点是最大内角的顶点 . ②若三角形等腰 , ...
三角形一点到三边距离最小_三角形内部一点到三边距离之和的上界与下界
三角形内部一点到三边距离之和的上界与下界刘健 [摘要] @@ 设△ABC 内部任意一点 P 到三边 BC,CA,AB 的距离分别是 r1,r2,r3, 三边上的高线为 ha,hb,hc 则成立不等 ...
python点到多边形距离，点到轮廓距离
python点到多边形距离最简单例子: 负数表示在多边形外,正数代表多边形内. 要求:hull的数据必须是int类型,不能是float类型. import numpy as nppoint=(7,7 ...
POJ 1584 A Round Peg in a Ground Hole 判断凸多边形，点到线段距离，点在多边形内
ACM博客_kuangbin POJ 1584 A Round Peg in a Ground Hole(判断凸多边形,点到线段距离,点在多边形内) A Round Peg in a Ground H ...
HDU3662(求三维凸包表面的多边形个数，表面三角形个数，体积，表面积,凸包重心，凸包中点到面的距离)
题目:3D Convex Hull 题意:给定空间中的n个点,求这n个点形成的凸包的表面的多边形个数. 增量法求解:首先任选4个点形成的一个四面体,然后每次新加一个点,分两种情况: 1> 在 ...

点到超平面距离的证明

点到超平面距离

点到超平面距离的证明相关推荐

最新文章

热门文章