题目

习题6.1 试证明样本空间中任意点xxx到超平面（w,b）（w,b）（w,b）的距离为式（6.2）

r=∣wTx+b∣∣∣w∣∣(6.2)r=\frac{|w^Tx+b|}{||w||} \tag{6.2} r=∣∣w∣∣∣wTx+b∣(6.2)

证明

-设点xxx到超平面SSS上的投影为x1{x_1}x1,则w⋅x1+b=0w\cdot{x_1}+b=0w⋅x1+b=0
由于x1x⃗\vec{x_1x}x1x与SSS的法向量w{w}w平行

∣w⋅x1x⃗∣=∣w∣∣x1x⃗∣⏟要求的距离r=∣w∣r\begin{aligned} |{w}\cdot\vec{x_1x}| &=|{w}|\underbrace{|\vec{x_1x}|}_\text{要求的距离r}\\ &=|{w}|r \end{aligned} ∣w⋅x1x∣=∣w∣要求的距离r∣x1x∣=∣w∣r

由于欧式距离下，向量的模=向量的L2L_2L2范数

∣w⋅x1x⃗∣=∣w∣r=∣∣w∣∣r(1)\begin{aligned} |{w}\cdot\vec{x_1x}|=|{w}|r=||{w}||r\tag1 \end{aligned} ∣w⋅x1x∣=∣w∣r=∣∣w∣∣r(1)

一般如果范数不写下标，比如∣∣w⃗∣∣||\vec{w}||∣∣w∣∣，默认为L2L_2L2范数。
∣∣w∣∣2=∣∣w∣∣||{w}||_2=||{w}|| ∣∣w∣∣2=∣∣w∣∣

又因为
w⋅xx1⃗⏞向量的内积=wT(x1−x)=wTx1−wTx(2)\begin{aligned} \overbrace{w\cdot\vec{xx_1}}^\text{向量的内积}&=w^T(x_1-x)\\ &=w^Tx_1-w^Tx\tag2 \end{aligned} w⋅xx1向量的内积=wT(x1−x)=wTx1−wTx(2)
已知
w⋅x1+b=0w⋅x1=−b(3)w\cdot{x_1}+b=0\\ w\cdot{x_1}=-b\tag3 w⋅x1+b=0w⋅x1=−b(3)
把（3）代入（2）中得到
w⋅xx1⃗=−b−wTx(4)w\cdot\vec{xx_1}=-b-w^Tx\tag4 w⋅xx1=−b−wTx(4)
把（4）代入（1）中

∣−b−wTx∣=∣∣w∣∣r(5)\begin{aligned} |-b-w^Tx|=||{w}||r\tag5 \end {aligned} ∣−b−wTx∣=∣∣w∣∣r(5)
即
r=∣wTx+b∣∣∣w∣∣r=\frac{|w^Tx+b|}{||w||} r=∣∣w∣∣∣wTx+b∣

西瓜书 6.1 计算样本空间任意点x到超平面（w，b）的距离d相关推荐

周志华机器学习（西瓜书）学习笔记（持续更新）
<周志华机器学习>笔记第1章绪论 1.1 引言 1.2 基本术语 1.3 假设空间 1.4 归纳偏好 1.5 发展历程 1.6 应用现状第2章模型评估与选择 2.1 经验误差与过拟 ...
西瓜书学习（task2）
4.1.1 组成一颗决策树包含一个根结点.若干个子结点和若干个叶结点. 根结点:包含样本全集: 子结点:对应属性划分,包含划分样本: 叶结点:对应决策结果,包含决策样本. 从根结点到每个叶结点的路径 ...
《西瓜书》第六章公式6.2推导空间任一点到超平面的距离
在样本空间中,划分超平面可通过如下线性方程来描述:wTx+b=0(西瓜书,6.1)w^Tx+b=0 \quad\quad (西瓜书,6.1)wTx+b=0(西瓜书,6.1) 其中 w 决定了超平面的方 ...
西瓜书重温(四): 决策树手推版
1. 写在前面今天复习的决策树模型, 对应的是西瓜书的第四章内容, 关于决策树模型,重要性不言而喻了, 这个是后面集成学习模型的基础, 集成学习里面不管是bagging家族里面的代表随机森林,还是b ...
机器学习学习笔记-西瓜书
#西瓜书笔记文章目录模型评估和选择线性模型决策树神经网络支持向量机贝叶斯分类集成学习聚类性能度量与距离计算原型聚类密度聚类层次聚类降维与度量学习特征选择与稀疏学习计算学 ...
#《机器学习》_周志华(西瓜书)南瓜书_第6章支持向量机
待做: P134-P139理论部分整理习题,补充问题: 1.距离计算 2.线性核和高斯核? 第6章支持向量机 6.1 间隔与支持向量基于训练集DDD在样本空间中找到一个划分超平面. 对训练样本 ...
机器学习（西瓜书）注解：第12章计算学习理论
机器学习(西瓜书)注解:第12章计算学习理论本次更新第12章,计算学习理论.针对该章注解有任何问题欢迎在此留言~ 相信本章是很多读者望而却步的一章,相信本章是很多以本书为教材的老师在讲课时会直接跳 ...
秦州：西瓜书 + 南瓜书吃瓜系列 16. 计算学习理论（上）
吃瓜教程--西瓜书+南瓜书 Datawhale南瓜书是经典机器学习教材<机器学习>(西瓜书)的公式推导解析指南,旨在让在学习西瓜书的过程中,再也没有难推的公式,学好机器学习. 内容属性:机 ...
西瓜书读书笔记整理（二）—— 第一章绪论
第一章绪论第一章绪论 1.1 引言 1. 什么是机器学习 2. 机器学习的主要内容 3. 模型与模式 1.2 基本术语 1. 数据集 / 训练集 / 验证集 / 测试集 2. 示例 / 样本 3 ...

西瓜书 6.1 计算样本空间任意点x到超平面（w，b）的距离d

西瓜书 6.1 计算样本空间任意点x到超平面（w，b）的距离d

题目

证明

西瓜书 6.1 计算样本空间任意点x到超平面（w，b）的距离d相关推荐

最新文章

热门文章

西瓜书 6.1 计算 样本空间任意点x到超平面（w，b）的距离d

西瓜书 6.1 计算 样本空间任意点x到超平面（w，b）的距离d

题目

证明

西瓜书 6.1 计算 样本空间任意点x到超平面（w，b）的距离d相关推荐

最新文章

热门文章

西瓜书 6.1 计算样本空间任意点x到超平面（w，b）的距离d

西瓜书 6.1 计算样本空间任意点x到超平面（w，b）的距离d

西瓜书 6.1 计算样本空间任意点x到超平面（w，b）的距离d相关推荐