欧式空间与希尔伯特空间

 在学习统计学习方法的时候，遇到核技巧的时候，理解从输入空间到特征空间的非线性映射出现了俩个空间，有些难懂，特意做一些笔记欧几里得空间，希尔伯特空间，巴拿赫空间或者是拓扑空间都属于函数空间。函数空间 = 元素 + 规则 ，即一个函数空间由 元素 与 元素所满足的规则 定义，而要明白这些函数空间的定义首先得从距离，范数，内积，完备性等基本概念说起

距离

  说到距离，我们首先想到的是点与点之间的距离，除此之外还有向量之间的距离，曲线之间的距离，函数之间的距离…。这儿谈到 距离 的定义是一种泛指的概念。点与点之间的距离 与 距离 就类似于苹果与水果之间的关系。距离 这个概念的作用主要用于衡量同一空间不同元素之间的差异情况，从这个出发点我们可以得到关于距离的一些属性：

元素之间的距离大于等于0，若距离等于0则为相同元素。
元素A到B之间的距离等于元素B到A之间的距离。
元素之间的距离满足三角不等式。
满足以上三条属性即可称作元素之间的距离，其正式定义如下

  设X是一个非空集合，任给一对这一集合的元素 X , Y X,Y X,Y。都给定一个实数 d ( X , Y ) d(X,Y) d(X,Y) 与之对应，并且满足

d ( X , Y ) ≥ 0 ; d ( X , Y ) = 0 ⇔ X = Y ; d(X,Y) \ge 0 ; \quad d(X,Y) =0 \Leftrightarrow X=Y ; d(X,Y)≥0;d(X,Y)=0⇔X=Y;
d ( X , Y ) = d ( Y , X ) ; d(X,Y)=d(Y,X); d(X,Y)=d(Y,X);
d ( X , Y ) ≤ d ( X , Z ) + d ( Y , Z ) ; d(X,Y) \le d(X,Z)+d(Y,Z); d(X,Y)≤d(X,Z)+d(Y,Z);
则称 d ( X , Y ) d(X,Y) d(X,Y)是元素X,Y之间的距离

线性

线性这个概念可以说是很熟悉了，即为加法与乘法的结合。若一个空间为线性空间，只要我们知道了此空间的所有基，便可以用加法与数乘表示这一空间所有的元素，如二维平面中能用X轴的单位向量与Y轴的单位向量表示此平面的任意向量

范数

范数的概念是在距离的基础上多了一个零点的概念，拥有范数的空间称作赋范空间，用符号 ||X|| 表示元素 X 的范数。因为范数的概念是在距离的概念上加了新的限制，则赋范空间一定是度量空间。我们可以用范数定义距离：
d ( X , Y ) = ∣ ∣ X − Y ∣ ∣ d(X,Y)=||X-Y||
d(X,Y)=∣∣X−Y∣∣

总结：元素 X X X的范数||X|| 可简单看做 X X X到零点的近距离。

内积

X与 Y Y Y的内积用符号 ( X , Y ) (X,Y) (X,Y)表示，内积的结果同样是为实数。内积是在范数的概念上加了更多限制条件，即内积空间一定为赋范空间，同样的，可以用内积定义范数如下：
||X||^2 = (X,X)

   目前为止便完成了本文的大部分内容，有限维内积空间便是我们最熟悉的欧几里得空间

完备

完备性这个概念的历史渊源比较深厚，作为非数学专业的工科生我也不太明白完备性的具体含义，简单来说对集合中的元素取极限不超出此空间便称其具有完备性，完备性是在极限的基础上衍生的概念。例如在有理数集上的一个序列{1，1.4，1.41，1.414，1.4142…}，可知此序列极限为 √2

线性完备内积空间称作希尔伯特空间
线性完备赋范空间称作巴拿赫空间
有限维线性内积空间称作欧几里得空间

参考

https://blog.csdn.net/weixin_36811328/article/details/81207753

欧式空间与希尔伯特空间相关推荐

有没有人被向量空间、内积空间、欧式空间、希尔伯特空间、巴拿赫空间概念折磨的？
第一篇,记录一下.看到CSDN年度描述说这个号有15年代码龄,惭愧,都是业余兴趣看看而已,啥都不会问个问题,有没有人被向量空间.内积空间.欧式空间.希尔伯特空间.巴拿赫空间这些概念折磨的够呛 ,被吓 ...
欧氏空间内积定义_向量空间、赋范空间、内积空间、欧式空间、希尔伯特空间...
从数学的本质来看,最基本的集合有两类:线性空间(有线性结构的集合).度量空间(有度量结构的集合).线性空间与度量空间是两个不同的概念,没有交集. 一. 线性空间 1. 线性空间的定义定义:设V是一个 ...
如何理解线性赋范空间、希尔伯特空间，巴拿赫空间，拓扑空间
版权声明:本文为博主原创文章,未经博主允许不得转载. https://blog.csdn.net/MR_Hai_CN/article/details/53207307 赋范空间,度量空间,线性赋范空间 ...
欧几里得空间希尔伯特空间
在数学中有许多空间表示,比如向量空间.内积空间.欧式空间以及希尔伯特空间等. 1.距离的定义具体的距离:实际上距离除了我们经常用到的直线距离外,还有向量距离, 函数距离. 曲面距离.折线距离等等,这 ...
数据升维到希尔伯特空间
将数据转换到希尔伯特空间前言向量空间:也称线性空间(线性空间对加法和数乘是封闭的,即输出结果仍在该空间内).该空间集合中对应的元素是向量.二维.三维空间中每个点都可用唯一个向量来表示,因此也是向量 ...
MachineLearning(4)-核函数与再生核希尔伯特空间
核函数与再生核希尔伯特空间 1.支持向量积-核函数 2.一个函数为核函数的条件 3.核函数与希尔伯特空间 3.1希尔伯特空间-Hilbert空间 1.支持向量积-核函数核(kernel)的概念由Ai ...
概念理解:希尔伯特空间、内积、共轭
希尔伯特空间欧几里得空间与希尔伯特空间 https://blog.csdn.net/weixin_36811328/article/details/81207753 如何理解希尔伯特空间 https ...
机器学习背后的数学：希尔伯特空间
核理论(Kernel)在机器学习中是非常重要的一个概念,例如在SVM中,借助Kernel可以使得那些本来线性不可分的数据集在新空间中变得线性可分,此外,还有Kernel PCA等.而在学习与Kerne ...
什么是赋范线性空间、内积空间，度量空间，希尔伯特空间
作者:qang pan 链接:https://www.zhihu.com/question/19967778/answer/28403912 现代数学的一个特点就是以集合为研究对象,这样的好处就是可以 ...
从线性空间到再生核希尔伯特空间（RKHS）
在学习机器学习的同学如果对SVM中的核函数进行深究,一定会见到再生核希尔伯特空间(RKHS)这个概念,其他理工科的同学往往也会在书中遇到希尔伯特空间这样的字眼,还有什么巴拿赫空间.赋范线性空间等等.但 ...

欧式空间与希尔伯特空间

欧式空间与希尔伯特空间

距离

线性

范数

内积

完备

参考

欧式空间与希尔伯特空间相关推荐

最新文章

热门文章