再生核希尔伯特空间（Reproducing Kernel Hilbert Space）

一、Basic Definitions
- 1.The Basic Idea
- 2.The Reproducing Kernel Map（再生核映射）
二、Theorems and Proofs
- 1.Theorems
- 2.RKHS
总结

一、Basic Definitions

Outline
①给定一个核函数，构建一个特征空间，使得原空间中两个样本之间的核函数值是对应于特征空间中样本之间的内积。
②给定空间映射，构造关联核函数。

1.The Basic Idea

①Feature Mapping
空间映射，将低维无法使用直线分隔样本点的空间，映射到高维可以使用平面分隔样本点的空间，具体思想案例如下图所示：

②Kernel Matrix
投影空间的内积矩阵

Example

③半正定矩阵

Example

④半正定核矩阵
对于任意sample，都能构成半正定矩阵

正半定的核函数符合下面的柯西不等式：

⑤空间函数定义（The Space of Functions）
空间函数：从RdR^{d}Rd到RRR映射的所有函数的集合就叫函数集合的空间

实例1
下面的是一个R到R的两个函数实例，它们都属于RRR^{R}RR

实例2
R2→RR^{2}→RR2→R

2.The Reproducing Kernel Map（再生核映射）

再生核映射：向量到函数的映射函数（下面的example中 Φ(0)Φ(0)Φ(0)就是一个函数：φ0φ_{0}φ0 ），所有该映射代入值之后就可以形成核函数。

二、Theorems and Proofs

构建一个特征空间，要经过下面三个步骤

1.Theorems

①Vector Space over RRR
向量空间要符合下面八个条件：

②Reproducing Kernel Map

③Rd→RRdR^{d}→R^{R^{d}}Rd→RRd向量空间的映射

下方的f、gf、gf、g是属于FkF_{k}Fk中的函数

Example
上面的定义就是相当于所有实例XXX代入 Φ 之后的线性组合，这样的组合是无穷的，也即组成了FkF_{k}Fk的集合

④Inner Production Space

现在证明FkF_{k}Fk属于内积空间

Example

推论

证明FkF_{k}Fk是内积空间过程

Kernel Function →Feature Mapping

⑤度量空间

⑥Cauchy Sequence in Metric Space
所有点都收敛在这个空间里面

⑦Hilbert Space

2.RKHS

再生核希尔伯特空间空间含义：由当前d维空间映射到希尔伯特空间，这个映射函数的内积就相当于核函数（再生核的含义），因此再生核希尔伯特空间只是满足这些条件，这里面的空间并不是点空间而是函数空间。

总结

再生核希尔伯特空间（Reproducing Kernel Hilbert Space）相关推荐

MachineLearning(4)-核函数与再生核希尔伯特空间
核函数与再生核希尔伯特空间 1.支持向量积-核函数 2.一个函数为核函数的条件 3.核函数与希尔伯特空间 3.1希尔伯特空间-Hilbert空间 1.支持向量积-核函数核(kernel)的概念由Ai ...
再生核希尔伯特空间（RKHS）
今天看一篇论文,看到了一个名词,RKHS(Reproducing Kernel Hilbert space)即再生核希尔伯特空间,不太明所以,所以百度查一查,这里简单记录一下. 线性空间通俗来讲,线 ...
函数空间一览：从线性空间到再生核希尔伯特空间
文章目录 0. 基础概念 0.1 代数系统 0.2 数域 0.3 完备的空间 1. 线性空间/向量空间 2. 度量空间 3. 赋范向量空间 4. 内积空间 5. 巴拿赫空间 6. 希尔伯特空间 7. ...
再生希尔伯特空间_向量、函数向量、再生核希尔伯特空间、核技巧
参考引用:A Story of Basis and Kernel 来源:http://songcy.net/ 向量与内积在一个空间中,我们可以通过个独立向量的线性组合来表示这个空间里的任意向量. ...
从线性空间到再生核希尔伯特空间（RKHS）
在学习机器学习的同学如果对SVM中的核函数进行深究,一定会见到再生核希尔伯特空间(RKHS)这个概念,其他理工科的同学往往也会在书中遇到希尔伯特空间这样的字眼,还有什么巴拿赫空间.赋范线性空间等等.但 ...
什么是赋范线性空间、内积空间，度量空间，希尔伯特空间
作者:qang pan 链接:https://www.zhihu.com/question/19967778/answer/28403912 现代数学的一个特点就是以集合为研究对象,这样的好处就是可以 ...
核希尔伯特空间（RKHS）
这里写自定义目录标题引自 https://blog.csdn.net/ChangHengyi/article/details/80577318 什么是数学中的空间我们知道数学的特点就是抽象,数学家 ...
希尔伯特空间（Hilbert Space）是什么？
希尔伯特空间是老希在解决无穷维线性方程组时提出的概念, 原来的线性代数理论都是基于有限维欧几里得空间的, 无法适用, 这迫使老希去思考无穷维欧几里得空间, 也就是无穷序列空间的性质. 大家知道, 在一 ...
java hilbert空间算法_通俗理解Hilbert希尔伯特空间
作者:qang pan 链接:https://www.zhihu.com/question/19967778/answer/28403912 来源:知乎著作权归作者所有.商业转载请联系作者获得授权, ...

再生核希尔伯特空间（Reproducing Kernel Hilbert Space）

再生核希尔伯特空间（Reproducing Kernel Hilbert Space）

一、Basic Definitions

1.The Basic Idea

2.The Reproducing Kernel Map（再生核映射）

二、Theorems and Proofs

1.Theorems

2.RKHS

总结

再生核希尔伯特空间（Reproducing Kernel Hilbert Space）相关推荐

最新文章

热门文章