核函数是什么-数据的升维与降维

核函数是什么-数据的升维与降维

数据升维-从二维空间升维到三维希尔伯特空间

将二维空间数据x=（xi,xj）x=（x^i,x^j）x=（xi,xj）升到三维，因此需要映射ϕ\phiϕ对数据进行转换到三维希尔伯特空间，此时数据变为z=(zi,zj)z=(z^i,z^j)z=(zi,zj)；
定义希尔伯特空间中的内积，即在原空间中的内积xi∗xjx_i*x_jxi∗xj变为了zi∗zj=ϕ(xi)∗ϕ(xj)=k(xi,xj)z_i*z_j=\phi(x_i)*\phi(x_j)=k(x_i,x_j)zi∗zj=ϕ(xi)∗ϕ(xj)=k(xi,xj)，此处的k/内积k/内积k/内积称为核函数；
假设希尔伯特空间中核函数k的形式已知，为k(x,z)=(x∗z)2k(x,z)=(x*z)^2k(x,z)=(x∗z)2，其中x，z均来自于输入空间；
假设原二维空间中x=(x1,x2)T，z=(z1,z2)Tx=(x_1,x_2)^T，z=(z_1,z_2)^Tx=(x1,x2)T，z=(z1,z2)T，因此由已知的核函数形式可得两者在希尔伯特空间中的内积具体形式，因此现在需要找到映射ϕ(x)\phi(x)ϕ(x)，使得ϕ(x)ϕ(z)=k(x,z)\phi(x)\phi(z)=k(x,z)ϕ(x)ϕ(z)=k(x,z)；
设有第一个ϕ(x)=(x12,2x1x2,x22)T\phi(x)=(x_1^2,\sqrt{2}x_1x_2,x_2^2)^Tϕ(x)=(x12,2x1x2,x22)T，验证可得ϕ(x)ϕ(z)=k(x,z)\phi(x)\phi(z)=k(x,z)ϕ(x)ϕ(z)=k(x,z)，因此该ϕ(x)\phi(x)ϕ(x)为所求的一个核函数；
设有第二个ϕ(x)=12(x12−x22,2x1x2,x12+x22)T\phi(x)={1 \over \sqrt2} (x_1^2-x_2^2,2x_1x_2,x_1^2+x_2^2)^Tϕ(x)=21(x12−x22,2x1x2,x12+x22)T，验证可得ϕ(x)ϕ(z)=k(x,z)\phi(x)\phi(z)=k(x,z)ϕ(x)ϕ(z)=k(x,z)，因此该ϕ(x)\phi(x)ϕ(x)也为所求的一个核函数；
因此可知，一个核函数可以有多个映射ϕ\phiϕ，另外ϕ\phiϕ也不用特意去找，最重要的是核函数。
在实际使用核函数时，往往是先将数据进行内积，然后将内积后的结果进行转换到希尔伯特空间；而不是先映射数据到高维空间再内积，因为如此则计算量过多，且复杂。

数据降维-从四维空间降维到三维希尔伯特空间

四维空间数据x=(x1,x2,x3,x4)x=(x_1,x_2,x_3,x_4)x=(x1,x2,x3,x4)的转化同理

以上就是全部内容

核函数是什么-数据的升维与降维相关推荐

[机器学习与scikit-learn-33]：算法-回归-通过PolynomialFeatures实现数据的升维
作者主页(文火冰糖的硅基工坊):文火冰糖(王文兵)的博客_文火冰糖的硅基工坊_CSDN博客本文网址:https://blog.csdn.net/HiWangWenBing/article/detai ...
numpy的array数组的数据升维与降维使用方法自学总结
本文主要介绍numpy中数据升维与降维问题升维注意数组的形式是n行1列还是1行n列 1.numpy.atleast_2d(数组名) 将输入视为至少具有二维的数组 2.numpy.atleast ...
张量的基本概念+张量的聚合、拼接、比较、随机化采样、序列化等操作+升维、降维
张量的基本概念+张量的聚合.拼接.比较.随机化采样.序列化等操作一.张量的基本概念二.张量的聚合操作三.张量的拼接操作张量的升维.降维一.张量的基本概念张量(Tensor),就是多维数组. ...
为什么TransFormer中的FFN有两层，先升维再降维？
为什么FFNN有两层,先升维再降维? Self-Attention模型的作用是提取语义级别的信息(不存在长距离依赖),FFNN实际上就是简单的MLP.唯一需要注意的是这个MLP的修饰词--Poin ...
Promise、数组的升维与降维
promise介绍 ES6教程传送门:http://es6.ruanyifeng.com/#docs/promise Promise是什么? Promise是一个构造函数,用于创建Promise对象 ...
工业的最强大脑—ET工业大脑，打通数据，升维“供、研、产、销”
摘要:阿里云工业大数据总监杨斌在2018云栖大会·深圳峰会中介绍了他们团队的ET工业大脑,通过大数据以及人工智能,创建一个工业的最强大脑,协助制造业实现关键工序智能化.生产过程智能优化控制等方面的转型 ...
numpy数据升维与降维
https://blog.csdn.net/weixin_44776220/article/details/105618704
张量（Tensor）的降维与升维
一.Tensor的降维--torch.squeeze()函数 1.tensor的维度小编对于张量的理解一直很模糊,今天用Excel来帮助大家理解,希望对大家有所帮助. 首先,张量是多维数组,这里不多 ...
python升维方法_python机器学习12：数据“升维”
1.向数据集添加交互式特征在实际应用中,常常会遇到数据集的特征不足的情况,要解决这个问题,就需要对数据集的特征进行扩充.这里我们介绍两种在统计建模中常用的方法---交互式特征(Interaction ...

核函数是什么-数据的升维与降维

核函数是什么-数据的升维与降维

数据升维-从二维空间升维到三维希尔伯特空间

数据降维-从四维空间降维到三维希尔伯特空间

以上就是全部内容

核函数是什么-数据的升维与降维相关推荐

最新文章

热门文章