矩阵的乘法

矩阵对向量可以做拉伸也可以做旋转

对角矩阵对向量(x,y)(x,y)(x,y)在x轴上拉伸了3倍。非对角矩阵对向量(x,y)(x,y)(x,y)不仅做了拉伸，同时也做了旋转。

特征值和特征向量到底描述了什么

举个例子：打拳击。我们可以把方向当做特征向量，在这个方向上用多大的力量就是特征值。

特征向量可以说是主要的前进目标，特征值是向这个目标产生多大的作用。

数学定义

对于给定矩阵A，寻找一个常数λ\lambdaλ和非零向量xxx，使得向量xxx被矩阵A作用后所得的向量AxAxAx与原向量xxx平行，并且满足Ax=λxAx=\lambda xAx=λx。如下图所示：

λ\lambdaλ就是特征值，xxx就是特征值λ\lambdaλ对应的特征向量。

例如要做降维操作，10维的数据，每一维度都有一个特征向量，有下面两个维度逇特征向量，应该选择哪一个？

如果有两个特征值λ1>λ2\lambda_1 > \lambda_2λ1>λ2，我们会认为λ1\lambda_1λ1对应的特征向量更重要，更有价值，所以在做降维操作时，选择特征值大的一个特征向量。

特征空间

特征空间包含了所有的特征向量。

应用

既然特征值表达了重要程度，并且和特征向量所对应，那么特征值大的就是主要信息了，基于这一点，我们可以提取各种有价值的信息了！

图像可以看做是一个矩阵，既然是矩阵，就可以算出这个矩阵的特征向量和特征值，我们如果取前10个特征值最大的特征向量，那么就可以对这个图像进行压缩，虽然图像变的有一些模糊，但是整体不会有太大变化。

使用numpy计算特征值和特征向量

import numpy as np# 创建矩阵 维度 4*2
data = np.array([[2, 4], [1, 3], [0, 0], [0, 0]])# 将矩阵转为方阵 维度 4*4
A = np.dot(data, data.T)
#A=array([[20, 14,  0,  0],
#       [14, 10,  0,  0],
#       [ 0,  0,  0,  0],
#       [ 0,  0,  0,  0]])
# 求A的特征值和特征向量
val,vector = np.linalg.eig(A)
# val=array([29.86606875,  0.13393125,  0.        ,  0.        ])
# vector=array([[ 0.81741556, -0.57604844,  0.        ,  0.        ],
#        [ 0.57604844,  0.81741556,  0.        ,  0.        ],
#        [ 0.        ,  0.        ,  1.        ,  0.        ],
#        [ 0.        ,  0.        ,  0.        ,  1.        ]])
特征值29.86606875 对应的

特征值29.86606875 对应的特征向量为[ 0.81741556，0.57604844，0 ，0]
特征值0.13393125对应的特征向量为[-0.57604844，0.81741556，0，0]

验证：

np.dot(A, vector[:,0])
# array([24.41298932, 17.20430221,  0.        ,  0.        ])
np.dot(val[0], vector[:,0])
# array([24.41298932, 17.20430221,  0.        ,  0.        ])np.dot(A, vector[:,1])
# array([-0.07715089,  0.10947749,  0.        ,  0.        ])
np.dot(vector[:, 1], val[1])
array([-0.07715089,  0.10947749,  0.        ,  0.        ])

矩阵data：

矩阵A：

特征值：

特征向量：

特征值和特征向量到底描述了什么相关推荐

花了10分钟，终于弄懂了特征值和特征向量到底有什么意义
转自 http://k.sina.com.cn/article_6367168142_17b83468e001005yrv.html 有振动就有特征值今天,超模君看到了一句神翻译: 吓得超模君马上 ...
特征值与特征向量的几何含义(转)
全文转自blog:http://blog.csdn.net/lfkupc/article/details/4561564 长时间以来一直不了解矩阵的特征值和特征向量到底有何意义(估计很多兄弟有同样感受 ...
特征值和特征向量的理解
最近看了几篇文章,对理解特征值和特征向量有很大帮助,贴到这里供日后复习花了10分钟,终于弄懂了特征值和特征向量到底有什么意义_豚-CSDN博客_特征向量有什么用转自 http://k.sina.co ...
使用python求解特征值与特征向量
#使用python求解特征值与特征向量问题描述: 求解矩阵[[1.25,0.375,0],[0.375,1.25,-0.5],[0,-0.5,0.875]]的特征值与特征向量参考链接1: 百度经验 ...
所谓的特征值和特征向量
在线性代数的最后,我们都会学矩阵的特征值分解,我们知道一个方阵A经过特征值分解后就得到特征向量和特征值了.那么,这个所谓的特征值和特征向量到底是什么东西呢? 我们一上来就会学到这样的一个公式: Ax ...
深入理解矩阵的特征值和特征向量
原 [数学基础]矩阵的特征向量.特征值及其含义 2018年08月31日 11:37:08 zhaosarsa 阅读数 4693 更多分类专栏: 数学版权声明:本文为博主原创文章,遵循 CC 4.0 ...
机器学习中的数学基础：(1)实际应用中矩阵特征值与特征向量的几何意义
关于特征值.特征向量的讲解有很多的教程,对于这些枯燥的数学基础怎么运用到自己的实际计算机视觉实验中,是一项很重要的任务.算法的底层其实就是数学公式的各种结合与推导,有时间不是我们不能很好的去理解这些算 ...
特征值与特征向量_矩阵的特征值和特征向量
不少学习过线性代数的同学可能都有这样的疑惑,就是线性代数到底是什么?我们算的这些东西究竟有什么用?回忆起这门课来可能仅有的印象也就是矩阵.向量.还有一个特征什么来着? 线性代数是一门相对较为年轻的学科 ...
特征值与特征向量的意义
转载地址:http://blog.csdn.net/sunshine_in_moon/article/details/45749691 从定义出发,Ax=cx:A为矩阵,c为特征值,x为特征向量. ...

特征值和特征向量到底描述了什么

矩阵的乘法

矩阵对向量可以做拉伸也可以做旋转

特征值和特征向量到底描述了什么

数学定义

特征空间

应用

使用numpy计算特征值和特征向量

特征值和特征向量到底描述了什么相关推荐

最新文章

热门文章