关于矩阵相乘

图1.Trefethen, Lloyd N., and David Bau III. Numerical linear algebra. Vol. 50. Siam, 1997.中关于矩阵相乘的解释
图 2. 图 1的翻译

上图中

代表一个向量,严格说是一个向量的“系数向量”, 该向量的基是标准基
。在求解方程
的过程中,其实就是在求解:如果想用矩阵
的列向量来表示
向量
, 那么对应的系数向量
应该是什么呢?结果就是
。反指亦然。这就是图 2的一个解释。

特别的,当矩阵

是一个标准正交矩阵时候,由于
(* 代表矩阵的共轭转置Hermitian transpose) 因此上图也可以改为:
图 3. 图 2的标准正交矩阵特例

矩阵的奇异值分解(Singular value decomposition, SVD)

任何矩阵

都可以找到一组标准正交向量组成的矩阵
,使得:
其中
也是标准正交向量组成的矩阵,
除了主对角线上的元素都是0.

换句话就是对于一个矩阵

,总能找到一组相互垂直的向量(
的列向量),这组向量被矩阵
“作用”过之后亦然是一组相互垂直的向量(
的列向量),但是
中列向量的长度被缩放过。

翻译过来就是:对于随便一个矩阵

, 都可以找到一组标准正交向量,(
的列向量)在
的作用下得到另外一组(被缩放过的)互相正交的向量
(其中
)是标准正交向量组,
是缩放系数)。
图 4. SVD的一个图形化解释

图4的一个

的矩阵
,能找到一组正交的向量
,作用之后得到了另外一组正交的向量
, 不过每个向量被缩放过(

由于标准正交矩阵转置就可以得到该矩阵的逆矩阵(

),因此:
可以写成
,
。其中
是向量
在标准坐标基
下的系数向量。根据 图 3,操作
相当于把标准坐标基
下的系数向量
先转化为以
的列向量为基的系数,然后
在进行缩放(
),得到以
列向量为基的向量系数。这一系列操作恰好与“对于随便一个矩阵
, 都可以找到一组标准正交向量,(
的列向量)在
的作用下得到另外一组(被缩放过的)互相正交的向量
(其中
)是标准正交向量组,
是缩放系数)”契合。

svd奇异值分解_矩阵相乘和奇异值分解(SVD)相关推荐

  1. svd奇异值分解_传统推荐算法(一)SVD推荐(1)解读奇异值分解

    文章目录 写在前面 1. 从几何变换到奇异值分解 2. 代数角度理解奇异值与奇异向量 2.1 从正交基映射推导SVD 2.2 特征值分解求解奇异值和奇异向量 2.2.1 求解过程 2.2.2 推论 2 ...

  2. python实现奇异值分解_如何用python实现SVD分解呢?

    泻药,这篇文章是如何使用几种不同的矩阵分解算法计算相关艺术家.代码用Python编写,以交互方式可视化结果. 原文链接:http://tecdat.cn/?p=6054​tecdat.cn 加载数据 ...

  3. 解方程AX=b与矩阵分解:奇异值分解(SVD分解) 特征值分解 QR分解 三角分解 LLT分解

    文章目录 1. 前言 2. LU三角分解 3. Cholesky分解 - LDLT分解 4. Cholesky分解 - LLT分解 5. QR分解 6. 奇异值分解 7. 特征值分解 1. 前言 本博 ...

  4. 矩阵分解 (特征值/奇异值分解+SVD+解齐次/非齐次线性方程组)

    ,#1. 用途# 1.1 应用领域 最优化问题:最小二乘问题 (求取最小二乘解的方法一般使用SVD) 统计分析:信号与图像处理 求解线性方程组: Ax=0或Ax=b Ax = 0 或 Ax =b 奇异 ...

  5. 视觉SLAM中的数学——解方程AX=b与矩阵分解:奇异值分解(SVD分解) 特征值分解 QR分解 三角分解 LLT分解

    前言 本博客主要介绍在SLAM问题中常常出现的一些线性代数相关的知识,重点是如何采用矩阵分解的方法,求解线性方程组AX=B.主要参考了<计算机视觉--算法与应用>附录A以及Eigen库的方 ...

  6. 矩阵的奇异值分解matlab,矩阵奇异值分解(SVD)

    看到一个博客园里讲解奇异值分解的博文,说的很清楚,加深了对SVD的理解,分享一下! 强大的矩阵奇异值分解(SVD)及其应用 摘录一些话如下: 奇异值分解是一个有着很明显的物理意义的一种方法,它可以将一 ...

  7. svd奇异值分解_奇异值分解SVD

    点击上方蓝字关注我们 奇异值分解(SVD)在计算机视觉中有着广泛的应用,如数据降维.推荐系统.自然语言处理等.本文是介绍SVD的数学计算过程,并从SVD的性质说明其应用的原理. 01特征值与特征向量 ...

  8. 奇异值分解图片压缩_通俗易懂的讲解奇异值分解(SVD)和主成分分析(PCA)

    图片来自Unsplash上的Dave 0.本教程包含以下内容 特征分解 对称矩阵的特征分解 奇异值分解(The Singular Value Decomposition,SVD) 主成分分析(Prin ...

  9. 主成分分析逆变换_通俗易懂的讲解奇异值分解(SVD)和主成分分析(PCA)

    图片来自Unsplash上的Dave 0.本教程包含以下内容 特征分解 对称矩阵的特征分解 奇异值分解(The Singular Value Decomposition,SVD) 主成分分析(Prin ...

最新文章

  1. Tomcat灵活配置多项目,多端口,多域名,多虚拟目录
  2. 示波器到底选择多大的带宽合适
  3. Python自定义:粒子群优化算法
  4. 每天一个 liunx 命令 ls
  5. c语言函数库——ispunct函数 判断字符是否为标点符号或特殊字符
  6. Linux 下用C语言连接 sqlite
  7. 计算ndvi值需要的数据_ENVI中计算植被覆盖指数
  8. 诗与远方:无题(六十六)- 清明时节雨纷下
  9. (转)Spring4.2.5+Hibernate4.3.11+Struts2.3.24整合开发
  10. 一起看懂Redis两种持久化方式的原理
  11. BIM族库下载——Revit灯具族库
  12. Java 替换word文档文字
  13. 68pin SCSI接头针脚排序
  14. 2019年华为JAVA面试题系列
  15. SpringBoot之使用Security
  16. 东京丛林 扮演动物的游戏
  17. python阶梯图_Python制图你真的会吗?一文学会如何绘制漂亮的阶梯图
  18. linux下boost编译安装全过程脚本塈bzip2编译安装全过程脚本
  19. docker实现quagga_docker和Quagga BGP
  20. 用其他账号登录插件 齐博 php,WordPress禁止某些用户账号登录源码插件“盘他”下载...

热门文章

  1. python图像变形
  2. 使用迁移学习不断的自我纠正神经网络
  3. jsonp跨域实现单点登录,跨域传递用户信息以及保存cookie注意事项
  4. 查看mysql是否安装成功和mysql的版本信息
  5. [转]深刻理解Python中的元类(metaclass)
  6. rpm包安装apache发布多个虚拟主机
  7. **PHP foreach 如何判断为数组最后一个最高效?
  8. 八月十二日,周二总结
  9. SELECT-OPTIONS对象
  10. c#如何用一个程序打开另一个程序(如:窗体的注销重启)