「正定矩阵」和「半正定矩阵」
在众多的机器学习模型中,线性代数的身影无处不在,当然,我们也会时常碰到线性代数中的正定矩阵和半正定矩阵。例如,多元正态分布的协方差矩阵要求是半正定的。
--------------×--------------×--------------
1. 基本的定义
正定和半正定这两个词的英文分别是positive definite和positive semi-definite,其中,definite是一个形容词,表示“明确的、确定的”等意思。
初学线性代数的读者可能会被这两个词“唬住”,但正定矩阵和半正定矩阵的定义实际上是很简单的 (不考虑复数构成的矩阵):
【定义1】给定一个大小为 的实对称矩阵 ,若对于任意长度为 的非零向量 ,有 恒成立,则矩阵 是一个正定矩阵。
【例1】单位矩阵 是否是正定矩阵?
解:设向量 为非零向量,则
由于 ,故 恒成立,即单位矩阵 是正定矩阵。
单位矩阵是正定矩阵 (positive definite)。
【简单证明】对于任意单位矩阵 而言,给定任意非零向量 ,恒有
【例2】 实对称矩阵 是否是正定矩阵?
解:设向量 为非零向量,则
因此,矩阵 是正定矩阵。
【定义2】给定一个大小为 的实对称矩阵 ,若对于任意长度为 的向量 ,有 恒成立,则矩阵 是一个半正定矩阵。
根据正定矩阵和半正定矩阵的定义,我们也会发现:半正定矩阵包括了正定矩阵,与非负实数 (non-negative real number)和正实数 (positive real number)之间的关系很像。
2. 从二次函数到正定/半正定矩阵
在初中数学中,我们学习了二次函数 ,该函数的曲线会经过坐标原点,当参数 时,曲线的“开口”向上,参数 时,曲线的“开口”向下。
以 为例,曲线如下:
实际上,我们可以将 视作 的多维表达式。
当我们希望 对于任意向量 都恒成立,就要求矩阵 是一个半正定矩阵,对应于二次函数, 需要使得 .
另外,在 中,我们还知道:若 ,则对于任意 ,有 恒成立。
这在 也有契合之处,当矩阵 是正定矩阵时,对于任意 , 恒成立。
3. 正定矩阵和半正定矩阵的直观解释
若给定任意一个正定矩阵 和一个非零向量 ,则两者相乘得到的向量 与向量 的夹角恒小于 . (等价于: .)
【例3】给定向量 ,对于单位矩阵 ,则
向量 之间的夹角为
即两个向量之间的夹角为0°.
【例4】给定向量 ,对于实对称矩阵 ,则
向量 之间的夹角为
即两个向量之间的夹角小于 .
若给定任意一个半正定矩阵 和一个向量 ,则两者相乘得到的向量 与向量 的夹角恒小于或等于 . (等价于: .)
3. 为什么协方差矩阵要是半正定的?
在概率论与数理统计中,我们都学习的协方差矩阵的定义:
对于任意多元随机变量 ,协方差矩阵为
现给定任意一个向量 ,则
其中,
由于 ,因此, ,协方差矩阵 是半正定的。
相关参考:
「正定矩阵」和「半正定矩阵」相关推荐
- 正定矩阵、负定矩阵、半正定矩阵、半负定矩阵
正定矩阵.负定矩阵.半正定矩阵.半负定矩阵 载▼ 1.正定矩阵 一个n×n的实对称矩阵M是正定的,当且仅当对于所有的非零实系数向量z,都有zTMz > 0.其中zT表示z的转置. 2.负 ...
- 线性代数学习笔记8-4:正定矩阵、二次型的几何意义、配方法与消元法的联系、最小二乘法与半正定矩阵A^T A
正定矩阵Positive definite matrice 之前说过,正定矩阵是一类特殊的对称矩阵: 正定矩阵满足对称矩阵的特性(特征值为实数并且拥有一套正交特征向量.正 / 负主元的数目等于正 / ...
- r语言中正定矩阵由于误差不正定_浅谈「正定矩阵」和「半正定矩阵」
在众多的机器学习模型中,线性代数的身影无处不在,当然,我们也会时常碰到线性代数中的正定矩阵和半正定矩阵.例如,多元正态分布的协方差矩阵要求是半正定的. --------------×--------- ...
- 逆天改命,机械飞升:渐冻症科学家拒绝等死,将自己改造成了「半机械人」...
点击上方"AI遇见机器学习",选择"星标"公众号 重磅干货,第一时间送达 来自:机器之心 作为人类的 Scott-Morgan 已经死去,未来的 Scott-M ...
- 从国企到互联网,一个初入职场将近一年半工作经验程序员的「得」与「失」
写在前面 2020 年 7 月 29 日,我只身一人来到北京,开始人生中的第一份工作,在一家国企从事软件开发工作. 2021 年 6 月底,我从国企离职,然后进入了一家互联网公司,从事软件开发工作. ...
- 脑洞大开!Adobe等新研究把「自拍」变「他拍」,魔幻修图效果感人
选自arXiv 作者:Liqian Ma.Zhe Lin等 机器之心编译 编辑:蛋酱.张倩.杜伟 自拍也能变为他拍,魔幻修图界又出新招式,但效果实在感人. 智能手机的出现,让摄影变成了一项大众艺术,也 ...
- DevOps:从「蒸汽时代」到「高铁时代」,SUNMI DevOps转型之路 | 原力计划
作者 | 文振熙.刘文沣 责编 | 徐威龙 封图| CSDN 下载于视觉中国 商米科技成立于 2013 年,总部位于上海市杨浦区创智天地,是一家具有产品创新基因和互联网基因的公司.商米在短时间内迅速成 ...
- 从「蒸汽时代」到「高铁时代」,SUNMI DevOps 转型之路 | 原力计划
作者 | 文振熙.刘文沣 责编 | 徐威龙 出品 | CSDN博客 封图| CSDN 下载于视觉中国 商米科技成立于 2013 年,总部位于上海市杨浦区创智天地,是一家具有产品创新基因和互联网基因的公 ...
- 导致我们形不成「自律」的「罪魁祸首」
大家好,我是涩郎,一名「知识挖掘师」兼「知识布道师」. 昨天极客时间不是上线了一门课程吗?叫:<如何成为学习高手>,是来自于北大学霸,知乎大 V 高冷冷的课程. 然后,我对这个作者很好奇, ...
最新文章
- 火星无人机「机智号」代码开源,1.2w人参与贡献
- Visual Studio 2017软件安装教程
- node.js发送邮件
- 华为Mate30与大疆手机云台3_更便捷更从容,大疆DJI OM 4手机云台使用体验
- 疫情下开源数据库逆势增长,新基建下国产数据库迎机遇
- mysql面试吗hi提_面试必备的10道MySQL题
- Win10 Edge浏览器续航碾压火狐/Chrome
- async与await详解
- GitLab 9提供了子群组、部署面板和集成监控
- 20200827 plecs blockset更新版本
- xtu oj 1355
- 上帝永远不会问你的十件事
- word操作——论文中——设置WPS奇偶页页眉内容不同和公式居中,公式的标号靠右、......
- 笔记本电脑 编程_如何选择笔记本电脑进行编程
- 湖西大学计算机专业排名,韩国留学热门的30个专业
- 知乎APP 产品分析
- 计算机网络复习题第四章(标有课本知识点)
- android友盟统计按钮点击次数,友盟统计按钮点击事件
- JavaScript 正则表达式实现表单验证
- EasyClick iOS脚本_免越狱_免硬件_iOS脱机版开放接口使用说明
热门文章
- 跟Excel say bye bye! 视觉化分析掌握财务报表重点
- 让你的简历不落窠臼,精雕细镂写一份真正的技术简历(Python向)
- Android应用离线中文语音识别PocketSphinx (免费哦~)
- SGX技术的分析与研究 学习笔记
- TPLINK WR941N V2_090803 路由器 后门
- 在VMware上安装kali(7z格式)并配置中文环境
- 如何将EAN 13码批量输出成图片
- golang http client跳过安全证书校验
- uebs游戏_UEBS Ultimate Epic Battle下载
- Qt设计师类setupUi报内存错误可能原因