机器学习笔记(part1)--Frobenius范数与迹运算

学习笔记，仅供参考，有错必纠
转载自：Frobenius范数迹运算

设A是m×nm \times nm×n的矩阵，其Frobenius范数定义为：
∥A∥F=∑i=1m∑j=1n∣aij∣2{\parallel A \parallel }_F = \sqrt{ \sum_{i=1}^{m} \sum_{j=1}^{n} {\mid a_{ij} \mid }^2 } ∥A∥F=i=1∑mj=1∑n∣aij∣2
迹运算返回的是矩阵对角元素的和：
Tr(A)=∑iAi,iTr(A) = \sum_{i} A_{i, i} Tr(A)=i∑Ai,i
迹运算提供了另一种描述矩阵Frobenius范数的方式：
∥A∥F=Tr(AAT){\parallel A \parallel }_F = \sqrt{ Tr(AA^T) } ∥A∥F=Tr(AAT)
证明：
A=[a11a12a21a22]AAT=[a11a12a21a22][a11a21a12a22]=[a112+a122............a212+a222]A = \begin{bmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{bmatrix} AA^T = \begin{bmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{bmatrix} \begin{bmatrix} a_{11} & a_{21} \\ a_{12} & a_{22} \end{bmatrix} = \begin{bmatrix} a_{11}^2 + a_{12}^2 & ... ... \\ ... ... & a_{21}^2 + a_{22}^2 \end{bmatrix} A=[a11a21a12a22]AAT=[a11a21a12a22][a11a12a21a22]=[a112+a122............a212+a222]

∥A∥F=a112+a122+a212+a222=Tr(AAT){\parallel A \parallel }_F = \sqrt{a_{11}^2 + a_{12}^2 + a_{21}^2 + a_{22}^2 } = \sqrt{ Tr(AA^T) } ∥A∥F=a112+a122+a212+a222=Tr(AAT)

Tr(A)=Tr(AT)Tr(A) = Tr(A^T)Tr(A)=Tr(AT)
Tr(ABC)=Tr(CAB)=Tr(BCA)Tr(ABC) = Tr(CAB) = Tr(BCA)Tr(ABC)=Tr(CAB)=Tr(BCA)

机器学习笔记(part1)--Frobenius范数与迹运算相关推荐

线性代数笔记：Frobenius 范数
Frobenius 范数,简称F-范数,是一种矩阵范数,记为||·||F. 矩阵A的Frobenius范数定义为矩阵A各项元素的绝对值平方的总和开根,即一个比较重要的结论相当于L2范数开根号 n ...
【速通版】吴恩达机器学习笔记Part1
准备速通一下吴恩达的机器学习很快做个笔记5.2.3 监督学习 part 2_哔哩哔哩_bilibili 目录 1.概述(P1-P3) 2.supervised learning:(P4,P5) re ...
线性代数笔记 Frobenius 范数和矩阵的迹之间的关系
线性代数笔记:Frobenius 范数_UQI-LIUWJ的博客-CSDN博客先给出结论: 举个例子: 任取2×2的矩阵A 它的 Frobenius 范数为: 而所以
学习笔记DL007:Moore-Penrose伪逆，迹运算，行列式，主成分分析PCA
2019独角兽企业重金招聘Python工程师标准>>> Moore-Penrose伪逆(pseudoinverse). 非方矩阵,逆矩阵没有定义.矩阵A的左逆B求解线性方程Ax=y. ...
线性代数基础（矩阵、范数、正交、特征值分解、奇异值分解、迹运算）
目录基础概念矩阵转置对角矩阵线性相关范数正交特征值分解奇异值分解 Moore-Penrose 伪逆迹运算行列式如果这篇文章对你有一点小小的帮助,请给个关注喔~我会非常开心的~ 基 ...
机器学习笔记 - 范数
一.范数的概念 1.概念和性质机器学习和深度学习的一个重要概念.范数通常用于评估模型的误差.例如,它用于计算神经网络输出与预期值(实际标签或值)之间的误差.可以将范数视为向量的长度.它是将向量映射到 ...
机器学习笔记——模型选择与正则化
机器学习笔记--模型选择与正则化一.模型选择 1.方差与偏差 2.过拟合与欠拟合 3.模型选择的平衡 4.欠.过拟合解决方法二.正则化 1.正则化线性回归 2.正则化对数回归 3.训练集规模对误差 ...
Mechine Learning 机器学习笔记
笔记作者:OUC_Shizue 参考课程:复旦大学邱锡鹏 <神经网络与深度学习> 第一章:机器学习概论一.机器学习的定义 1.直接定义机器学习≈计算机自动构建映射函数 Mac ...
吴恩达机器学习笔记整理（Week6-Week11）
1. Week 6 1.1 应用机器学习的建议(Advice for Applying Machine Learning) 1.1.1 决定下一步做什么到目前为止,我们已经介绍了许多不同的学习算法, ...

机器学习笔记(part1)--Frobenius范数与迹运算

机器学习笔记(part1)--Frobenius范数与迹运算相关推荐

最新文章

热门文章