前言

本篇整理自深藍學院三維點雲處理課程的Lecture 9 – Registration，並補上證明。

Frobenius norm

∥A∥F≜∑i=1m∑i=1n∣Aij∣2=tr(AAT)=∑imin⁡(m,n)σi2(A),∀A∈Rm×n\|A\|_F \triangleq \sqrt{\sum\limits^m_{i=1}\sum\limits^n_{i=1}|A_{ij}|^2} = \sqrt{\text{tr}(A A^T)} = \sqrt{\sum\limits_i^{\min(m,n)}\sigma_i^2(A)}, \forall A \in \R^{m \times n}∥A∥F≜i=1∑mi=1∑n∣Aij∣2=tr(AAT)=i∑min(m,n)σi2(A),∀A∈Rm×n

其中σi\sigma_iσi代表矩陣AAA的奇異值。

性質一證明

欲證：∥A∥F=tr(AAT)\|A\|_F = \sqrt{\text{tr}(A A^T)}∥A∥F=tr(AAT)

tr(AAT)=∑i,j∣Aij∣2反向套用tr(ABT)=∑i,jAijBij=∥A∥FFrobenius norm定義\begin{aligned}\sqrt{\text{tr}(A A^T)} &= \sqrt{\sum\limits_{i,j}|A_{ij}|^2} && \text{反向套用}\text{tr}(\bold{A}\bold{B}^T) = \sum\limits_{i,j}A_{ij}B_{ij} \\&= \|A\|_F && \text{Frobenius norm定義}\end{aligned}tr(AAT)=i,j∑∣Aij∣2=∥A∥F反向套用tr(ABT)=i,j∑AijBijFrobenius norm定義

性質二證明

欲證：∥A∥F=∑imin⁡(m,n)σi2(A)\|A\|_F = \sqrt{\sum\limits_i^{\min(m,n)}\sigma_i^2(A)}∥A∥F=i∑min(m,n)σi2(A)，參考Interesting Properties of Matrix Norms and Singular Values。

∥A∥F=tr(AAT)=tr(UΣVTVΣUT)SVD矩陣分解A=UΣVT=tr(UΣ2UT)=tr(Σ2)旋轉矩陣U不影響矩陣的norm=∑imin⁡(m,n)σi2(A)\begin{aligned}\|A\|_F &= \sqrt{\text{tr}(A A^T)} \\&= \sqrt{\text{tr}(U\Sigma V^T V \Sigma U^T)} && \text{SVD矩陣分解} A = U\Sigma V^T \\&= \sqrt{\text{tr}(U\Sigma^2 U^T)} \\&= \sqrt{\text{tr}(\Sigma^2)} && \text{旋轉矩陣U不影響矩陣的norm} \\&= \sqrt{\sum_i^{\min(m,n)}\sigma_i^2(A)}\end{aligned}∥A∥F=tr(AAT)=tr(UΣVTVΣUT)=tr(UΣ2UT)=tr(Σ2)=i∑min(m,n)σi2(A)SVD矩陣分解A=UΣVT旋轉矩陣U不影響矩陣的norm

Frobenius inner product

定義：⟨A,B⟩F≜∑i,jAi,jBi,j\langle A,B\rangle_F \triangleq \sum\limits_{i,j}A_{i,j}B_{i,j}⟨A,B⟩F≜i,j∑Ai,jBi,j

特性：⟨A,B⟩F=tr(ABT)=tr(ATB)=tr(BAT)=tr(BTA)\langle A,B\rangle_F = \text{tr}(AB^T) = \text{tr}(A^TB) = \text{tr}(BA^T) = \text{tr}(B^TA)⟨A,B⟩F=tr(ABT)=tr(ATB)=tr(BAT)=tr(BTA)

證明

可以前往trace of product - 性質一證明參看。

Frobenius decomposition

∥A+B∥F2=∥A∥F2+∥B∥F2+2⟨A,B⟩F\|A+B\|_F^2 = \|A\|_F^2+\|B\|_F^2+2\langle A,B\rangle_F∥A+B∥F2=∥A∥F2+∥B∥F2+2⟨A,B⟩F

證明

∥A+B∥F2=(∑i−1m∑i−1n∣Aij+Bij∣2)2=∑i−1m∑i−1n∣Aij+Bij∣2=∑i−1m∑i−1n(Aij2+Bij2+2AijBij)=∑i−1m∑i−1nAij2+∑i−1m∑i−1nBij2+∑i−1m∑i−1n2AijBij=∥A∥F2+∥B∥F2+2⟨A,B⟩F\begin{aligned}\|A+B\|_F^2 &= (\sqrt{\sum\limits^m_{i-1}\sum\limits^n_{i-1}|A_{ij}+B_{ij}|^2})^2 \\&= \sum\limits^m_{i-1}\sum\limits^n_{i-1}|A_{ij}+B_{ij}|^2 \\&= \sum\limits^m_{i-1}\sum\limits^n_{i-1}(A_{ij}^2+B_{ij}^2+2A_{ij}B_{ij}) \\&= \sum\limits^m_{i-1}\sum\limits^n_{i-1}A_{ij}^2 + \sum\limits^m_{i-1}\sum\limits^n_{i-1}B_{ij}^2 + \sum\limits^m_{i-1}\sum\limits^n_{i-1}2A_{ij}B_{ij} \\&= \|A\|_F^2 + \|B\|_F^2 + 2\langle A,B\rangle_F\end{aligned}∥A+B∥F2=(i−1∑mi−1∑n∣Aij+Bij∣2)2=i−1∑mi−1∑n∣Aij+Bij∣2=i−1∑mi−1∑n(Aij2+Bij2+2AijBij)=i−1∑mi−1∑nAij2+i−1∑mi−1∑nBij2+i−1∑mi−1∑n2AijBij=∥A∥F2+∥B∥F2+2⟨A,B⟩F

Frobenius norm的特性以及證明相关推荐

弗罗贝尼乌斯范数 matlab,【Frobenius norm（弗罗贝尼乌斯-范数）（F-范数）】
(1)Frobenius 范数(F-范数) 一种矩阵范数,记为:. 即矩阵中每项数的平方和的开方值. 这个范数是针对矩阵而言的,具体定义可以类比向量的L2范数. 可用于利用低秩矩阵来近似单一数据矩 ...
弗罗贝尼乌斯范数（Frobenius norm）
弗罗贝尼乌斯范数对 p = 2,这称为弗罗贝尼乌斯范数(Frobenius norm)或希尔伯特-施密特范数( Hilbert–Schmidt norm),不过后面这个术语通常只用于希尔伯特空间.这 ...
日志-Frobenius norm，共轭矩阵
Frobenius norm 就是矩阵各个元素平方和,然后开平方根. 如果这个算出来的difference太大,就说明backpropagation出现了错误. 可以使用numpy算出两个矩阵之间fr ...
Frobenius norm(弗罗贝尼乌斯范数)
对 p = 2,这称为弗罗贝尼乌斯范数(Frobenius norm)或希尔伯特-施密特范数( Hilbert–Schmidt norm),不过后面这个术语通常只用于希尔伯特空间.这个范数可用不同的方 ...
Euclidean distance（欧式距离）和 Frobenius norm（弗洛贝尼乌斯范数）
文章目录一.欧氏距离二.弗罗贝尼乌斯范数一.欧氏距离如果来两张图片经过训练的分类器提取的 high-level features 在 Euclidean distance(欧氏距离)接近,就认 ...
Frobenius norm(Frobenius 范数)
转载自:https://blog.csdn.net/qq_27946691/article/details/56488063
矩阵的佛罗贝尼乌斯范数（Frobenius norm）
矩阵范数（martix norm） --维基百科
矩阵范数(martix norm)是数学上向量范数对矩阵的一个自然推广. 目录 [隐藏] 1 矩阵范数的特性 2 诱导范数 3 矩阵元范数 3.1 弗罗贝尼乌斯范数 3.2 极大范数 3.3 Scha ...
pythonfor循环功能手工皂_裘．波勒《幫孩子找到自信的成長型數學思維：學好數學不必靠天賦，史丹佛大學實證研究、讓孩子潛力大爆發的關鍵方法》臉譜...
幫孩子找到自信的成長型數學思維:學好數學不必靠天賦,史丹佛大學實證研究.讓孩子潛力大爆發的關鍵方法 MATHEMATICAL MINDSETS: Unleashing Students' Potent ...

Frobenius norm的特性以及證明