前言

本篇是矩阵迹的学习，迹(trace)常用于矩阵求导。

迹的定义

对于A∈Rn×nA\in R^{n\times n}A∈Rn×n，矩阵的迹trace，就是主对角线元素的和。

注意：方阵才有迹！

迹的性质

A=[a11a12…a1na21a22…a2n…………an1an2…ann]A=\begin{bmatrix} a_{11} & a_{12} & \dots &a_{1n}\\ a_{21} & a_{22} & \dots &a_{2n}\\ \dots & \dots & \dots &\dots\\ a_{n1} & a_{n2} & \dots &a_{nn} \end{bmatrix} A=⎣⎢⎢⎡a11a21…an1a12a22…an2…………a1na2n…ann⎦⎥⎥⎤

性质0：标量的迹等于自己。

性质1：矩阵的迹等于其特征值之和。
证明：
对于矩阵的特征值有：Ax=λx,(λE−A)x=0,x≠0⃗(λE−A)=[λ−a11a12…a1na21λ−a22…a2n…………an1an2…λ−ann]=(λ−a11)(λ−a22)…(λ−ann)+∑a1i∣A∣1i∑a1i∣A∣1i是第一行其它元素与其代数余子式的乘积的和∑a1i∣A∣1i的最高次项只有λn−2而特征方程有：(λ−λ1)(λ−λ2)…(λ−λn)=0比较λn−1项，可得∑i=1naii=∑i=1nλitr(A)=∑i=1nλi对于矩阵的特征值有： \\ \quad \\ Ax=\lambda x,(\lambda E-A)x=0,x\ne \vec0 \\ (\lambda E-A)=\begin{bmatrix} \lambda-a_{11} & a_{12} & \dots &a_{1n}\\ a_{21} & \lambda-a_{22} & \dots &a_{2n}\\ \dots & \dots & \dots &\dots\\ a_{n1} & a_{n2} & \dots &\lambda-a_{nn} \end{bmatrix} \\ =(\lambda-a_{11})(\lambda-a_{22})\dots(\lambda-a_{nn}) + \sum a_{1i}|A|_{1_i} \\ \quad \\ \sum a_{1i}|A|_{1_i}是第一行其它元素与其代数余子式的乘积的和\\ \sum a_{1i}|A|_{1_i}的最高次项只有\lambda^{n-2} \\ \quad \\ 而特征方程有：\\ (\lambda-\lambda_{1})(\lambda-\lambda_{2})\dots(\lambda-\lambda_{n})=0 \\ \quad \\ 比较\lambda^{n-1}项，可得\sum_{i=1}^n a_{ii}=\sum_{i=1}^n \lambda_i \\ \quad \\ tr(A)=\sum_{i=1}^n \lambda_i 对于矩阵的特征值有：Ax=λx,(λE−A)x=0,x=0(λE−A)=⎣⎢⎢⎡λ−a11a21…an1a12λ−a22…an2…………a1na2n…λ−ann⎦⎥⎥⎤=(λ−a11)(λ−a22)…(λ−ann)+∑a1i∣A∣1i∑a1i∣A∣1i是第一行其它元素与其代数余子式的乘积的和∑a1i∣A∣1i的最高次项只有λn−2而特征方程有：(λ−λ1)(λ−λ2)…(λ−λn)=0比较λn−1项，可得i=1∑naii=i=1∑nλitr(A)=i=1∑nλi

性质2：矩阵转置迹不变。
tr(AT)=tr(A)tr(A^T)=tr(A) tr(AT)=tr(A)
转置不影响主对角线元素。

性质3：矩阵乘法的迹满足交换律。
tr(AB)=tr(BA)tr(ABC)=tr(BCA)=tr(CAB)tr(AB)=tr(BA)\\ tr(ABC)=tr(BCA)=tr(CAB) tr(AB)=tr(BA)tr(ABC)=tr(BCA)=tr(CAB)
证明：
tr(ABT)=∑i=1n∑i=1naiibiitr(ATB)=∑i=1n∑i=1nbiiaii=tr(BTA)=tr(ABT)tr(AB^T)=\sum_{i=1}^n \sum_{i=1}^n a_{ii}b_{ii} \\ tr(A^TB)=\sum_{i=1}^n \sum_{i=1}^n b_{ii}a_{ii} =tr(B^TA)=tr(AB^T) tr(ABT)=i=1∑ni=1∑naiibiitr(ATB)=i=1∑ni=1∑nbiiaii=tr(BTA)=tr(ABT)

性质4（性质3的证明中的推广）：A∈Rm×nA\in R^{m\times n}A∈Rm×n，A,BA,BA,B同型，则tr(ABT)tr(AB^T)tr(ABT)是A,BA,BA,B对应位置元素乘积的和，相当于矩阵点积。

当A,BA,BA,B退化为向量时，性质4就变成了向量点积：
tr(abT)=tr(bTa)=bTatr(ab^T)=tr(b^Ta)=b^Ta tr(abT)=tr(bTa)=bTa
性质5：线性。
tr(c1A+c2B)=c1tr(A)+c2tr(B)tr(c_1A+c_2B)=c_1tr(A)+c_2tr(B) tr(c1A+c2B)=c1tr(A)+c2tr(B)

后记

矩阵的迹性质还是挺简单的，但是涉及到矩阵的迹的求导时，就复杂了许多。

需要注意，性质3及其证明是矩阵求导中的常见操作。

线性代数之矩阵的迹相关推荐

线性代数之矩阵我们需要了解的知识点（增广矩阵矩阵的迹矩阵的秩阶梯型...）
线性代数之矩阵基础点常见概念与示例汇总矩阵的定义由m乘n ...
线性代数——韦达定理、矩阵行列式、矩阵的迹、矩阵特征值及关系
本文主要围绕以下定理,并对相关知识点做回顾和扩充. 定理:设,...,(实数或者复数,可以重复)是阶方阵的个特征值,即,则 , 通俗描述即为:矩阵的特征值之和等于矩阵的迹,矩阵的特征值之积等于矩阵的行 ...
线性代数笔记 Frobenius 范数和矩阵的迹之间的关系
线性代数笔记:Frobenius 范数_UQI-LIUWJ的博客-CSDN博客先给出结论: 举个例子: 任取2×2的矩阵A 它的 Frobenius 范数为: 而所以
矩阵计算在计算机科学中,开发者必读：计算机科学中的线性代数（附论文）
来源:机器之心作者:Petros Drineas.Michael W. Mahoney 本文共3994字,建议阅读6分钟.本文为你分享一篇来自普渡大学与UC Berkeley两位教授的概述论文中的线 ...
Numpy入门教程：12. 线性代数
背景什么是 NumPy 呢? NumPy 这个词来源于两个单词 – Numerical和Python.其是一个功能强大的 Python 库,可以帮助程序员轻松地进行数值计算,通常应用于以下场景: 执 ...
开发者必读：计算机科学中的线性代数（附论文）
来源:机器之心作者:Petros Drineas.Michael W. Mahoney 本文共3994字,建议阅读6分钟. 本文为你分享一篇来自普渡大学与UC Berkeley两位教授的概述论文中的 ...
李宏毅线性代数总结：万事万物皆可为向量
1 这些都可以是向量复习内容:李宏毅线性代数笔记4:向量_刘文巾的博客-CSDN博客线性变化->矩阵->向量 1.1 甚至函数也是向量向量就是函数泰勒展开后每一项的系数 1.2 向量 ...
斯坦福大学CS229数学基础（线性代数、概率论）中文翻译版.pdf
本文是斯坦福大学CS 229机器学习课程的基础材料的中文翻译,个人认为是目前最好的人工智能的数学基础材料. Stanford cs229 manchine learning课程,是斯坦福大学近十年来最 ...
首发：吴恩达的 CS229的数学基础（线性代数），有人把它做成了在线翻译版本！...
本文是斯坦福大学 CS 229 机器学习课程的基础材料,是斯坦福各大人工智能课程的数学基础,本文为线性代数部分,原始文件下载[1] 原文作者:Zico Kolter,修改:Chuong Do, Ten ...
斯坦福CS229机器学习课程的数学基础（线性代数）翻译完成
Stanford cs229 manchine learning课程,相比于Coursera中的机器学习有更多的数学要求和公式的推导,课程全英文,基础材料部分还没有翻译.这个基础材料主要分为线性代数和 ...

线性代数之矩阵的迹

线性代数之矩阵的迹

前言

迹的定义

迹的性质

后记

线性代数之矩阵的迹相关推荐

最新文章

热门文章

线性代数之 矩阵的迹

线性代数之 矩阵的迹

前言

迹的定义

迹的性质

后记

线性代数之 矩阵的迹相关推荐

最新文章

热门文章

线性代数之矩阵的迹

线性代数之矩阵的迹

线性代数之矩阵的迹相关推荐