方阵的迹（trace）及其微分（导数）

trace 的一个十分重要的性质在于线性性，

Tr(A+B)=Tr(A)+Tr(B)Tr(cA)=cTr(A)

\begin{split}&\text{Tr}(\mathrm A+\mathrm B)=\text{Tr}(\mathrm A)+\text{Tr}(\mathrm B)\\&\text{Tr}(c\mathrm A)=c\text{Tr}(\mathrm A)\end{split}

1. 基本性质

Tr(A)=Tr(AT)\text{Tr}(\mathrm A)=\text{Tr}(\mathrm A^T)
Tr(AB)=Tr(BA)\text{Tr}(\mathrm {AB})=\text{Tr}(\mathrm {BA})
Tr(ABC)=Tr(BCA)=Tr(CAB)\text{Tr}(\mathrm {ABC})=\text{Tr}(\mathrm {BCA})=\text{Tr}(\mathrm {CAB})
- 因此如果 A\mathrm A 和 C\mathrm C 互逆的话，三者相乘的 Trace，等于中间方阵的 Trace；

2. 拓展

∇ATr(AB)=BT\nabla_{\mathrm A}\text{Tr}(\mathrm {AB})=\mathrm B^T

试证明，∇ATr(ABATC)=CAB+CTABT\nabla_A\text{Tr}(\mathrm {ABA^TC})=\mathrm {CAB}+\mathrm{C^TAB^T}

反复利用求导的链式法则，以及 ∇ATr(AB)=BT\nabla_{\mathrm A}\text{Tr}(\mathrm {AB})=\mathrm B^T，还有 Tr(A)=Tr(AT)\text{Tr}(\mathrm A)=\text{Tr}(\mathrm A^T) 等基本等式，进行替换或简化。

Some Important Properties for Matrix Calculus
With(out) A Trace Matrix Derivatives the Easy Way

方阵的迹（trace）及其微分（导数）相关推荐

什么是微分？什么是导数？如何利用微分-导数方程求导数？
简介: 记 ∇Xf\nabla _X f∇Xf 是矩阵函数的导数,那么可以利用微分-导数方程 dy=Tr(∇XfT⋅dX)dy = Tr\left( {\nabla _X f^T \cdot dX ...
math_极限微分导数微商/对数函数的导函数推导(导数定义极限法)/指数函数求导公式推导(反函数求导法则/对数求导法)/导数表示法导数记号系统
文章目录微分&导数&微商函数在x=x0x=x_0x=x0导数的定义导函数的定义对数函数的导数推导(导数定义极限法) 导数与微分对数函数的导函数反函数求导法对数求导法导 ...
矩阵迹的性质_矩阵（含逆）的迹、行列式关于矩阵自身的导数计算与Maple验证...
常见神经网络在计算相邻层权重关系式时,矩阵对矩阵求导所涉及的维度拼接操作对理论萌新往往不太友好:对于数据型为矩阵的最小二乘问题,尽管迹对矩阵求导操作十分实用但很多人仍习惯于逐项计算偏导.本文避开&qu ...
学渣笔记之矩阵的导数与迹
矩阵的导数与迹矩阵的导数对于一个将\(m\times n\)的矩阵映射为实数的函数\(f: \mathbb{R}^{m\times n}\mapsto\mathbb{R}\),我们定义\(f\ ...
如何利用python求导数(微分)和积分
求微分(导数)与求积分是一个互逆的过程,在python里只需要利用代数符号系统即可进行求解.假设函数是这样子的 y=e2xy=e^{2x}y=e2x 那么我们先对其进行求导求导代码直接用diff, ...
TensorFlow 2——导数和微分
目录导数计算自动微分导数计算以Sigmoid 函数为例求导: sigmoid(x)=11+e−x\mathit{sigmoid}(x) = \frac{1}{1+e^{-x}} sigmoid ...
线性代数之矩阵求导（4）矩阵微分，迹与求导
线性代数之矩阵求导(4)迹与矩阵求导前言矩阵微分定义矩阵微分计算法则常矩阵线性乘积转置迹通过矩阵微分进行求导常用的矩阵微分后记前言本次将记录如何进行矩阵求导(标量对矩阵). ...
动手学深度学习——矩阵求导之矩阵的迹和微分
目录一.矩阵的迹 1. 迹的定义 2. 迹的性质二.微分与全微分 1. (全)微分的表达式 2. (全)微分的法则三. 矩阵的微分 1. 矩阵微分的实质 2. 矩阵微分的意义 3. 矩阵微分的法 ...
TRACE (VC)
TRACE 1.TRACE和TRACK是用来调试web服务器连接的HTTP方式. 2.TRACE宏对于VC下程序调试来说是很有用的东西,有着类似printf的功能. 3.MATLAB函数,用于求二维方 ...

方阵的迹（trace）及其微分（导数）

1. 基本性质

2. 拓展

方阵的迹（trace）及其微分（导数）相关推荐

最新文章

热门文章