这一讲我们来讲一下复矩阵。线性代数中，复矩阵是避免不了的话题，因为一个简单实矩阵都有可能有复数特征值。

复矩阵

我们着重看一下复矩阵和实矩阵在运算上的区别。

距离

首先，一个复数向量的的距离求法发生了变化
x ⊤ x → x H x \bm{x}^\top\bm{x}~~\rightarrow~~ \bm{x}^H\bm{x} x⊤x → xHx

其中， x H \bm{x}^H xH 指的是共轭转置。

相应的，内积也发生了变化

内积
x ⊤ y → x H y \bm{x}^\top\bm{y}~~\rightarrow ~~ \bm{x}^H\bm{y} x⊤y → xHy
对称矩阵 symmetric matrix → \rightarrow → 厄米矩阵 Hermitian matrix

之前讲到对阵矩阵时说过，对称矩阵很好的性质在复数矩阵的情况下应该变为
A ⊤ = A → A H = A \bm{A}^\top=\bm{A}~~\rightarrow ~~ \bm{A}^H=\bm{A} A⊤=A → AH=A

正交矩阵 orthogonal matrix → \rightarrow → 酉矩阵 Unitary matrix

Q ⊤ Q = I → Q H = Q \bm{Q}^\top\bm{Q}=I~~\rightarrow ~~ \bm{Q}^H=\bm{Q} Q⊤Q=I → QH=Q

傅里叶矩阵

下面我们讲一下目前为止最重要的复数矩阵: 傅里叶矩阵 Fourier Matrix. 它实际上是傅里叶变换的矩阵形式。

定义

我们来看看什么是傅里叶矩阵
F n = [ 1 1 1 ⋯ 1 1 W 1 W 2 ⋯ W n − 1 1 W 2 W 4 ⋯ W 2 ( n − 1 ) ⋮ ⋮ ⋮ ⋮ ⋮ 1 W n − 1 W 2 ( n − 1 ) ⋯ W ( n − 1 ) 2 ] \bm{F}_n=\begin{bmatrix} 1 & 1 & 1& \cdots & 1\\ 1 & W^1 & W^2& \cdots & W^{n-1}\\ 1 & W^2 & W^4& \cdots & W^{2(n-1)}\\ \vdots & \vdots & \vdots & \vdots & \vdots\\ 1 & W^{n-1}& W^{2(n-1)}& \cdots& W^{(n-1)^2}\\ \end{bmatrix} Fn=⎣⎢⎢⎢⎢⎢⎡111⋮11W1W2⋮Wn−11W2W4⋮W2(n−1)⋯⋯⋯⋮⋯1Wn−1W2(n−1)⋮W(n−1)2⎦⎥⎥⎥⎥⎥⎤

可以看出，其中每一项 ( F n ) i j = W i j (F_n)_{ij}=W^{ij} (Fn)ij=Wij, i , i = 0 , 1 , 2 , . . . , n − 1 i,i=0,1,2,...,n-1 i,i=0,1,2,...,n−1, 其中 W W W 是复平面单元圆分割成 n n n 份得到的向量，即
W = e j 2 π n W=e^{j\frac{2\pi}{n}} W=ejn2π

一个最简单的例子是 F 4 \bm{F}_4 F4, 因为相位刚刚好取到坐标轴上，此时
F 4 = [ 1 1 1 1 1 i − 1 − i 1 − 1 1 − 1 1 − i − 1 i ] \bm{F}_4=\begin{bmatrix} 1 & 1 & 1& 1\\ 1 & i & -1 & -i\\ 1 & -1 & 1 & -1\\ 1 & -i& -1& i\\ \end{bmatrix} F4=⎣⎢⎢⎡11111i−1−i1−11−11−i−1i⎦⎥⎥⎤

这个矩阵有什么特点尼？它是一个酉矩阵，且其中的每一项都是单位圆上的一个相位。
F n H F n = I \bm{F}_n^H\bm{F}_n=I FnHFn=I

它的逆也很容易写出来
F n − 1 = F n H {\bm{F}}_n^{-1}= \bm{F}_n^H Fn−1=FnH

因此，傅里叶变换和逆傅里叶变换可以写成矩阵形式为
y = F n x \bm{y=F_n}\bm{x} y=Fnx

x = F n H y \bm{x=F^{H}_n}\bm{y} x=FnHy

快速傅里叶变换

长久以来，傅里叶变换的运算复杂度 O ( n 2 ) \mathcal{O}(n^2) O(n2) 对没有高速计算机的时代非常不友好。快速傅里叶变换 FFT 应运而生。FFT的基本原理是divide and conquer，就是把一个高维的傅里叶变换用低维表示出来，看下图就很明了了。

从矩阵角度我们也能得到相似的结论,

即，把一个高维 F 64 F_{64} F64 分解为三部分乘积，其中最右侧是一个permutation matrix，是对输入的 x \bm{x} x 做 odd-even shuffle，中间的是俩低维 F 32 F_{32} F32 matrix组成的分块对角阵，左侧是butterfly network。这个分解与上图一一对应。

我们可以继续divide and conquer把FFT进一步分解直至最低维度，最终写成矩阵连乘结果，复杂度降为 O ( 1 2 n log ⁡ 2 n ) \mathcal{O} (\frac{1}{2}n\log_2 n) O(21nlog2n), 只要看下图就非常明了了。

MIT 线性代数 Linear Algebra 26:复矩阵，傅里叶矩阵, 快速傅里叶变换 FFT相关推荐

MIT 线性代数 Linear Algebra 10: 矩阵的四个space
这一节是相当于对之前所有内容的一个总括,也是对线性代数的研究对象 – 矩阵 – 的一个总结 (从vector space的角度). 这四个space分别是 Column space C ( A ) C ...
MIT 线性代数 Linear Algebra 9: 向量空间的一些定义(线性独立，基，维度)
本节内容都是一些定义,实际上我们之前已经接触过了.让我们总结一下: linear independent 线性独立给定一组向量 {v1,v2,...,vn}\{\bm{v_1,v_2,...,v_n ...
【机器学习的数学基础】（二）线性代数(Linear Algebra)（中）
文章目录 2 线性代数(Linear Algebra)(中) 2.4 向量空间 2.4.1 群 2.4.2 向量空间 2.4.3 向量子空间 2.5 线性独立 2.6 基和秩 2.6.1 生成集和基 ...
线性代数 -- Linear Algebra with Applications
@.如果线性方程组无解,则称该方程组是不相容的(inconsistent). @.如果线性方程组至少存在一个解,则称该方程组是相容的(consistent). @.等价方程组(equivalent s ...
线性代数 linear algebra
2.3 实现属于我们自己的向量 Vector.py class Vector: def __init__(self, lst): self._values = lst #return len def ...
线性代数基础12--对称矩阵,正定矩阵与快速傅里叶变换
1,对称矩阵与正定矩阵对于实对称矩阵,其特征值都是实数,其不同特征值对应的特征向量相互正交. 所以对于是对称矩阵,其特征矩阵可以用正交矩阵代替,也就是常说的对称矩阵可以用正交矩阵进行相似对角化, 并 ...
矩阵消元-线性代数课时2（MIT Linear Algebra , Gilbert Strang）
这是Strang教授的第二讲,讲解了求线性方程组的一种系统方法:消元法(Gaussian elimination),它的核心思想是行变换.本课时的几个核心知识点:消元.回代.消元过程的矩阵描述和逆矩阵 ...
矩阵乘法和逆矩阵-线性代数课时3（MIT Linear Algebra , Gilbert Strang）
这是Strang教授的第三讲,讲解的内容是矩阵乘法和矩阵的逆.矩阵乘法在前面已经使用过,本节课教授只是集中细致的讲解矩阵乘法满足的定律和几种计算矩阵乘法的方法,矩阵的逆是本节课的重要内容. 矩阵乘法 ...
列空间和零空间-线性代数课时6（MIT Linear Algebra , Gilbert Strang）
这是Strang教授的第六讲,讲解的内容是线性代数里的俩个最重要向量子空间:列空间和零空间,同时还有上节课剩余的一点关于向量空间的问题.1.向量空间和子空间;2.列空间;3.零空间. 1.向量空间和子 ...

MIT 线性代数 Linear Algebra 26:复矩阵，傅里叶矩阵, 快速傅里叶变换 FFT

复矩阵

傅里叶矩阵

定义

快速傅里叶变换

MIT 线性代数 Linear Algebra 26:复矩阵，傅里叶矩阵, 快速傅里叶变换 FFT相关推荐

最新文章

热门文章