清华大学公开课线性代数2——第12讲：复数与复矩阵

此博客停止更新迁移至SnailDove’s Blog，查看本文点击此处

笔记源自：清华大学公开课：线性代数2——第12讲：复数与复矩阵

引言

之前接触的大部分线性代数知识都只考虑实数情形，但复数情形不可避免会遇到。例如(cosθsinθ−sinθcosθ)(cosθ−sinθsinθcosθ)\begin{pmatrix}cos\theta&-sin\theta\\sin\theta&cos\theta\end{pmatrix}没有实特征值（除了极特殊情形），目的：比较实数和复数情形的异同，注意学习复数和实数的区别联系。

复数复习：

- i2=−1i2=−1i^2=-1，一个复数a+bi=za+bi=za+bi=z，aaa是实部(real part)，b" role="presentation">bbb是虚部(imaginary part)，可以把实部aaa看成x轴分量，虚部b" role="presentation">bbb看成y轴分量。复数的共轭(complex conjugate) z=a+bi→z¯=a−biz=a+bi→z¯=a−biz=a+bi\rightarrow \bar{z}=a-bi，长度 |z|=a2+b2−−−−−−√=(a−bi)(a+bi)=zz¯|z|=a2+b2=(a−bi)(a+bi)=zz¯|z|=\sqrt{a^2+b^2}=(a-bi)(a+bi)=z\bar{z}（zzz的长度不能定义为(a+bi)2" role="presentation">(a+bi)2−−−−−−−√(a+bi)2\sqrt{(a+bi)^2}，长度必须是正值，如果把复数zzz看成一个2维向量，那么它的长度显然就是定义中给出的），矩阵的共轭定义为： A=(aij)n×n,aij∈C→A¯=(aij¯)n×n" role="presentation">A=(aij)n×n,aij∈C→A¯=(aij¯¯¯¯¯¯)n×nA=(aij)n×n,aij∈C→A¯=(aij¯)n×nA=(a_{ij})_{n\times n}, a_{ij}\in C \rightarrow \bar{A}=(\overline{a_{ij}})_{n\times n}，性质：AB¯¯¯¯¯¯¯¯=A¯B¯ zz¯=|z|2AB¯=A¯B¯zz¯=|z|2\overline{AB}=\bar{A}\bar{B}\ z\bar{z}=|z|^2。
- {长度为1（单位圆上）的复数}→→\rightarrow{二阶旋转矩阵}，且保持乘法。z=cosθ+isinθ→A2=(cosθsinθ−sinθcosθ)z=cosθ+isinθ→A2=(cosθ−sinθsinθcosθ)z=cos\theta+isin\theta\rightarrow A_2=\begin{pmatrix}cos\theta&-sin\theta\\sin\theta&cos\theta\end{pmatrix}。验证性质：z1=eiθ1,z2=eiθ2→Az1=(cosθsinθ−sinθcosθ),Az2=(cosθsinθ−sinθcosθ)→z1z2=ei(θ1+θ2)=(cos(θ1+θ2)sin(θ1+θ2)−sin(θ1+θ2)cos(θ1+θ2))=Az1z2z1=eiθ1,z2=eiθ2→Az1=(cosθ−sinθsinθcosθ),Az2=(cosθ−sinθsinθcosθ)→z1z2=ei(θ1+θ2)=(cos(θ1+θ2)−sin(θ1+θ2)sin(θ1+θ2)cos(θ1+θ2))=Az1z2z_1=e^{i\theta_1},z_2=e^{i\theta_2}\rightarrow A_{z_1}=\begin{pmatrix}cos\theta&-sin\theta\\sin\theta&cos\theta\end{pmatrix}, A_{z_2}=\begin{pmatrix}cos\theta&-sin\theta\\sin\theta&cos\theta\end{pmatrix}\\\rightarrow z_1z_2=e^{i(\theta_1+\theta_2)}=\begin{pmatrix}cos(\theta_1+\theta_2)&-sin(\theta_1+\theta_2)\\sin(\theta_1+\theta_2)&cos(\theta_1+\theta_2)\end{pmatrix}=A_{z_1z_2}
- 欧拉公式(Euler formula) ：eiθ=cosθ+isinθeiθ=cosθ+isinθe^{i\theta}=cos\theta+isin\theta，极分解(polar decomposition)： z=reiθ=r(cosθ+isinθ)→zn=rneinθ=rn(cos(nθ)+isin(nθ))z=reiθ=r(cosθ+isinθ)→zn=rneinθ=rn(cos(nθ)+isin(nθ))z=re^{i\theta}=r(cos\theta+isin\theta)\rightarrow z^n=r^ne^{in\theta}=r^n(cos(n\theta)+isin(n\theta)) ，这里z的公式中三角函数部分长度为1，所以r即z的长度，这样任何一个复数都可以用reiθreiθre^{i\theta}表示。
- 单位根xn=1xn=1x^n=1有n个复根e2kπin,k=0,1,2,…,n−1e2kπin,k=0,1,2,…,n−1e^{{2k\pi i\over n}}, k=0,1,2,\ldots,n-1，令ω=e2πin→1+ω+ω2+⋯+ωn−1=0ω=e2πin→1+ω+ω2+⋯+ωn−1=0\omega=e^{{2\pi i\over n}}\rightarrow 1+\omega+\omega^2+\cdots+\omega^{n-1}=0，例如：求(1+i)8←1+i=2–√eiπ4,(1+i)8=(2–√)8ei2π=16(1+i)8←1+i=2eiπ4,(1+i)8=(2)8ei2π=16(1+i)^8\leftarrow1+i=\sqrt{2}e^{i{\pi\over 4}}, (1+i)^8={(\sqrt{2})}^8e^{i2\pi}=16 。
- 代数基本定理：anxn+⋯+a1x+a0=0,ai∈Canxn+⋯+a1x+a0=0,ai∈Ca_nx^n+\cdots+a_1x+a_0=0, a_i\in C有n个复数根(可能重复)，设ai∈R,anxn+⋯+a1x+a0=0ai∈R,anxn+⋯+a1x+a0=0a_i\in R, a_nx^n+\cdots+a_1x+a_0=0 的非实数的复根也是成对出现，即若z=a+bi(b≠0)z=a+bi(b≠0)z=a+bi(b\ne0)是它的根，则z¯=a−biz¯=a−bi\bar{z}=a-bi也是它的根，复数根是成对出现的。⇒⇒\Rightarrow 奇次实系数方程总有一个实根。（注：公开课字幕内容如下：因为我们知道复根是成对出现的，所以对一个实系数方程，它的复根实际上是2的倍数，因为它是成对出现的，但是奇数次实系数呢，所以它必然除了复根应该有一个实根，不然的话它只有偶数的根，这样就跟它奇数次矛盾）。
- 实系数多项式（次数≥1≥1\ge 1）的f(x)f(x)f(x)可分解成f(x)=a(x−λ1)n1⋯(x−λs)ns(x2−b1x+c)e1⋯(x2−btx+c)etf(x)=a(x−λ1)n1⋯(x−λs)ns(x2−b1x+c)e1⋯(x2−btx+c)etf(x)=a(x-\lambda_1)^{n_1}\cdots(x-\lambda_s)^{n_s}(x^2-b_1x+c)^{e_1}\cdots(x^2-b_tx+c)^{e_{t}}，λiλi\lambda_i即实数根，后ttt项即复数根给出来的，后面这种形式无法写成实根的一次形式，也就是它的判别式小于0（有复数根），不能写成前s" role="presentation">sss项的形式。例如：xm−1=∏k=0m−1(x−ωk),ωk=ei2kπmxm−1=∏k=0m−1(x−ωk),ωk=ei2kπmx^m-1=\prod\limits_{k=0}^{m-1}(x-\omega_k), \omega_k=e^{{i2k\pi\over m}}ωm−k=ei2(m−k)πm=ei2π(1−km)=cos(2π(1−km))+isin(2π(1−km))=cos(2kπm)−isin(2kπm)=ωk¯¯¯¯¯,km<1⇒(x−ωk)(x−ωm−k)=x2−(ωk+ωm−k)x+(ωkωm−k)=x2−2cos(2kπmx)+1ωm−k=ei2(m−k)πm=ei2π(1−km)=cos(2π(1−km))+isin(2π(1−km))=cos(2kπm)−isin(2kπm)=ωk¯,km<1⇒(x−ωk)(x−ωm−k)=x2−(ωk+ωm−k)x+(ωkωm−k)=x2−2cos(2kπmx)+1\omega_{m-k}=e^{{i2(m-k)\pi\over m}}=e^{i{2\pi(1-{k\over m})}}=cos(2\pi(1-{k\over m}))+isin(2\pi(1-{k\over m}))=cos({2k\pi\over m})-isin({2k\pi\over m})=\overline{\omega_k}\\, {k\over m} ，同理可得：xm+1=∏k=0m−1(x−ξk),ξk=ei(π+2kπ)mxm+1=∏k=0m−1(x−ξk),ξk=ei(π+2kπ)mx^m+1=\prod\limits_{k=0}^{m-1}(x-\xi_k), \xi_k=e^{{i(\pi+2k\pi)\over m}} 。

例题：证明cosπ2n+1cos2π2n+1⋯cosnπ2n+1=12ncosπ2n+1cos2π2n+1⋯cosnπ2n+1=12ncos{\pi\over 2n+1}cos{2\pi\over 2n+1}\cdots cos{n\pi\over 2n+1}={1\over 2^n}
要证明这个需要以下3点：
(1)−1−ei2θ=−1−cos2θ−isin2θ=−2cosθ(cosθ+isinθ)⇒|−1−cos2θ−isin2θ|=2|cosθ|−1−ei2θ=−1−cos2θ−isin2θ=−2cosθ(cosθ+isinθ)⇒|−1−cos2θ−isin2θ|=2|cosθ|-1-e^{i2\theta}=-1-cos2\theta-isin2\theta=-2cos\theta(cos\theta+isin\theta)\Rightarrow |-1-cos2\theta-isin2\theta|\\=2|cos\theta|
(2)设ω=cos2π2n+1+isin2π2n+1=ei2π2n+1(⇒|−1−ω|=2|cos(π2n+1)|ω=cos2π2n+1+isin2π2n+1=ei2π2n+1(⇒|−1−ω|=2|cos(π2n+1)|\omega=cos{2\pi\over 2n+1}+isin{2\pi\over 2n+1}=e^{i2{\pi\over 2n+1}}(\Rightarrow|-1-\omega|=2|cos({\pi\over {2n+1}})|，那么x2n+x2n−1+⋯+1=(x−ω)(x−ω2)⋯(x−ω2n)(∗)x2n+x2n−1+⋯+1=(x−ω)(x−ω2)⋯(x−ω2n)(∗)x^{2n}+x^{2n-1}+\cdots+1=(x-\omega)(x-\omega^2)\cdots(x-\omega^{2n})\quad (*) 推导如下：x2n+1−1=(x−1)(x−ω)(x−ω2)⋯(x−ω2n)⇒x2n+1−1x−1=(x−ω)(x−ω2)⋯(x−ω2n)⇒1(1−x2n+1)1−x=(x−ω)(x−ω2)⋯(x−ω2n)x2n+1−1=(x−1)(x−ω)(x−ω2)⋯(x−ω2n)⇒x2n+1−1x−1=(x−ω)(x−ω2)⋯(x−ω2n)⇒1(1−x2n+1)1−x=(x−ω)(x−ω2)⋯(x−ω2n){x^{2n+1}-1}=(x-1)(x-\omega)(x-\omega^2)\cdots(x-\omega^{2n})\Rightarrow {{x^{2n+1}-1}\over {x-1}}=(x-\omega)(x-\omega^2)\cdots(x-\omega^{2n})\\\Rightarrow {1(1-x^{2n+1})\over {1-x}}=(x-\omega)(x-\omega^2)\cdots(x-\omega^{2n})
(3)cos(2n+1−k)π2n+1=coskπ2n+1cos(2n+1−k)π2n+1=coskπ2n+1cos{(2n+1-k)\pi\over 2n+1}=cos{k\pi\over 2n+1}
令(∗)(∗)(*)等式中x=−1x=−1x=-1，且取两边长度1=|(−1−ω)(−1−ω2)⋯(−1−ω2n)1=|(−1−ω)(−1−ω2)⋯(−1−ω2n)1=|(-1-\omega)(-1-\omega^2)\cdots(-1-\omega^{2n})中右边每一项利用(1)式子得到|−1−ω|=2|cosπ2n+1|,|−1−ω2|=2|cos2π2n+1|,…|−1−ωn|=2|cosnπ2n+1||−1−ω|=2|cosπ2n+1|,|−1−ω2|=2|cos2π2n+1|,…|−1−ωn|=2|cosnπ2n+1||-1-\omega|=2|cos{\pi\over {2n+1}}|,\\ |-1-\omega^2|=2|cos{2\pi\over {2n+1}}|,\\\ldots\\|-1-\omega^n|=2|cos{n\pi\over {2n+1}}|

从n+1项起根据(3)得：

|−1−ωn+1|=2|cos(n+1)π2n+1|=2|cos(2n+1−n)π2n+1|=2|cos(π−nπ2n+1)|=2|cos(nπ2n+1)|=|−1−ωn||−1−ωn+1|=2|cos(n+1)π2n+1|=2|cos(2n+1−n)π2n+1|=2|cos(π−nπ2n+1)|=2|cos(nπ2n+1)|=|−1−ωn|

|-1-\omega^{n+1}|=2|cos{(n+1)\pi\over {2n+1}}|=2|cos{(2n+1-n)\pi\over {2n+1}}|=2|cos(\pi-{n\pi\over {2n+1}})|=2|cos({n\pi\over {2n+1}})|=|-1-\omega^n|

|−1−ωn+2|=2|cos(n+2)π2n+1|=2|cos[(2n+1)−(n−1)]π2n+1|=2|cos(π−(n−1)π2n+1)|=2|cos(n−1)π2n+1|=|−1−ωn−1||−1−ωn+2|=2|cos(n+2)π2n+1|=2|cos[(2n+1)−(n−1)]π2n+1|=2|cos(π−(n−1)π2n+1)|=2|cos(n−1)π2n+1|=|−1−ωn−1|

|-1-\omega^{n+2}|=2|cos{(n+2)\pi\over {2n+1}}|=2|cos{[(2n+1)-(n-1)]\pi\over {2n+1}}|=2|cos(\pi-{(n-1)\pi\over {2n+1}})|=2|cos{(n-1)\pi\over {2n+1}}|=|-1-\omega^{n-1}|

⋯⋯⋯⋯

\cdots\cdots

|−1−ω2n|=2|cos2nπ2n+1|=2|cos(2n+1−1)π2n+1|=2|cos(π−π2n+1)|=2|cos(π2n+1)|=|−1−ω||−1−ω2n|=2|cos2nπ2n+1|=2|cos(2n+1−1)π2n+1|=2|cos(π−π2n+1)|=2|cos(π2n+1)|=|−1−ω||-1-\omega^{2n}|=2|cos{2n\pi\over {2n+1}}|=2|cos{(2n+1-1)\pi\over {2n+1}}|=2|cos(\pi-{\pi\over {2n+1}})|=2|cos({\pi\over {2n+1}})|=|-1-\omega|

复矩阵

Hermitian矩阵

复数矩阵A=(aij)m×n,aij∈CA=(aij)m×n,aij∈CA=(a_{ij})_{m\times n},a_{ij}\in C, 那么称AT¯¯¯¯¯¯¯(=A¯T)AT¯(=A¯T)\overline{A^T}(=\bar{A}^T) 为 Hermitian 矩阵，记为AHAHA^H。例如： Z=(1+ii)→ZH=(1−i−i)Z=(1+ii)→ZH=(1−i−i)Z=\begin{pmatrix}1+i\\i\end{pmatrix}\rightarrow Z^H=\begin{pmatrix}1-i&-i\end{pmatrix}，而且发现ZZH=||Z||2ZZH=||Z||2ZZ^H=||Z||^2，这个可以类比实数中的xTx=||x||2xTx=||x||2x^Tx=||x||^2。性质：(AH)H=A,(AB)H=BHAH(AH)H=A,(AB)H=BHAH(A^H)H=A, (AB)^H=B^HA^H（按照共轭转置即可求得），正如在RnRnR^n的定义内积，在CCC上也可以定义内积：u,v∈Cn,uHv=(u¯1⋯u¯n)(v1...vn)=u¯1v1+⋯+u¯nvn" role="presentation">u,v∈Cn,uHv=(u¯1⋯u¯n)⎛⎝⎜⎜⎜⎜⎜⎜v1...vn⎞⎠⎟⎟⎟⎟⎟⎟=u¯1v1+⋯+u¯nvnu,v∈Cn,uHv=(u¯1⋯u¯n)(v1...vn)=u¯1v1+⋯+u¯nvnu,v\in C^n, u^Hv=(\bar{u}_1\cdots\bar{u}_n)\begin{pmatrix}v_1\\.\\.\\.\\v_n\end{pmatrix}=\bar{u}_1v_1+\cdots+\bar{u}_nv_n，内积的性质：uHv=vHu¯¯¯¯¯¯¯¯¯uHv=vHu¯u^Hv=\overline{v^Hu}。

厄米特Hermite矩阵

在实数矩阵中有对称矩阵的概念和作用，复数矩阵有类似的——厄米特矩阵(Hermite matrix)，定义为：A=AHA=AHA=A^H，即一个矩阵的共轭转置等于它本身，那么称这种矩阵为Hermite阵。例：(21−i1+i3)(21+i1−i3)\begin{pmatrix}2&1+i\\1-i&3\end{pmatrix}。

性质1：Hermite阵对角线元素为实数。
性质2：z∈C,A=AH⇒zHAzz∈C,A=AH⇒zHAzz\in C, A=A^H\Rightarrow z^HAz 是一个实数。证明如下：zHAz¯¯¯¯¯¯¯¯¯¯¯¯T=(zHAz)H=zHAHz=zHAzzHAz¯T=(zHAz)H=zHAHz=zHAz{\overline{z^HAz}}^T=(z^HAz)^H=z^HA^Hz=z^HAz
性质3：设A,BA,BA,B是Hermite阵，则A+BA+BA+B也是，证明：(A+B)H=AH+BH=A+B(A+B)H=AH+BH=A+B(A+B)^H=A^H+B^H=A+B。进一步，若AB=BAAB=BAAB=BA（即乘法可交换的时候），则ABABAB是Hermite阵。⇒An⇒An\Rightarrow A^n是Hermite阵。
性质4：设AAA是一个n" role="presentation">nnn阶复矩阵，AAH,A+AHAAH,A+AHAA^H, A+A^H是Hermite阵，联系对比实对称矩阵的AAT,ATA,A+ATAAT,ATA,A+ATAA^T, A^TA, A+A^T。
性质5：一个Hermite矩阵A的特征值是实数。证明：设Az=λ0zAz=λ0zAz=\lambda_0z，则zHAz=λ0zHzzHAz=λ0zHzz^HAz=\lambda_0z^Hz。zHAzzHAzz^HAz和zHzzHzz^Hz均为实数⇒λ0(z0≠0)⇒λ0(z0≠0)\Rightarrow \lambda_0 (z_0\ne 0)是实数。
性质6：一个Hermite阵的不同特征值的特征向量相互正交。证明：设(1)Az1=λ1z1,(2)Az2=λ2z2,λ1≠λ2(1)Az1=λ1z1,(2)Az2=λ2z2,λ1≠λ2(1) Az_1=\lambda_1z_1, (2) Az_2=\lambda_2z_2, \lambda_1 \ne \lambda_2，在(1)两边同乘以zH2z2Hz_2^H得：(3)zH2Az1=zH2λ1z1⇒(4)zH2AHz1=(Az2)Hz1=λ2¯¯¯¯¯zH2z1=λ2zH2z1(3)z2HAz1=z2Hλ1z1⇒(4)z2HAHz1=(Az2)Hz1=λ2¯z2Hz1=λ2z2Hz1(3)z_2^HAz_1=z_2^H\lambda_1z_1 \Rightarrow (4)z_2^HA^Hz_1=(Az_2)^Hz_1=\overline{\lambda_2}z_2^Hz_1=\lambda_2z_2^Hz_1，由(3)(4)⇒λ1zH2z1=λ2zH2z1⇒(λ1−λ2)zH2z1=0(3)(4)⇒λ1z2Hz1=λ2z2Hz1⇒(λ1−λ2)z2Hz1=0(3)(4)\Rightarrow \lambda_1z_2^Hz_1=\lambda_2z_2^Hz_1\Rightarrow (\lambda_1-\lambda_2)z_2^Hz_1=0，因为λ1≠λ2λ1≠λ2\lambda_1\ne \lambda_2得：zH2z1=0z2Hz1=0z_2^Hz_1=0。

酉unitary矩阵

酉矩阵是正交阵的复数类比。Un×nUn×nU_{n\times n}是酉矩阵⇔⇔\Leftrightarrow ∀z∈Cn,||Uz||=||z||∀z∈Cn,||Uz||=||z||\forall z\in C^n, ||Uz||=||z||，证明：UHU=In⇒|Uz|2=zHUHUz=zHz=|z|2⇒|Uz|=|z|⇒|λ|=1UHU=In⇒|Uz|2=zHUHUz=zHz=|z|2⇒|Uz|=|z|⇒|λ|=1U^HU=I_n\Rightarrow |U z|^2=z^HU^HUz = z^Hz=|z|^2\Rightarrow |Uz|=|z|\Rightarrow |\lambda|=1 。得出与实数矩阵类似的性质1：酉矩阵乘以任何向量不改变它的模长。性质2：UUU是酉矩阵，则U" role="presentation">UUU的特征值模长为1。例：u=⎛⎝⎜⎜⎜⎜⎜12√12√0−16√16√1+i3√6√1−i3√23√−1+i3√23√13√⎞⎠⎟⎟⎟⎟⎟u=(12−161−i3231216−1+i32301+i3613)u=\begin{pmatrix}{1\over \sqrt{2}}}}}}\over 2\sqrt{3}}\\{1\over \sqrt{2}}}}\over 2\sqrt{3}}\\0}\over \sqrt{6}}}\end{pmatrix} ，|detU|=∏|λi|=1|detU|=∏|λi|=1|det U|=\prod{|\lambda_i|}=1 (行列式的长度等于特征值长度的乘积)。

而实数的正交阵，也有类似的性质。下面证明正交阵不同特征值对应的特征向量相互正交：

因为QQQ正交阵,QTQ=E,|Q|=1=λ1λ2…λn" role="presentation">QTQ=E,|Q|=1=λ1λ2…λnQTQ=E,|Q|=1=λ1λ2…λnQ^TQ=E,|Q|=1=λ_1λ_2\ldotsλ_n,设λ1,λ2λ1,λ2λ_1,λ_2为QQQ的两个不同的特征值,ξ1,ξ2" role="presentation">ξ1,ξ2ξ1,ξ2ξ_1,ξ_2为对应的特征向量(1)Qξ1=λ1ξ1,(2)Qξ2=λ2ξ2,(3)(ξ2)TQT=λ2(ξ2)T⇒(3)(1)⇒ξT2QTQξ1=λ1λ2ξT2ξ1⇒(λ1λ2−1)ξT2ξ1=0(1)Qξ1=λ1ξ1,(2)Qξ2=λ2ξ2,(3)(ξ2)TQT=λ2(ξ2)T⇒(3)(1)⇒ξ2TQTQξ1=λ1λ2ξ2Tξ1⇒(λ1λ2−1)ξ2Tξ1=0 (1)Qξ_1=λ_1ξ_1, (2)Qξ_2=λ_2ξ_2,(3)(ξ_2)^T Q^T=λ_2(ξ_2)^T \Rightarrow (3)(1)\Rightarrow ξ_2^TQ^TQξ_1=λ_1λ_2ξ_2^Tξ_1\Rightarrow \\(λ_1λ_2-1)ξ_2^Tξ_1=0
而|λ1|=|λ2|=1,λ1≠λ2|λ1|=|λ2|=1,λ1≠λ2|λ_1|=|λ_2|=1,λ_1≠λ_2,得ξ2Tξ1=0,因此ξ2,ξ1ξ2Tξ1=0,因此ξ2,ξ1ξ2^Tξ1=0,因此ξ_2,ξ_1正交。

复正规阵

酉阵和Hermite矩阵均为复正规矩阵，即：AHA=AAHAHA=AAHA^HA=AA^H。酉相似：设A,BA,BA,B是；两nnn阶复矩阵，若存在酉矩阵U" role="presentation">UUU，使得A=UHBUA=UHBUA=U^HBU，则AAA和B" role="presentation">BBB是酉相似（联系实数矩阵的正交相似）。定理：设AAA复正规阵，则

向量u" role="presentation">uuu是AAA的关于λ" role="presentation">λλ\lambda的特征向量⇔u⇔u\Leftrightarrow u是AHAHA^H的关于λ¯λ¯\bar{\lambda}的特征向量。证明：
设Au=λu⇒(A−λI)u=0Au=λu⇒(A−λI)u=0Au=\lambda u\Rightarrow (A-\lambda I)u=0令B=A−λI⇒||BHu||2=uHBBHu=uHBHBu=||Bu||2=0B=A−λI⇒||BHu||2=uHBBHu=uHBHBu=||Bu||2=0B=A-\lambda I\Rightarrow ||B^Hu||^2=u^HBB^Hu=u^HB^HBu=||Bu||^2=0，因为||BHu||2=0⇒BHu=0,(A−λI)H=BH⇒(AH−λ¯I)u=0⇒AHu=λ¯u||BHu||2=0⇒BHu=0,(A−λI)H=BH⇒(AH−λ¯I)u=0⇒AHu=λ¯u||B^Hu||^2=0\Rightarrow B^Hu=0, (A-\lambda I)^H=B^H\Rightarrow (A^H-\bar{\lambda}I)u=0\Rightarrow A^Hu=\bar{\lambda}u

不同特征值的特征向量正交。证明与Hermite矩阵一样。

定理(Schur)：任意一个复矩阵AAA酉相似于一个上三角阵。即：∃ U∈unitary matrix,∀ A∈complex matrix,UH=U−1,UHAU=(λ1∗∗0⋱∗00λn)⇒" role="presentation">∃ U∈unitary matrix,∀ A∈complex matrix,UH=U−1,UHAU=⎛⎝⎜⎜λ100∗⋱0∗∗λn⎞⎠⎟⎟⇒∃ U∈unitary matrix,∀ A∈complex matrix,UH=U−1,UHAU=(λ1∗∗0⋱∗00λn)⇒\exists\ U\in unitary\ matrix,\forall\ A\in complex\ matrix,U^H=U^{-1}, U^HAU=\begin{pmatrix}\lambda_1&*&*\\0&\ddots&*\\0&0&\lambda_n\end{pmatrix} \Rightarrow任意一个复正规阵酉相似于对角阵，特别地，酉相似于⎛⎝⎜⎜⎜⎜⎜11⋱1⎞⎠⎟⎟⎟⎟⎟(11⋱1)\begin{pmatrix}1\\&1\\&&\ddots\\&&&1\end{pmatrix}, UHAU=diag(λ1,…,λn)⇒AU=λUUHAU=diag(λ1,…,λn)⇒AU=λUU^HAU=diag(\lambda_1,\ldots,\lambda_n)\Rightarrow AU=\lambda U。

一个实矩阵AAA是正规的⇔ATA=AAT" role="presentation">⇔ATA=AAT⇔ATA=AAT\Leftrightarrow A^TA=AA^T。例如，AAA是正交阵或者A" role="presentation">AAA是对称（反对称）矩阵。

如果AAA是正规的，那么存在正交阵Ω" role="presentation">ΩΩ\Omega使得：

ΩTAΩ=⎛⎝⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜⎜(a1−b1b1a1)⋱(as−bsbsas)λ2s+1⋱λn⎞⎠⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟⎟ΩTAΩ=((a1b1−b1a1)⋱(asbs−bsas)λ2s+1⋱λn)\Omega^TA\Omega=\begin{pmatrix}\begin{pmatrix}a_1&b_1\\-b_1&a_1\end{pmatrix}\\&\ddots\\&&\begin{pmatrix}a_s&b_s\\-b_s&a_s\end{pmatrix}\\&&&\lambda_{2s+1}\\&&&&\ddots\\&&&&&\lambda_n\end{pmatrix}，即实正规阵正交相似于分块对角阵。

对于复正规阵酉相似对角阵UHAU=diag(λ1,…,λn)⇒AU=λUUHAU=diag(λ1,…,λn)⇒AU=λUU^HAU=diag(\lambda_1,\ldots,\lambda_n)\Rightarrow AU=\lambda U，这里如果把UUU的列向量写成uk=β+iγ, k∈[1,n], β,γ∈Rn" role="presentation">uk=β+iγ, k∈[1,n], β,γ∈Rnuk=β+iγ, k∈[1,n], β,γ∈Rnu_k=\beta+i\gamma,\ \ k\in [1,n],\ \beta,\gamma \in R_n，例如：(1+i1−i)=(11)+i(1−1)(1+i1−i)=(11)+i(1−1)\begin{pmatrix}1+i\\1-i\end{pmatrix}=\begin{pmatrix}1\\1\end{pmatrix}+i\begin{pmatrix}1\\-1\end{pmatrix}。

Auk=λkuk⇒A(β+iγ)=λk(β+iγ)Auk=λkuk⇒A(β+iγ)=λk(β+iγ)Au_k=\lambda_ku_k\Rightarrow A(\beta+i\gamma)=\lambda_k(\beta+i\gamma)，令λk=a+ibλk=a+ib\lambda_k=a+ib，得：Aβ=aβ−bγ,Aγ=bβ+aγ⇒Aβ=aβ−bγ,Aγ=bβ+aγ⇒A\beta=a\beta-b\gamma, A\gamma=b\beta+a\gamma\Rightarrow
A(β,γ)=(β,γ)(a−bba)A(β,γ)=(β,γ)(ab−ba)A(\beta, \gamma)=(\beta,\gamma)\begin{pmatrix}a&b\\-b&a\end{pmatrix} ，所以ΩΩ\Omega的实际上是由UUU的特征向量的实部和虚部组成的这样一个形式。 Ω" role="presentation">ΩΩ\Omega是一个正交阵，那ββ\beta和γγ\gamma是不是正交的？它们的长度相等嘛？不然无法保证ΩΩ\Omega是一个正交阵。结论：设AAA是n" role="presentation">nnn解实正交阵。若λ=a+ib(b≠0)λ=a+ib(b≠0)\lambda=a+ib(b\ne 0)是AAA的特征值，x=x1+ix2, x1,x2∈Rn" role="presentation">x=x1+ix2, x1,x2∈Rnx=x1+ix2, x1,x2∈Rnx=x_1+ix_2,\ x_1,x_2\in R_n是对应的特征向量，则||x1||=||x2||||x1||=||x2||||x_1||=||x_2||，且x1,x2x1,x2x_1,x_2是相互正交的。

证明：如果λ=a+ibλ=a+ib\lambda=a+ib 是AAA的特征值，那么λ=a−ib" role="presentation">λ=a−ibλ=a−ib\lambda=a-ib 也是AAA的特征值。因为A" role="presentation">AAA实正交阵，所以对Ax=λxAx=λxAx=\lambda x取两边共轭得：Ax¯¯¯¯¯¯¯=Ax¯=λ¯x¯Ax¯=Ax¯=λ¯x¯\overline{Ax}=A\bar{x}=\bar{\lambda}\bar{x}。那么得到λ,λ¯λ,λ¯\lambda,\bar{\lambda}都是AAA的特征值，由于正交阵不同特征值对应的特征向量正交，所以x¯Hx=0,x=x1+ix2,x¯=x1−ix2⇒||x1||=||x2||,x1Tx2=0" role="presentation">x¯Hx=0,x=x1+ix2,x¯=x1−ix2⇒||x1||=||x2||,xT1x2=0x¯Hx=0,x=x1+ix2,x¯=x1−ix2⇒||x1||=||x2||,x1Tx2=0{\bar{x}}^Hx=0, x=x_1+ix_2, \bar{x}=x_1-ix_2\Rightarrow ||x_1||=||x_2||, x_1^Tx_2=0。

例2：证明：(cosθsinθ−sinθcosθ)(cosθ−sinθsinθcosθ)\begin{pmatrix}cos\theta&-sin\theta\\sin\theta&cos\theta\end{pmatrix}和(eiθ00e−iθ)(eiθ00e−iθ)\begin{pmatrix}e^{i\theta}&0\\0&e^{-i\theta}\end{pmatrix} 酉相似。U=12√(i11i)U=12(i11i)U={1\over \sqrt{2}}\begin{pmatrix}i&1\\1&i\end{pmatrix}

例3：设AAA是Hermite阵，则I+iA" role="presentation">I+iAI+iAI+iA是非奇异的。由于A的特征值是实数，那么I+iAI+iAI+iA特征值的是λi+1λi+1\lambda i+1不可能是0，行列式就不可能是0，因此是非奇异的。如果A是Hermite阵，那么U=(I−iA)(I+iA)−1U=(I−iA)(I+iA)−1U=(I-iA)(I+iA)^{-1}是酉阵，验证UH=(I−iA)−1(I+iA)=(I+iA)(I−iA)−1UH=(I−iA)−1(I+iA)=(I+iA)(I−iA)−1U^H=(I-iA)^{-1}(I+iA)=(I+iA)(I-iA)^{-1}（注：分块是相同的矩阵是可交换即变成分块对角阵），这个是用来通过实对称阵或Hermite阵构造酉矩阵。

离散傅里叶变换DFT

回忆若f(x),f′(x)f(x),f′(x)f(x), f'(x)是piecewise连续的且f(x+L)=f(x)f(x+L)=f(x)f(x+L)=f(x)，则f(x)=a0+∑(ancos(2πnxL)+bnsin(2πnxL)),an=2L∫L0f(x)cos2πnxLdx, bn=2L∫L0f(x)sin2πnxLdxf(x)=a0+∑(ancos(2πnxL)+bnsin(2πnxL)),an=2L∫0Lf(x)cos2πnxLdx,bn=2L∫0Lf(x)sin2πnxLdxf(x)=a_0+\sum(a_ncos({2\pi nx\over L})+b_nsin({2\pi nx \over L})), a_n={2\over L}\int_{0}^{L}f(x)cos{2\pi nx \over L}dx,\ b_n={2\over L}\int_{0}^{L}f(x)sin{2\pi nx \over L}dx，令V={f(x)|f(x)如上条件}→R∞V={f(x)|f(x)如上条件}→R∞V=\{f(x)|f(x)\text{如上条件}\}\rightarrow R^{\infty}
f(x)→(a0,a1,b1,a2,b2,…)f(x)→(a0,a1,b1,a2,b2,…)f(x)\rightarrow (a_0, a_1, b_1, a_2, b_2,\ldots)
这是一个线性映射，(a0,a1,b1,…)(a0,a1,b1,…)(a_0, a_1,b_1,\ldots)是f(x)f(x)f(x)的逆傅里叶变换。 当通过f(x)f(x)f(x)求系数ai,bi,…ai,bi,…a_i,b_i,\ldots即傅里叶变换，当通过系数ai,bi,…ai,bi,…a_i,b_i,\ldots求f(x)f(x)f(x)即逆傅里叶变换。

由前文分析得到傅里叶级数的复形式是F=∑k=−∞∞ckeikx,ck=12π∫π−πf(x)e−ikxdxF=∑k=−∞∞ckeikx,ck=12π∫−ππf(x)e−ikxdxF=\sum\limits_{k=-\infty}^{\infty}c_ke^{ikx}, c_k={1\over 2\pi}\int_{-\pi}^{\pi}f(x)e^{-ikx}dx，通过变量代换：x=2πLtx=2πLtx={2\pi \over L}t 得：ck=1L∫L2−L2f(t)e−i2πkLtdt,f(t)=∑k=−∞+∞cke−i2πkLtck=1L∫−L2L2f(t)e−i2πkLtdt,f(t)=∑k=−∞+∞cke−i2πkLtc_k={1\over L}\int_{-{L\over 2}}^{L\over 2}f(t)e^{-i{2\pi k\over L}t}dt, f(t)=\sum\limits_{k=-\infty}^{+\infty}c_ke^{-i{2\pi k\over L}t}
令n=kn=kn=k，则得到新的傅里叶级数复数形式：f(t)=∑n=−∞+∞cne−i2πnLt,cn=1L∫L2−L2f(t)e−i2πnLtdt(1)f(t)=∑n=−∞+∞cne−i2πnLt,cn=1L∫−L2L2f(t)e−i2πnLtdt(1)f(t)=\sum\limits_{n=-\infty}^{+\infty}c_ne^{-i{2\pi n\over L}t}, c_n={1\over L}\int_{-{L\over 2}}^{L\over 2}f(t)e^{-i{2\pi n\over L}t}dt\quad (1)
令ωn=2πnLωn=2πnL\omega_n={2\pi n\over L}得到傅里叶级数的频率形式：f^(ω)=∫+∞−∞f(t)eiωntdt(2)f^(ω)=∫−∞+∞f(t)eiωntdt(2)\hat{f}(\omega)=\int_{-\infty}^{+\infty}f(t)e^{i\omega_nt}dt\quad (2)

对(1)(2)进行离散化：
f(tj)=∑k=−∞+∞cke−i2πkLtjf(tj)=∑k=−∞+∞cke−i2πkLtjf(t_j)=\sum\limits_{k=-\infty}^{+\infty}c_ke^{-i{2\pi k\over L}t_j}令 tj=jLNtj=jLN\ t_j={jL\over N}则得到：f(tj)≈∑k=0N−1ckei2πkjN,ck=1L∫L2−L2f(tj)ei2πkjNdtj(1∗)f(tj)≈∑k=0N−1ckei2πkjN,ck=1L∫−L2L2f(tj)ei2πkjNdtj(1∗)f(t_j)\approx \sum\limits_{k=0}^{N-1}c_ke^{i{2\pi kj\over N}}, c_k={1\over L}\int_{-{L\over 2}}^{L\over 2}f(t_j)e^{i{2\pi kj\over N}}dt_j\quad (1*)，然后再设置Aj=f(tj)，ak=ckAj=f(tj)，ak=ckA_j=f(t_j)，a_k=c_k得到：f(t)→(A0,A1,⋯,AN−1),(ck)→(a0,a1,⋯,aN−1)f(t)→(A0,A1,⋯,AN−1),(ck)→(a0,a1,⋯,aN−1)f(t)\rightarrow (A_0,A_1,\cdots, A_{N-1}), (c_k)\rightarrow (a_0,a_1,\cdots, a_{N-1})。

由上可举N=4的例子：
A0=f(t0)=a0ei2π004+a1ei2π104+a2ei2π204+a3ei2π304=a0+a1+a2+a3=1a0+1a1+1a2+1a3A0=f(t0)=a0ei2π004+a1ei2π104+a2ei2π204+a3ei2π304=a0+a1+a2+a3=1a0+1a1+1a2+1a3A_0=f(t_0)=a_{0}e^{i2\pi 00\over 4}+a_1e^{i2\pi 10\over 4}+a_2e^{i2\pi 20\over 4}+a_3e^{i2\pi 30\over 4}=a_{0}+a_1+a_2+a_3=1a_{0}+1a_1+1a_2+1a_3
A1=f(t1)=a0ei2π014+a1ei2π114+a2ei2π214+a3ei2π314=a0+ia1−a2−ia3=1a0+ia1+i2a2+i3a3A1=f(t1)=a0ei2π014+a1ei2π114+a2ei2π214+a3ei2π314=a0+ia1−a2−ia3=1a0+ia1+i2a2+i3a3A_1=f(t_1)=a_{0}e^{i2\pi 01\over 4}+a_1e^{i2\pi 11\over 4}+a_2e^{i2\pi 21\over 4}+a_3e^{i2\pi 31\over 4}= a_{0}+ia_1-a_2-ia_3=1a_{0}+ia_1+i^2a_2+i^3a_3
A2=f(t2)=a0ei2π024+a1ei2π124+a2ei2π224+a3ei2π324=a0−a1+a2−a3=1a0+i2a1+i4a2+i6a3A2=f(t2)=a0ei2π024+a1ei2π124+a2ei2π224+a3ei2π324=a0−a1+a2−a3=1a0+i2a1+i4a2+i6a3A_2=f(t_2)=a_{0}e^{i2\pi 02\over 4}+a_1e^{i2\pi 12\over 4}+a_2e^{i2\pi22\over 4}+a_3e^{i2\pi 32\over 4} = a_{0}-a_1+a_2-a_3 = 1a_{0}+i^2a_1+i^4a_2+i^6a_3
A3=f(t3)=a0ei2π034+a1ei2π134+a2ei2π234+a3ei2π334=a0−ia1−a2+ia3=1a0+i3a1+i6a2+i9a3A3=f(t3)=a0ei2π034+a1ei2π134+a2ei2π234+a3ei2π334=a0−ia1−a2+ia3=1a0+i3a1+i6a2+i9a3A_3=f(t_3)=a_{0}e^{i2\pi 03\over 4}+a_1e^{i2\pi 13\over 4}+a_2e^{i2\pi 23\over 4}+a_3e^{i2\pi 33\over 4}=a_{0}-ia_1-a_2+ia_3=1a_{0}+i^3a_1+i^6a_2+i^9a_3
写成矩阵形式：
⎛⎝⎜⎜⎜A0A1A2A3⎞⎠⎟⎟⎟=⎛⎝⎜⎜⎜11111ii2i31i2i4i61i3i6i9⎞⎠⎟⎟⎟⎛⎝⎜⎜⎜a0a1a2a3⎞⎠⎟⎟⎟(A0A1A2A3)=(11111ii2i31i2i4i61i3i6i9)(a0a1a2a3)\begin{pmatrix}A_0\\A_1\\A_2\\A_3\end{pmatrix}=\begin{pmatrix}1&1&1&1\\1&i&i^2&i^3\\1&i^2&i^4&i^6\\1&i^3&i^6&i^9\end{pmatrix}\begin{pmatrix}a_0\\a_1\\a_2\\a_3\end{pmatrix}
设F=⎛⎝⎜⎜⎜11111ii2i31i2i4i61i3i6i9⎞⎠⎟⎟⎟F=(11111ii2i31i2i4i61i3i6i9)F=\begin{pmatrix}1&1&1&1\\1&i&i^2&i^3\\1&i^2&i^4&i^6\\1&i^3&i^6&i^9\end{pmatrix}，令s表示第s行，t表示第t列，则F的第s行第t列元素为Fs,t=i(s−1)(t−1)Fs,t=i(s−1)(t−1)F_{s,t}=i^{(s-1)(t-1)}，其实上文中的记号j刚好可以视为行数，k刚好表示列数。

一般地，⎛⎝⎜⎜⎜⎜A0A1⋮AN−1⎞⎠⎟⎟⎟⎟=F⎛⎝⎜⎜⎜⎜a0a1⋮aN−1⎞⎠⎟⎟⎟⎟(A0A1⋮AN−1)=F(a0a1⋮aN−1)\begin{pmatrix}A_0\\A_1\\\vdots\\A_{N-1}\end{pmatrix}=F\begin{pmatrix}a_0\\a_1\\\vdots\\a_{N-1}\end{pmatrix}，Fj,k=ei2πjkNFj,k=ei2πjkNF_{j, k}=e^{i{2\pi jk\over N}}令ωN=ei2πN⇒Fj,k=ωjkN=Fj,kωN=ei2πN⇒Fj,k=ωNjk=Fj,k\omega_N=e^{i{2\pi\over N}}\Rightarrow F_{j,k}=\omega^{jk}_{N}=F_{j,k}。F称为傅里叶矩阵，F的各列相互正交且F对称(但注意：不是Hermite矩阵)，这个矩阵跟范德蒙德行列式很像。如果令ωN=ei2πN⇒Fs,t=ωstN=Ft,sωN=ei2πN⇒Fs,t=ωNst=Ft,s\omega_N=e^{i{2\pi\over N}}\Rightarrow F_{s,t}=\omega^{st}_{N}=F_{t,s}那么F表示成F=⎛⎝⎜⎜⎜11111ωω2ω31ω2ω4ω61ω3ω6ω9⎞⎠⎟⎟⎟F=(11111ωω2ω31ω2ω4ω61ω3ω6ω9)F=\begin{pmatrix}1&1&1&1\\1&\omega&\omega^2&\omega^3\\1&\omega^2&\omega^4&\omega^6\\1&\omega^3&\omega^6&\omega^9\end{pmatrix}。

对于给定的⎛⎝⎜⎜⎜⎜A0A1⋮AN−1⎞⎠⎟⎟⎟⎟(A0A1⋮AN−1)\begin{pmatrix}A_0\\A_1\\\vdots\\A_{N-1}\end{pmatrix}，求⎛⎝⎜⎜⎜⎜a0a1⋮aN−1⎞⎠⎟⎟⎟⎟=F−1⎛⎝⎜⎜⎜⎜A0A1⋮AN−1⎞⎠⎟⎟⎟⎟(a0a1⋮aN−1)=F−1(A0A1⋮AN−1)\begin{pmatrix}a_0\\a_1\\\vdots\\a_{N-1}\end{pmatrix}=F^{-1}\begin{pmatrix}A_0\\A_1\\\vdots\\A_{N-1}\end{pmatrix}，F−1=1NF¯¯¯¯F−1=1NF¯F^{-1}={1\over N}\overline{F}，需要N2N2N^2次乘法，N(N−1)N(N−1)N(N-1)次加法（忽略除以N的除法），计算量=O(N2)=O(N2)=O(N^2)。

注记：实际上由前文可得⎛⎝⎜⎜⎜⎜a0a1⋮aN−1⎞⎠⎟⎟⎟⎟=⎛⎝⎜⎜⎜⎜c0c1⋮cN−1⎞⎠⎟⎟⎟⎟(a0a1⋮aN−1)=(c0c1⋮cN−1)\begin{pmatrix}a_0\\a_1\\\vdots\\a_{N-1}\end{pmatrix}=\begin{pmatrix}c_0\\c_1\\\vdots\\c_{N-1}\end{pmatrix}，因此是向量⎛⎝⎜⎜⎜⎜A0A1⋮AN−1⎞⎠⎟⎟⎟⎟(A0A1⋮AN−1)\begin{pmatrix}A_0\\A_1\\\vdots\\A_{N-1}\end{pmatrix}关于某个正交向量基的投影长度，即坐标分量。(a0,a1,b1,…)(a0,a1,b1,…)(a_0, a_1,b_1,\ldots)是f(x)f(x)f(x)关于{1,cosx,sinx,…}{1,cosx,sinx,…}\{1,cosx,sinx,\dots\}的坐标。

快速傅里叶变换FFT

快速傅里叶变换减少了DFTDFTDFT的计算量到O(NlogN2)O(Nlog2N)O(Nlog_2^N)

NNN	N2" role="presentation">N2N2N^2	NlogN2Nlog2NNlog_2^N	FFT efficiency
256	65536	1024	64:1
512	262144	2304	114:1
1024	1048576	5120	205:1

注：limN→+∞logN2N=0limN→+∞log2NN=0\lim\limits_{N\rightarrow +\infty}{log_2^N\over N}=0

解释算法：N=4，⎛⎝⎜⎜⎜a0a1a2a3⎞⎠⎟⎟⎟=14⎛⎝⎜⎜⎜11111−i−1i1−11−11i−1−i⎞⎠⎟⎟⎟⎛⎝⎜⎜⎜A0A1A2A3⎞⎠⎟⎟⎟i4=1N=4，(a0a1a2a3)=14(11111−i−1i1−11−11i−1−i)(A0A1A2A3)i4=1N=4，\begin{pmatrix}a_0\\a_1\\a_2\\a_3\end{pmatrix}={1\over 4}\begin{pmatrix}1&1&1&1\\1&-i&-1&i\\1&-1&1&-1\\1&i&-1&-i\end{pmatrix}\begin{pmatrix}A_0\\A_1\\A_2\\A_3\end{pmatrix}\quad i^4=1

4a0=(A0+A2)+(A1+A3)4a1=(A0−A2)−i(A1−A3)4a2=(A0+A2)−(A1+A3)4a3=(A0−A2)+i(A1−A3)4a0=(A0+A2)+(A1+A3)4a1=(A0−A2)−i(A1−A3)4a2=(A0+A2)−(A1+A3)4a3=(A0−A2)+i(A1−A3)\begin{equation}4a_0=(A_0+A_2)+(A_1+A_3)\\4a_1=(A_0-A_2)-i(A_1-A_3)\\4a_2=(A_0+A_2)-(A_1+A_3)\\4a_3=(A_0-A_2)+i(A_1-A_3)\end{equation}

注意：求a2a2a_2的时候，可以把在求a0a0a_0过程中的两个括号的值重新利用，求a3a3a_3的时候，可以把在求a1a1a_1过程中的两个括号的值重新利用。

引入记号：

将A0,A1,A2,A3A0,A1,A2,A3A_0, A_1, A_2, A_3重新排序A0,A2,A1,A3A0,A2,A1,A3A_0,A_2,A_1,A_3使用记号，则

FFTFFTFFT算法将DFTDFTDFT算法分成logN2log2Nlog_2^N段，每一段有N2N2{N\over 2}个butterfly operation。

举例：N=8N=8N=8，第一步将A0,A1,…,A7A0,A1,…,A7A_0,A_1,\ldots,A_7重新排序。原则：考虑0,1,…,70,1,…,70,1,\ldots,7的二进制，设jjj的二进制数的反转为nj" role="presentation">njnjn_j。若j<njj<njj，则交换AjAjAj和AnjAnjA_{n_j}。例如1的二进制数为00120012{001}_2,反转为1002=4,1<41002=4,1<4{100}_2=4, 1，交换A1A1A_1和A4A4A_4。

排序后为：A0,A4,A2,A6,A1,A5,A3,A7A0,A4,A2,A6,A1,A5,A3,A7A_0,A_4,A_2,A_6,A_1,A_5,A_3,A_7（奇偶分离）

奇偶分离的原因：⎛⎝⎜⎜⎜⎜a0a1⋮aN−1⎞⎠⎟⎟⎟⎟=(1NF¯¯¯¯)⎛⎝⎜⎜⎜⎜A0A1⋮AN−1⎞⎠⎟⎟⎟⎟(a0a1⋮aN−1)=(1NF¯)(A0A1⋮AN−1)\begin{pmatrix}a_0\\a_1\\\vdots\\a_{N-1}\end{pmatrix}=({1\over N}\overline{F})\begin{pmatrix}A_0\\A_1\\\vdots\\A_{N-1}\end{pmatrix}，
令p(x)=A0+A1x+⋯+AN−1xN−1=pe(x2)+xpo(x2),pe=A0+A2x2+⋯po=A1+A3x2+⋯p(x)=A0+A1x+⋯+AN−1xN−1=pe(x2)+xpo(x2),pe=A0+A2x2+⋯po=A1+A3x2+⋯p(x)=A_0+A_1x+\cdots+A_{N-1}x^{N-1}=p_e(x^2)+xp_o(x^2),p_e=A_0+A_2x^2+\cdots\quad p_o=A_1+A_3x^2+\cdots

（注解：e代表even，o代表odd），则aj=1N(1,ω¯¯¯jN,ω¯¯¯2jN,…)⎛⎝⎜⎜A0⋮AN−1⎞⎠⎟⎟=1Np(ω¯¯¯jN)=1N[pe(ω¯¯¯2jN)+ω¯¯¯jNpo(ω¯¯¯2jN)],j=0,1,⋯,N2−1aj=1N(1,ω¯Nj,ω¯N2j,…)(A0⋮AN−1)=1Np(ω¯Nj)=1N[pe(ω¯N2j)+ω¯Njpo(ω¯N2j)],j=0,1,⋯,N2−1a_j={1\over N}(1,\overline{\omega}_N^j,\overline{\omega}_{N}^{2j},\ldots)\begin{pmatrix}A_0\\\vdots\\A_{N-1}\end{pmatrix}={1\over N}p(\overline{\omega}_N^j)={1\over N}[p_e(\overline{\omega}_N^{2j})+\overline{\omega}_N^{j}p_o(\overline{\omega}_N^{2j})], j=0,1,\cdots,{N\over 2}-1

aN2+j=1N[pe(ω¯¯¯2(N2+j)N)+ω¯¯¯N2+jNpo(ω¯¯¯2(N2+j)N)],j=0,1,⋯,N2−1aN2+j=1N[pe(ω¯N2(N2+j))+ω¯NN2+jpo(ω¯N2(N2+j))],j=0,1,⋯,N2−1a_{{N\over 2}+j}={1\over N}[p_e(\overline{\omega}_N^{2({N\over 2}+j)})+\overline{\omega}_N^{{N\over 2}+j}p_o(\overline{\omega}_N^{2({{N\over 2}+j})})],j=0,1,\cdots,{N\over 2}-1

再由于：ωN=ei2πN⇒ω¯¯¯2jN=ω¯¯¯jN2,ω¯¯¯N2+jN=−ω¯¯¯jN,ω¯¯¯N+2jN=ω¯¯¯jN2ωN=ei2πN⇒ω¯N2j=ω¯N2j,ω¯NN2+j=−ω¯Nj,ω¯NN+2j=ω¯N2j\omega_N=e^{i{2\pi\over N}}\Rightarrow\overline{\omega}_N^{2j}=\overline{\omega}_{N\over 2}^j, \overline{\omega}_N^{{N\over 2}+j}=-\overline{\omega}_N^j, \overline{\omega}_N^{N+2j}=\overline{\omega}_{N\over 2}^j

所以：⎧⎩⎨⎪⎪aj=1N[pe(ω¯¯¯jN2)+ω¯¯¯jNpo(ω¯¯¯jN2)],j=0,1,⋯,N2−1aN2+j=1N[pe(ω¯¯¯jN2)−ω¯¯¯jNpo(ω¯¯¯jN2)],j=0,1,⋯,N2−1{aj=1N[pe(ω¯N2j)+ω¯Njpo(ω¯N2j)],j=0,1,⋯,N2−1aN2+j=1N[pe(ω¯N2j)−ω¯Njpo(ω¯N2j)],j=0,1,⋯,N2−1\cases{a_j={1\over N}[p_e(\overline{\omega}_{N\over 2}^{j})+\overline{\omega}_N^{j}p_o(\overline{\omega}_{N\over 2}^{j})],j=0,1,\cdots,{N\over 2}-1\\a_{{N\over 2}+j}={1\over N}[p_e(\overline{\omega}_{N\over 2}^{j})-\overline{\omega}_N^{j}p_o(\overline{\omega}_{N\over 2}^{j})],j=0,1,\cdots,{N\over 2}-1}

所以：aj=1Np(ω¯¯¯jN)aj=1Np(ω¯Nj)a_j={1\over N}p(\overline{\omega}_N^j)，再令bj=pe(ω¯¯¯jN2),b′j=po(ω¯¯¯jN2)bj=pe(ω¯N2j),bj′=po(ω¯N2j)b_j=p_e(\overline{\omega}_{N\over 2}^{j}), b'_j=p_o(\overline{\omega}_{N\over 2}^{j})，那么：{aj=1N[bj+ω¯¯¯jNb′j],j=0,1,⋯,N2−1aN2+j=1N[bj−ω¯¯¯jNb′j],j=0,1,⋯,N2−1{aj=1N[bj+ω¯Njbj′],j=0,1,⋯,N2−1aN2+j=1N[bj−ω¯Njbj′],j=0,1,⋯,N2−1\cases{a_j = {1\over N}[ b_j+\overline{\omega}_N^{j}b'_j],j=0,1,\cdots,{N\over 2}-1\\a_{{N\over 2}+j} = {1\over N}[b_j-\overline{\omega}_N^{j}b'_j] ,j=0,1,\cdots,{N\over 2}-1}，那么这又是一个butterfly operation:

可以重复利用以上原理对bj,b′jbj,bj′b_j,b'_j讨论，bj=pe(ω¯¯¯jN2),j=0,1,⋯,N2−1bj=pe(ω¯N2j),j=0,1,⋯,N2−1b_j=p_e(\overline{\omega}_{N\over 2}^{j}),j=0,1,\cdots,{N\over 2}-1，令cj=pee(ω¯¯¯jN4),c′j=peo(ω¯¯¯jN4)cj=pee(ω¯N4j),cj′=peo(ω¯N4j)c_j=p_{ee}(\overline{\omega}_{N\over 4}^{j}), c'_j=p_{eo}(\overline{\omega}_{N\over 4}^{j})，那么：⎧⎩⎨⎪⎪bj=1N[cj+ω¯¯¯jN2c′j],j=0,1,⋯,N4−1bN4+j=1N[cj−ω¯¯¯jN2c′j],j=0,1,⋯,N4−1{bj=1N[cj+ω¯N2jcj′],j=0,1,⋯,N4−1bN4+j=1N[cj−ω¯N2jcj′],j=0,1,⋯,N4−1\cases{b_j = {1\over N}[c_j+\overline{\omega}_{N\over 2}^{j}c'_j],j=0,1,\cdots,{N\over 4}-1\\b_{{N\over 4}+j} = {1\over N}[c_j-\overline{\omega}_{N\over 2}^{j}c'_j],j=0,1,\cdots,{N\over 4}-1}，那么这又是一个butterfly operation:

不停的划分下去，即：FFTFFTFFT算法将DFTDFTDFT算法分成logN2log2Nlog_2^N段，每一段有N2N2{N\over 2}个butterfly operation。

举例：