半正定Toeplitz矩阵的范德蒙德分解

Toeplitz矩阵的定义：Matrices whose entries are constant along each diagonal are called Toeplitz matrices.
形如
T=[r0r1r2r3r−1r0r1r2r−2r−1r0r1r−3r−2r−1r0](1)\boldsymbol{T}=\left[ \begin{matrix} r_0& r_1& r_2& r_3\\ r_{-1}& r_0& r_1& r_2\\ r_{-2}& r_{-1}& r_0& r_1\\ r_{-3}& r_{-2}& r_{-1}& r_0\\ \end{matrix} \right] \tag{1} T=⎣⎢⎢⎡r0r−1r−2r−3r1r0r−1r−2r2r1r0r−1r3r2r1r0⎦⎥⎥⎤(1)

半正定的Toeplitz矩阵：Positive-Semi-Definite Toeplitz, PSD
形如
T=[r0r1r2r3r1∗r0r1r2r2∗r1∗r0r1r3∗r2∗r1∗r0],T≽0(2)\boldsymbol{T}=\left[ \begin{matrix} r_0& r_1& r_2& r_3\\ r_{1}^{*}& r_0& r_1& r_2\\ r_{2}^{*}& r_{1}^{*}& r_0& r_1\\ r_{3}^{*}& r_{2}^{*}& r_{1}^{*}& r_0\\ \end{matrix} \right] , \ \ \ \boldsymbol{T} \succcurlyeq \boldsymbol 0 \tag{2} T=⎣⎢⎢⎡r0r1∗r2∗r3∗r1r0r1∗r2∗r2r1r0r1∗r3r2r1r0⎦⎥⎥⎤, T≽0(2)
其中T≽0\boldsymbol{T} \succcurlyeq \boldsymbol 0T≽0表示T\boldsymbol{T}T是半正定矩阵。

定理：半正定Toeplitz矩阵的范德蒙德分解
Any PSD Toeplitz matrix T(u)∈CN×N\boldsymbol T(\boldsymbol u) \in \mathbb C^{N \times N}T(u)∈CN×N of rank r≤Nr \leq Nr≤N admits the following r-atomic Vandermonde decomposition:
T=∑k=1rpka(fk)aH(fk)=A(f)diag(p)AH(f)(3)\boldsymbol T = \sum_{k=1}^r p_k \boldsymbol a (f_k) \boldsymbol a^H(f_k) = \boldsymbol A( \boldsymbol f ) diag(\boldsymbol p) \boldsymbol A^H( \boldsymbol f ) \tag{3} T=k=1∑rpka(fk)aH(fk)=A(f)diag(p)AH(f)(3)
where pk>0p_k >0pk>0, and fk∈Tf_k \in \mathbb Tfk∈T, T=(−12,12]\mathbb T=(-\frac{1}{2}, \frac{1}{2}]T=(−21,21]，k=1,2,⋯,rk=1,2,\cdots,rk=1,2,⋯,r are distinct. Moreover, the decompostion above is unique if r<Nr < Nr<N.
其中
a(f)=[1,ei2πf,⋯,ei2π(N−1)f]T∈CN×1\boldsymbol a(f) = [1, e^{i 2 \pi f}, \cdots, e^{i 2 \pi (N-1) f} ]^T \in \mathbb C^{N \times 1} a(f)=[1,ei2πf,⋯,ei2π(N−1)f]T∈CN×1

证明：
（1）首先考虑r=rank(T)≤N−1r=\text{rank}(\boldsymbol T) \leq N - 1r=rank(T)≤N−1的情况
因为T≽0\boldsymbol T \succcurlyeq 0T≽0，因此存在V∈CN×r\boldsymbol V \in \mathbb C^{N \times r}V∈CN×r满足：T=VVH\boldsymbol T= \boldsymbol {VV}^HT=VVH。
令V−N\boldsymbol V_{-N}V−N为V\boldsymbol VV去掉第NNN行（最后一行）的矩阵：V−N∈C(N−1)×r\boldsymbol V_{-N} \in \mathbb{C}^{(N-1) \times r}V−N∈C(N−1)×r，
令V−1\boldsymbol V_{-1}V−1为V\boldsymbol VV去掉第111行（第一行）的矩阵：V−1∈C(N−1)×r\boldsymbol V_{-1} \in \mathbb{C}^{(N-1) \times r}V−1∈C(N−1)×r
因为半正定Toeplitz矩阵的特殊结构，必然有：V−NV−NH=V−1V−1H\boldsymbol V_{-N} \boldsymbol V^H_{-N}=\boldsymbol V_{-1} \boldsymbol V^H_{-1}V−NV−NH=V−1V−1H （下图给了一个直观解释，V−NV−NH\boldsymbol V_{-N} \boldsymbol V^H_{-N}V−NV−NH对应红色方框中的矩阵，V−1V−1H\boldsymbol V_{-1} \boldsymbol V^H_{-1}V−1V−1H对应绿色方框中的矩阵，两者是一样的）

因此，一定存在某个酉阵Q∈Cr×r\boldsymbol Q \in \mathbb C^{r \times r}Q∈Cr×r，使得V−1=V−NQ\boldsymbol V_{-1} = \boldsymbol V_{-N} \boldsymbol QV−1=V−NQ，据此我们可以进一步得到（=> it follows that）Vj,:=V1,:Qj−1,j=2,⋯,N\boldsymbol V_{j,:}=\boldsymbol V_{1,:} \boldsymbol Q^{j-1},j=2,\cdots,NVj,:=V1,:Qj−1,j=2,⋯,N，因此
uj=V1,:(Vj,:)T=V1,:(Qj−1)H(V1,:)H=V1,:Q1−j(V1,:)H(4)\begin{aligned} u_j &= \boldsymbol V_{1,:} (\boldsymbol V_{j,:}) ^T \\ &= \boldsymbol V_{1,:} (\boldsymbol Q^{j-1})^H (\boldsymbol V_{1,:})^H \\ &= \boldsymbol V_{1,:} \boldsymbol Q^{1-j} (\boldsymbol V_{1,:})^H \end{aligned} \tag{4} uj=V1,:(Vj,:)T=V1,:(Qj−1)H(V1,:)H=V1,:Q1−j(V1,:)H(4)

我们可以将Q∈Cr×r\boldsymbol Q \in \mathbb C^{r \times r}Q∈Cr×r特征分解为（注意Q\boldsymbol QQ是酉阵，特征分解必然存在）：
Q=Q~diag(z1,z2,⋯,zr)Q~H(5)\boldsymbol Q = \tilde{\boldsymbol Q} diag(z_1, z_2, \cdots, z_r) \tilde{\boldsymbol Q}^H \tag{5} Q=Q~diag(z1,z2,⋯,zr)Q~H(5)

其中Q~∈Cr×r\tilde{\boldsymbol Q} \in \mathbb C^{r \times r}Q~∈Cr×r是酉阵。因为酉阵的特征值的模都等于1，因此我们可以找到fk∈T,k=1,2,⋯,rf_k \in \mathbb T, k= 1,2,\cdots,rfk∈T,k=1,2,⋯,r满足zk=ei2πfk,k=1,2,⋯,rz_k=e^{i 2 \pi f_k}, k=1,2,\cdots,rzk=ei2πfk,k=1,2,⋯,r。令pk=∣V1,:Q~:,k∣2>0,k=1,⋯,rp_k = \vert \boldsymbol V_{1,:} \tilde{\boldsymbol Q}_{:,k} \vert^2 > 0, k =1,\cdots,rpk=∣V1,:Q~:,k∣2>0,k=1,⋯,r，将式(5)代入式(4)，我们得到
uj=V1,:Q~diag(z1,z2,⋯,zr)1−jQ~H(V1,:)H=∑k=1rpkzk1−j=∑k=1rpke−i2π(j−1)fk(6)\begin{aligned} u_j &= \boldsymbol V_{1,:} \tilde{\boldsymbol Q} diag(z_1, z_2, \cdots, z_r)^{1-j} \tilde{\boldsymbol Q}^H (\boldsymbol V_{1,:})^H \\ &= \sum_{k=1}^r p_k z_k^{1-j} \\ &= \sum_{k=1}^r p_k e^{-i 2 \pi (j-1) f_k} \end{aligned} \tag{6} uj=V1,:Q~diag(z1,z2,⋯,zr)1−jQ~H(V1,:)H=k=1∑rpkzk1−j=k=1∑rpke−i2π(j−1)fk(6)

由此可以得出式(3)是成立的。另外，fk1≠fk2,k1≠k2f_{k_1} \neq f_{k_2}, k_1 \neq k_2fk1=fk2,k1=k2，否则rank(T)<r\text{rank}(\boldsymbol T) < rrank(T)<r（与假设矛盾）。

（2）然后考虑r=rank(T)=Nr=\text{rank}(\boldsymbol T) = Nr=rank(T)=N的情况
这时，T≻0\boldsymbol T \succ 0T≻0。我们随机地选fN∈Tf_N \in \mathbb TfN∈T，并且令pN=(aH(fN)T−1a(fN))p_N= { \left ( \boldsymbol a^H(f_N) \boldsymbol T^{-1} \boldsymbol a (f_N) \right ) }pN=(aH(fN)T−1a(fN))。另外，我们定义一个新的向量u′∈CN×1\boldsymbol u^{\prime} \in \mathbb C^{N \times 1}u′∈CN×1
uj′=uj−pNe−i2π(j−1)fNu^{\prime}_j = u_j - p_N e^{-i 2 \pi (j-1) f_N} uj′=uj−pNe−i2π(j−1)fN

可以被证明：
T(u′)=T(u)−pNa(fN)aH(fN)T(u′)≽0rank(T(u′))=N−1\begin{aligned} \boldsymbol T(\boldsymbol u^{\prime}) &= \boldsymbol T(\boldsymbol u) - p_N \boldsymbol a (f_N) \boldsymbol a^H(f_N) \\ \boldsymbol T(\boldsymbol u^{\prime}) & \succcurlyeq \boldsymbol 0 \\ \text{rank} \left ( \boldsymbol T(\boldsymbol u^{\prime}) \right ) &= N-1 \end{aligned} T(u′)T(u′)rank(T(u′))=T(u)−pNa(fN)aH(fN)≽0=N−1

因此，T(u′)\boldsymbol T(\boldsymbol u^{\prime})T(u′)满足第一种r≤N−1r \leq N-1r≤N−1的情况。因此，当r=Nr=Nr=N时，分解并不唯一。

最后我们来证明r≤N−1r \leq N-1r≤N−1时分解的唯一性，如果假设存在另一种分解形式：T=A(f′)P′AH(f′),pj′>0\boldsymbol T = \boldsymbol A(f^{\prime}) \boldsymbol P^{\prime} \boldsymbol A^H(f^{\prime}), \ p^{\prime}_j > 0T=A(f′)P′AH(f′), pj′>0，且fj′∈Tf_j^{\prime} \in \mathbb Tfj′∈T各不相同，这时，我们有
A(f′)P′AH(f′)=A(f)PAH(f)\boldsymbol A(f^{\prime}) \boldsymbol P^{\prime} \boldsymbol A^H(f^{\prime}) = \boldsymbol A( \boldsymbol f ) \boldsymbol P \boldsymbol A^H( \boldsymbol f ) A(f′)P′AH(f′)=A(f)PAH(f)

那么，存在一个酉阵Q′∈Cr×r\boldsymbol Q^{\prime} \in \mathbb C^{r \times r}Q′∈Cr×r 使得A(f′)P′12=A(f)P12Q′\boldsymbol A(f^{\prime}) \boldsymbol P^{\prime \frac{1}{2}}=\boldsymbol A( \boldsymbol f ) \boldsymbol P^{\frac{1}{2}} \boldsymbol Q^{\prime}A(f′)P′21=A(f)P21Q′，因此
A(f′)=A(f)P12Q′P′−12\boldsymbol A(f^{\prime}) = \boldsymbol A( \boldsymbol f ) \boldsymbol P^{\frac{1}{2}} \boldsymbol Q^{\prime} \boldsymbol P^{\prime -\frac{1}{2}} A(f′)=A(f)P21Q′P′−21

上式意味着，对于∀j∈{1,2,⋯,r}\forall j \in \{1,2,\cdots, r\}∀j∈{1,2,⋯,r}，a(fj′)∈span{a(f1),⋯,a(fr)}\boldsymbol a(f^{\prime}_j) \in \text{span} \left \{ \boldsymbol a(f_1), \cdots, \boldsymbol a(f_r) \right \}a(fj′)∈span{a(f1),⋯,a(fr)}。又因为在r≤N−1r \leq N-1r≤N−1时，任意两个分量a(fi)\boldsymbol a(f_i)a(fi)与a(fj),i≠j\boldsymbol a(f_j), i\neq ja(fj),i=j都是线性独立的，因此必然有，{fj′}j=1r\{f^{\prime}_j\}_{j=1}^r{fj′}j=1r与{fj}j=1r\{f^{}_j\}_{j=1}^r{fj}j=1r相等。由此可以得出，当r≤N−1r \leq N-1r≤N−1时，分解具有唯一性。

总结：

当r≤N−1r \leq N-1r≤N−1时，半正定Toeplitz矩阵的范德蒙德分解是唯一地；
当r=Nr = Nr=N时，半正定Toeplitz矩阵的范德蒙德分解不唯一。

推论：任意PSD Toeplitz矩阵T(u)∈CN×N\boldsymbol T(\boldsymbol u) \in \mathbb C^{ N \times N}T(u)∈CN×N可以被唯一地分解为：
T=∑k=1rpka(fk)aH(fk)+σI=A(f)diag(p)AH(f)+σI\boldsymbol T = \sum_{k=1}^r p_k \boldsymbol a(f_k) \boldsymbol a^H(f_k) + \sigma \boldsymbol I = \boldsymbol A( \boldsymbol f ) diag(\boldsymbol p) \boldsymbol A^H( \boldsymbol f ) + \sigma \boldsymbol IT=k=1∑rpka(fk)aH(fk)+σI=A(f)diag(p)AH(f)+σI
其中σ=λmin(T)\sigma = \lambda_{min}(\boldsymbol T)σ=λmin(T)，r=rank(T−σI)<Nr = \text{rank}(\boldsymbol T - \sigma \boldsymbol I) < Nr=rank(T−σI)<N， pk>0p_k >0pk>0，fk∈T,k=1,⋯,rf_k \in \mathbb T, k=1,\cdots,rfk∈T,k=1,⋯,r are disjoint.
Remark: Note that the uniqueness of the decomposition above is guranteed by the condition that σ=λmin(T)\sigma=\lambda_{min}(\boldsymbol T)σ=λmin(T). If the condition is violated by letting 0≤σ<λmin(T)0 \leq \sigma < \lambda_{min}(\boldsymbol T)0≤σ<λmin(T) (in such a case T\boldsymbol TT has full rank and r≥Nr \geq Nr≥N), then the deomposition cannot be unique.

参考

[1] Yang, Z., Li, J., Stoica, P., & Xie, L. (2016). Sparse Methods for Direction-of-Arrival Estimation. ArXiv, abs/1609.09596.

半正定Toeplitz矩阵的范德蒙德分解相关推荐

范德蒙德矩阵在MATLAB中怎么表示,Python 之 Python与MATLAB 矩阵操作总结
Python 之 Python与MATLAB 矩阵操作小结一.线形代数理论基础线形代数(linear algebra)是数学的一个分支,研究矩阵理论.向量空间.线性变换和有限维线形方程组等内容. ...
MATLAB编程实现范德蒙德型矩阵
编程实现范德蒙德型矩阵: 代码如下: x=[-1 0 1 2 3]'; %定义5维列向量x for i=1:1:5 %行控制变量i从1~5,步长为1 for j=1:1:5 %列控制变量j从1~5,步 ...
范德蒙德和Teoplitz方程组的解法
范德蒙德和Teoplitz方程组的解法简单介绍工程中的很多实际问题的处理,比如说图像处理的某些情况,最后往往归结为比较容易处理的Vandermonde方程组和Teoplitz方程组的求解问题,因此 ...
C语言二维数组范德蒙,浅谈范德蒙德(Vandermonde)方阵的逆矩阵的求法以及快速傅里叶变换(FFT)中IDFT的原理...
浅谈范德蒙德(Vandermonde)方阵的逆矩阵与拉格朗日(Lagrange)插值的关系以及快速傅里叶变换(FFT)中IDFT的原理标签: 行列式矩阵线性代数 FFT 拉格朗日插值只要稍微看 ...
浅谈范德蒙德(Vandermonde)方阵的逆矩阵的求法以及快速傅里叶变换(FFT)中IDFT的原理...
浅谈范德蒙德(Vandermonde)方阵的逆矩阵与拉格朗日(Lagrange)插值的关系以及快速傅里叶变换(FFT)中IDFT的原理标签: 行列式矩阵线性代数 FFT 拉格朗日插值只要稍微看 ...
洛谷·幼儿园篮球题【including范德蒙德卷积，二项式反演
初见安~时隔良久我又回来写多项式了[靠还是放在题目前面吧,简单讲一下这两个东西. 一.范德蒙德卷积可以理解为:在两个有n个石子和m个石子的堆里面共选k个石子的方案数.这样这个等式的成立就很显然了. ...
【校内模拟】A（容斥原理）（数位DP）（范德蒙德恒等式）（高精度）
简要题意: 请你对满足下列条件的正整数序列 A1,A2⋯AnA_1,A_2\cdots A_nA1,A2⋯An 进行计数. ∀1≤i≤n,Li≤Ai≤Ri\forall 1\leq i\leq ...
【题解】幼儿园篮球题(范德蒙德卷积+斯特林+NTT)
[题解]幼儿园篮球题题目就是要我们求一个式子 \[ \sum_{i=1}^{S}{\dfrac 1 {{M\choose m_i}{N-M\choose n_i-m_i}}}\sum_{j=0}^{ ...
Codeforces-1473-G. Tiles (范德蒙德卷积+快速数论变换NTT)
题目传送门思路这是题解的思路:传送门我就再具体写写我对题解的几点理解吧. 首先,解决这个递推式的问题: ansi+1,j=∑k=1mCa+bb−k+jansi,kans_{i+1,j}=\su ...

半正定Toeplitz矩阵的范德蒙德分解

半正定Toeplitz矩阵的范德蒙德分解

参考

半正定Toeplitz矩阵的范德蒙德分解相关推荐

最新文章

热门文章