解耦原子范数最小化

解耦原子范数最小化(DANM)的产生

首先，定义一个矩阵形式（与其对应的是向量形式）的原子集：
A={ax(θ)ayH(θ):θ∈[−π2,π2],ax(θ)∈CN×1,ay(θ)∈CM×1}\mathcal{A}=\{\boldsymbol{a}_x(\theta)\boldsymbol{a}_y^H(\theta):\theta\in[-\frac{\pi}{2},\frac{\pi}{2}],\boldsymbol{a}_x(\theta)\in\mathbb{C}^{N\times1},\boldsymbol{a}_y(\theta)\in\mathbb{C}^{M\times1}\} A={ax(θ)ayH(θ):θ∈[−2π,2π],ax(θ)∈CN×1,ay(θ)∈CM×1}
在DOA估计问题中，ax(θ),ay(θ)\boldsymbol{a}_x(\theta),\boldsymbol{a}_y(\theta)ax(θ),ay(θ)分别表示两条阵列的方向向量，Z∈CN×M\boldsymbol{Z}\in\mathbb{C}^{N\times M}Z∈CN×M往往表示两个阵列的互协方差矩阵。那么，具体的解耦原子范数为：
∥Z∥A=inf⁡{∑k∣sk∣:Z=∑kskax(θk)ayH(θk),ax(θk)ayH(θk)∈A}\|\boldsymbol{Z}\|_\mathcal{A}=\inf\{\sum_{k}|s_k|:\boldsymbol{Z}=\sum_{k}s_k\boldsymbol{a}_x(\theta_k)\boldsymbol{a}_y^H(\theta_k),\boldsymbol{a}_x(\theta_k)\boldsymbol{a}_y^H(\theta_k)\in\mathcal{A}\} ∥Z∥A=inf{k∑∣sk∣:Z=k∑skax(θk)ayH(θk),ax(θk)ayH(θk)∈A}
与l1l_1l1原子范数最小化(ANM)类似，解耦原子范数最小化问题表述为：
min⁡Z∥Z∥As.t∥Z−Z^∥≤η\min_{\boldsymbol{Z}}\|\boldsymbol{Z}\|_{\mathcal{A}} \\ s.t \quad \|\boldsymbol{Z}-\boldsymbol{\hat{Z}}\| \leq \eta Zmin∥Z∥As.t∥Z−Z^∥≤η
该问题可以转换为半正定规划(SDP)问题。

转化为SDP问题

证明内容在下一节，转化后的SDP问题表述为：

转化为该SDP问题的过程中，有以下前提（达到其中一个就可），是不可忽略的。
Δx=min⁡i≠j∣fx,i−fx,j∣≥1⌊(N−1)/4⌋Δy=min⁡i≠j∣fy,i−fy,j∣≥1⌊(M−1)/4⌋\Delta_x = \min_{i\ne j}|f_{x,i}-f_{x,j}| \geq \frac{1}{\lfloor(N-1)/4\rfloor} \\ \Delta_y = \min_{i\ne j}|f_{y,i}-f_{y,j}| \geq \frac{1}{\lfloor(M-1)/4\rfloor} Δx=i=jmin∣fx,i−fx,j∣≥⌊(N−1)/4⌋1Δy=i=jmin∣fy,i−fy,j∣≥⌊(M−1)/4⌋1
在上式中，第k个信号在x阵列和y阵列上相邻的阵元间产生的相位差分别为：2πfx,k2\pi f_{x,k}2πfx,k和2πfx,k2\pi f_{x,k}2πfx,k，其方向向量亦可表述为：ax(fk)\boldsymbol{a}_x(f_k)ax(fk)和ay(fk)\boldsymbol{a}_y(f_k)ay(fk)。T(z)\mathcal{T}(\boldsymbol{z})T(z)表示以向量z\boldsymbol{z}z产生一个同尺寸的Hermitian-Toeplitz矩阵。

SDP问题转化的证明

在忽略变量Z\boldsymbol{Z}Z的情况下，定义目标函数为：
g(z1,z2)=12MN(Tr(T(z1))+Tr(T(z2)))g(\boldsymbol{z}_1,\boldsymbol{z}_2)=\frac{1}{2\sqrt{MN}}\left(Tr(\mathcal{T}(\boldsymbol{z}_1))+Tr(\mathcal{T}(\boldsymbol{z}_2))\right) g(z1,z2)=2MN1(Tr(T(z1))+Tr(T(z2)))
其中，
(z1,z2)∈SZ+={(z1,z2):[T(z2)ZHZT(z1)]⪰0}(\boldsymbol{z}_1,\boldsymbol{z}_2)\in \mathcal{S}_{\boldsymbol{Z}}^{+}=\left\{(\boldsymbol{z}_1,\boldsymbol{z}_2): \begin{bmatrix} \mathcal{T}(\boldsymbol{z}_2) & \boldsymbol{Z}^H \\ \boldsymbol{Z} & \mathcal{T}(\boldsymbol{z}_1) \end{bmatrix} \succeq 0 \right\} (z1,z2)∈SZ+={(z1,z2):[T(z2)ZZHT(z1)]⪰0}
所以，要证明以上优化问题的等效，只需证明以下等式即可。
g∗=min⁡(z1,z2)∈SZ+g(z1,z2)=∥Z∥Ag^{*}=\min_{(\boldsymbol{z}_1,\boldsymbol{z}_2)\in \mathcal{S}_{\boldsymbol{Z}}^{+}}g(\boldsymbol{z}_1,\boldsymbol{z}_2)=\|\boldsymbol{Z}\|_{\mathcal{A}} g∗=(z1,z2)∈SZ+ming(z1,z2)=∥Z∥A
先证明g∗≤∥Z∥Ag^{*}\leq \|\boldsymbol{Z}\|_{\mathcal{A}}g∗≤∥Z∥A成立。

引理1：如果数据矩阵Z∈CN×M\boldsymbol{Z}\in\mathbb{C}^{N\times M}Z∈CN×M在fff上足够可分，即在原子集A\mathcal{A}A中，有足够多的原子ax(f)ayH(f)\boldsymbol{a}_x(f)\boldsymbol{a}^H_y(f)ax(f)ayH(f)。那么，当数据矩阵Z\boldsymbol{Z}Z确定时，它就有唯一的稀疏原子分解。在此情况下，得到了：
∥Z∥A=∑k∣sk∣\|\boldsymbol{Z}\|_{\mathcal{A}} = \sum_{k}|s_k| ∥Z∥A=k∑∣sk∣

在引理1的条件下，直接写出数据矩阵Z\boldsymbol{Z}Z的唯一原子分解为：
Z=∑kskax(fk)ayH(fk)\boldsymbol{Z}=\sum_{k}s_k\boldsymbol{a}_x(f_k)\boldsymbol{a}^H_y(f_k) Z=k∑skax(fk)ayH(fk)
直接构造矩阵T(z~1)\mathcal{T}(\boldsymbol{\tilde{z}}_1)T(z~1)和T(z~2)\mathcal{T}(\boldsymbol{\tilde{z}}_2)T(z~2)：
T(z~1)=∑kMN∣sk∣ax(fk)axH(fk)T(z~2)=∑kNM∣sk∣ay(fk)ayH(fk)\mathcal{T}(\boldsymbol{\tilde{z}}_1) = \sum_{k}{\sqrt{\frac{M}{N}}|s_k|\boldsymbol{a}_x(f_k)\boldsymbol{a}^H_x(f_k)} \\ \mathcal{T}(\boldsymbol{\tilde{z}}_2) = \sum_{k}{\sqrt{\frac{N}{M}}|s_k|\boldsymbol{a}_y(f_k)\boldsymbol{a}^H_y(f_k)} T(z~1)=k∑NM∣sk∣ax(fk)axH(fk)T(z~2)=k∑MN∣sk∣ay(fk)ayH(fk)
显然，它们都是Hermitian-Toeplitz矩阵，分别将Z,T(z~1),T(z~2)\boldsymbol{Z},\mathcal{T}(\boldsymbol{\tilde{z}}_1),\mathcal{T}(\boldsymbol{\tilde{z}}_2)Z,T(z~1),T(z~2)代入约束条件中，得到：
[T(z~2)ZHZT(z~1)]=∑k∣sk∣MN[Nay(fk)sign(sk)Max(fk)][Nay(fk)sign(sk)Max(fk)]H⪰0\begin{bmatrix} \mathcal{T}(\boldsymbol{\tilde{z}}_2) & \boldsymbol{Z}^H \\ \boldsymbol{Z} & \mathcal{T}(\boldsymbol{\tilde{z}}_1) \end{bmatrix} = \sum_{k}\frac{|s_k|}{\sqrt{MN}}\begin{bmatrix} \sqrt{N}\boldsymbol{a}_y(f_k) \\ sign(s_k)\sqrt{M}\boldsymbol{a}_x(f_k)\end{bmatrix} {\begin{bmatrix} \sqrt{N}\boldsymbol{a}_y(f_k) \\ sign(s_k)\sqrt{M}\boldsymbol{a}_x(f_k)\end{bmatrix}}^H \succeq 0 [T(z~2)ZZHT(z~1)]=k∑MN∣sk∣[Nay(fk)sign(sk)Max(fk)][Nay(fk)sign(sk)Max(fk)]H⪰0
上式成立，说明向量z~1\boldsymbol{\tilde{z}}_1z~1和z~2\boldsymbol{\tilde{z}}_2z~2是g(z1,z2)g(\boldsymbol{z}_1,\boldsymbol{z}_2)g(z1,z2)的一组可行解，代入目标函数中，得到：
g(z~1,z~2)=12MN(Tr(T(z~1))+Tr(T(z~2)))=∑k∣sk∣g(\boldsymbol{\tilde{z}}_1,\boldsymbol{\tilde{z}}_2)=\frac{1}{2\sqrt{MN}}\left(Tr(\mathcal{T}(\boldsymbol{\tilde{z}}_1))+Tr(\mathcal{T}(\boldsymbol{\tilde{z}}_2))\right)=\sum_{k}|s_k| g(z~1,z~2)=2MN1(Tr(T(z~1))+Tr(T(z~2)))=k∑∣sk∣
巧了，∑k∣sk∣=∥Z∥A\sum_{k}|s_k|=\|\boldsymbol{Z}\|_{\mathcal{A}}∑k∣sk∣=∥Z∥A刚好成立，ggg的可行解对应着∥Z∥A\|\boldsymbol{Z}\|_{\mathcal{A}}∥Z∥A，那么，ggg的最优解g∗g^*g∗必然小于可行解，即：
g∗≤g(z~1,z~2)=∥Z∥Ag^*\leq g(\boldsymbol{\tilde{z}}_1,\boldsymbol{\tilde{z}}_2) = \|\boldsymbol{Z}\|_{\mathcal{A}} g∗≤g(z~1,z~2)=∥Z∥A
得证。

接下来，再证明g∗≥∥Z∥Ag^{*}\geq \|\boldsymbol{Z}\|_{\mathcal{A}}g∗≥∥Z∥A成立。
此时，引入一个新的原子集，叫做“多测量向量(MMV)原子集”，它有如下的定义：
Ax={ax(f)eMH:∀f∈[0,1],∀eM∈CM×1,∥eM∥=1}\mathcal{A_x}=\{\boldsymbol{a}_x(f)\boldsymbol{e}^H_M:\forall f\in [0,1],\forall \boldsymbol{e}_M\in\mathbb{C}^{M\times 1},\|\boldsymbol{e}_M\|=1 \} Ax={ax(f)eMH:∀f∈[0,1],∀eM∈CM×1,∥eM∥=1}
对于MMV问题，它有以下有用的结论：

引理2：对于任意的一个能够在MMV原子集上线性可分的数据矩阵Z∈CN×M\boldsymbol{Z}\in \mathbb{C}^{N\times M}Z∈CN×M，它在Ax\mathcal{A_x}Ax上的原子范数可由以下SDP问题算出：
∥Z∥Ax=min⁡V,z{12N(Tr(V)+Tr(T(z)))}s.t[VZHZT(z)]⪰0\|\boldsymbol{Z}\|_{\mathcal{A_x}}=\min_{\boldsymbol{V},\boldsymbol{z}}\left\{\frac{1}{2\sqrt{N}}(Tr(\boldsymbol{V})+Tr(\mathcal{T}(\boldsymbol{z}))) \right\} \quad s.t \begin{bmatrix} \boldsymbol{V} & \boldsymbol{Z}^H \\ \boldsymbol{Z} & \mathcal{T}(\boldsymbol{z}) \end{bmatrix} \succeq 0 ∥Z∥Ax=V,zmin{2N1(Tr(V)+Tr(T(z)))}s.t[VZZHT(z)]⪰0
其中，V∈CM×M\boldsymbol{V}\in \mathbb{C}^{M\times M}V∈CM×M是一个Hermitian矩阵，T(z)∈CN×N\mathcal{T}(\boldsymbol{z})\in \mathbb{C}^{N\times N}T(z)∈CN×N是一个Toeplitz矩阵。

引理3：如果Z=∑kskax(fk)eMH\boldsymbol{Z}=\sum_{k}s_k\boldsymbol{a}_x(f_k)\boldsymbol{e}^H_MZ=∑kskax(fk)eMH，ax(fk)eMH\boldsymbol{a}_x(f_k)\boldsymbol{e}^H_Max(fk)eMH是MMV集合中的原子，满足以下的频率可分条件：
Δx=min⁡i≠j∣fx,i−fx,j∣≥1⌊(N−1)/4⌋\Delta_x = \min_{i\ne j}|f_{x,i}-f_{x,j}|\geq \frac{1}{\lfloor(N-1)/4\rfloor} Δx=i=jmin∣fx,i−fx,j∣≥⌊(N−1)/4⌋1
那么，就可以保证：
∥Z∥Ax=∑k∣sk∣\|\boldsymbol{Z}\|_{\mathcal{A_x}}=\sum_{k}|s_k| ∥Z∥Ax=k∑∣sk∣
这一点也正好对应了转换成SDP问题的前提条件。

有了这两个引理做铺垫，我们就可以完成证明。
不失一般性的，我们考虑x轴满足前提条件：
Δx=min⁡i≠j∣fx,i−fx,j∣≥1⌊(N−1)/4⌋\Delta_x = \min_{i\ne j}|f_{x,i}-f_{x,j}|\geq \frac{1}{\lfloor(N-1)/4\rfloor} Δx=i=jmin∣fx,i−fx,j∣≥⌊(N−1)/4⌋1
根据引理1，在解耦原子范数集A\mathcal{A}A下，它有唯一的分解为：
Z=∑kskax(fk)ayH(fk)=∑ksk∥ayH(fk)∥2ax(fk)ayH(fk)∥ayH(fk)∥2=∑k(Msk)ax(fk)ayH(fk)∥ayH(fk)∥2\begin{aligned} \boldsymbol{Z}=\sum_{k}s_k\boldsymbol{a}_x(f_k)\boldsymbol{a}^H_y(f_k)&=\sum_{k}s_k\|\boldsymbol{a}^H_y(f_k)\|_2\boldsymbol{a}_x(f_k)\frac{\boldsymbol{a}^H_y(f_k)}{\|\boldsymbol{a}^H_y(f_k)\|_2} \\ &= \sum_{k}(\sqrt{M}s_k)\boldsymbol{a}_x(f_k)\frac{\boldsymbol{a}^H_y(f_k)}{\|\boldsymbol{a}^H_y(f_k)\|_2} \end{aligned} Z=k∑skax(fk)ayH(fk)=k∑sk∥ayH(fk)∥2ax(fk)∥ayH(fk)∥2ayH(fk)=k∑(Msk)ax(fk)∥ayH(fk)∥2ayH(fk)
显然，ax(fk)ayH(fk)∥ayH(fk)∥2∈Ax\frac{\boldsymbol{a}_x(f_k)\boldsymbol{a}^H_y(f_k)}{\|\boldsymbol{a}^H_y(f_k)\|_2} \in \mathcal{A_x}∥ayH(fk)∥2ax(fk)ayH(fk)∈Ax。另外，由于引理3，所以可以将其MMV原子范数表示为：
∥Z∥Ax=M∑k∣sk∣\|\boldsymbol{Z}\|_{\mathcal{A_x}}=\sqrt{M}\sum_{k}|s_k| ∥Z∥Ax=Mk∑∣sk∣
同时，
∥Z∥A=∑k∣sk∣\|\boldsymbol{Z}\|_{\mathcal{A}}=\sum_{k}|s_k| ∥Z∥A=k∑∣sk∣
因此，数据矩阵Z\boldsymbol{Z}Z的两种原子范数的联系就建立起来了：
∥Z∥A=1M∥Z∥Ax\|\boldsymbol{Z}\|_{\mathcal{A}}=\frac{1}{\sqrt{M}}\|\boldsymbol{Z}\|_{\mathcal{A_x}} ∥Z∥A=M1∥Z∥Ax
由于引理2，那么，取V=T(z2)\boldsymbol{V}=\mathcal{T}(\boldsymbol{z_2})V=T(z2)，z=z1\boldsymbol{z}=\boldsymbol{z_1}z=z1，
∥Z∥A=min⁡z1,z2{12MN(Tr(T(z1))+Tr(T(z2)))}=min⁡z1,z2g(z1,z2)≤{g(z~1,z~2):(z~1,z~2)∈SZ+}\begin{aligned} \|\boldsymbol{Z}\|_{\mathcal{A}}=&\min_{\boldsymbol{z_1},\boldsymbol{z_2}}\left\{\frac{1}{2\sqrt{MN}}(Tr(\mathcal{T}(\boldsymbol{z_1}))+Tr(\mathcal{T}(\boldsymbol{z_2}))) \right\}=\min_{\boldsymbol{z_1},\boldsymbol{z_2}}{g(\boldsymbol{z_1},\boldsymbol{z_2})} \\ \leq & \{g(\boldsymbol{\tilde{z}}_1,\boldsymbol{\tilde{z}}_2):(\boldsymbol{\tilde{z}}_1,\boldsymbol{\tilde{z}}_2) \in \mathcal{S}_{\boldsymbol{Z}}^{+}\} \end{aligned} ∥Z∥A=≤z1,z2min{2MN1(Tr(T(z1))+Tr(T(z2)))}=z1,z2ming(z1,z2){g(z~1,z~2):(z~1,z~2)∈SZ+}
上式最后一项是可行解对应的目标集，由于g∗g^*g∗也是可行解对应的目标之一，所以，
∥Z∥A≤g∗\|\boldsymbol{Z}\|_{\mathcal{A}} \leq g^* ∥Z∥A≤g∗
证毕。

min⁡(z1,z2)∈SZ+g(z1,z2)=∥Z∥A\min_{(\boldsymbol{z}_1,\boldsymbol{z}_2)\in \mathcal{S}_{\boldsymbol{Z}}^{+}}g(\boldsymbol{z}_1,\boldsymbol{z}_2)=\|\boldsymbol{Z}\|_{\mathcal{A}}(z1,z2)∈SZ+ming(z1,z2)=∥Z∥A
结论得证。因而，当数据矩阵Z\boldsymbol{Z}Z不确定时，关于它的优化问题等价为：
min⁡Zmin⁡(z1,z2)∈SZ+g(z1,z2)=min⁡Z∥Z∥A=min⁡z1,z2,Zg(z1,z2)s.t[T(z2)ZHZT(z1)]⪰0\min_{\boldsymbol{Z}}\min_{(\boldsymbol{z}_1,\boldsymbol{z}_2)\in \mathcal{S}_{\boldsymbol{Z}}^{+}}g(\boldsymbol{z}_1,\boldsymbol{z}_2)=\min_{\boldsymbol{Z}}\|\boldsymbol{Z}\|_{\mathcal{A}}=\min_{\boldsymbol{z}_1,\boldsymbol{z}_2,\boldsymbol{Z}}g(\boldsymbol{z}_1,\boldsymbol{z}_2) \quad s.t \begin{bmatrix} \mathcal{T}(\boldsymbol{z}_2) & \boldsymbol{Z}^H \\ \boldsymbol{Z} & \mathcal{T}(\boldsymbol{z}_1) \end{bmatrix} \succeq 0 Zmin(z1,z2)∈SZ+ming(z1,z2)=Zmin∥Z∥A=z1,z2,Zming(z1,z2)s.t[T(z2)ZZHT(z1)]⪰0
等价问题得证。

参考文献和博客

下载参考文献
提取码：6666
博客：原子范数最小化参考博客