Farkas'Lemma 和 S-Lemma

A Fundamental Question： 给定一个（不）等式，如何寻找其等价形式？

∙ \bullet\;∙ 对于线性或者一般的凸（不）等式，有 Farkas引理

∙ \bullet\;∙ 对于二次（不）等式，则有 S-引理 ------------------- S-Lemma本质上是Hilbert零点定理的特例？

凸锥的对偶的计算

Farkas引理

These results essentially state that a concave inequality is a (logical) consequence of some convex inequalities if and only if it is a nonnegative linear combination of those convex inequalities and an identically true inequality. This is important, since it is relatively easy to check if an inequality is a linear combination of some other inequalities.

定理. (Farkas’ lemma) 假设 A∈Rm×nA\in\mathbb{R}^{m\times n}A∈Rm×n，b∈Rmb\in\mathbb{R}^mb∈Rm。则 Ax=b (x≥0)Ax=b \;(x\ge 0)Ax=b(x≥0) 有可行解当且仅当 ATy≤0⇒bTy≤0A^Ty\leq 0\Rightarrow b^Ty\leq 0ATy≤0⇒bTy≤0。
Proof. 定义一个凸锥 K={y ∣ ATy≤0}\mathcal{K}=\{y\,|\,A^Ty\leq 0\}K={y∣ATy≤0} 它的对偶锥是 K∗={Ax ∣ x≥0}\mathcal{K}^*=\{Ax\,|\,x\ge 0\}K∗={Ax∣x≥0} 而根据定义有 K∗={b ∣ bTy≤0, ∀y∈K}\mathcal{K}^*=\{b\,|\,b^Ty\leq 0, \; \forall y\in\mathcal{K}\}K∗={b∣bTy≤0,∀y∈K} 注意到 Ax=b (x≥0)Ax=b\,(x\ge 0)Ax=b(x≥0) 有可行解等价于 b∈K∗b\in\mathcal{K}^*b∈K∗，引理即可得证。

定理. (Farkas’ lemma variant) 假设 A∈Rm×nA\in\mathbb{R}^{m\times n}A∈Rm×n，b∈Rmb\in\mathbb{R}^mb∈Rm。则 Ax≤bAx\leq bAx≤b 有可行解当且仅当 Ax=0 (x≥0)⇒bTx≥0Ax=0\;(x\ge 0)\Rightarrow b^Tx\ge 0Ax=0(x≥0)⇒bTx≥0。

定理. 假设 KKK 是一个闭凸锥，K∗K^*K∗ 是其对偶，则 x∈Kx\in Kx∈K 当且仅当对任意 y∈K∗y\in K^*y∈K∗ 有 yTx≥0y^T x\ge 0yTx≥0。

定理. (Farkas’ Theorem) 假设 f,g1,⋯ ,gm:Rn→Rf,g_1,\cdots,g_m:\mathbb{R}^n\rightarrow\mathbb{R}f,g1,⋯,gm:Rn→R 是一组凸函数，C⊂Rn\mathcal{C}\subset\mathbb{R}^nC⊂Rn 是一个凸集，如果 g1,⋯ ,gmg_1,\cdots,g_mg1,⋯,gm 满足 Slater 条件，也即，存在 C\mathcal{C}C 的一个内点 xˉ\bar{x}xˉ 使得 gi(xˉ)<0,i=1,⋯ ,mg_i(\bar{x})<0, i=1,\cdots,mgi(xˉ)<0,i=1,⋯,m。则下列两组论述等价：
(1) 不等式组
f(x)<0f(x)<0f(x)<0 gi(x)≤0,i=1,⋯ ,mg_i(x)\leq0, i=1,\cdots,mgi(x)≤0,i=1,⋯,m x∈Cx\in\mathcal{C}x∈C 无解。
(2) 存在 y1,⋯ ,ym≥0y_1,\cdots, y_m\ge 0y1,⋯,ym≥0，使得对所有的 x∈Cx\in\mathcal{C}x∈C 有
f(x)+∑i=1mgi(x)≥0f(x)+\mathop{\sum}\limits_{i=1}^m g_i(x) \ge 0f(x)+i=1∑mgi(x)≥0

Proof. 定理的证明主要是基于分离技巧 (separation argument) ，一个关键的事实是：
集合 S={(u,v1,⋯ ,vm)∈Rm+1:∃ x∈Rn,f(x)<u,gi(x)≤vi,i=1,⋯ ,m}S=\{(u,v_1,\cdots,v_m)\in\mathbb{R}^{m+1}:\exist\;x\in\mathbb{R}^n,f(x)<u,g_i(x)\leq v_i, i=1,\cdots,m\}S={(u,v1,⋯,vm)∈Rm+1:∃x∈Rn,f(x)<u,gi(x)≤vi,i=1,⋯,m} 是一个凸集，并且 (1) 中的不等式组无解当且仅当 0∉S0\notin S0∈/S。

关于SDP的Farkas引理，可以参考 Ye 的 Linear Conic Programming 第28页。

S-引理

定理. (S-lemma, Yakubovich) 假设 f,g:Rn→Rf,g:\mathbb{R}^n\rightarrow\mathbb{R}f,g:Rn→R 是二次函数，并且存在 xˉ∈Rn\bar{x}\in\mathbb{R}^nxˉ∈Rn 使得 g(xˉ)<0g(\bar{x})<0g(xˉ)<0。则下列两个论述等价：
(1) 不等式组
f(x)<0f(x)<0f(x)<0 g(x)≤0g(x)\leq 0g(x)≤0 无解
(2) 存在 y≥0y\ge 0y≥0 使得对任意 x∈Rnx\in\mathbb{R}^nx∈Rn，有
f(x)+yg(x)≥0f(x)+yg(x)\ge 0f(x)+yg(x)≥0