凸优化中：单纯形是一种多面体的证明

思路：先构造一个单纯形，然后将这个单纯形用多面体的定义形式表达出来即可。
证明：设v0,v1,⋯ ,vk∈Rn{v_0},{v_1},\cdots,{v_k} \in R^nv0,v1,⋯,vk∈Rn，v1−v0,v2−v0,⋯ ,vk−v0,{v_1}-{v_0},{v_2}-{v_0},\cdots,{v_k}-{v_0},v1−v0,v2−v0,⋯,vk−v0,线性独立，则由这k+1个点构成的单纯形为：
C=conv{v0,v1,⋯ ,vk}={θ0v0+θ1v1,⋯ ,+θkvk∣θ≽0,1Tθ=1}C=conv\left\{ {{v_0},{v_1},\cdots,{v_k}} \right\}=\left\{ {{\theta _0}{v_0}+{\theta _1}{v_1},\cdots,+{\theta _k}{v_k}\left| {\theta \succcurlyeq 0,{1^T}\theta = 1} \right.}\right\}C=conv{v0,v1,⋯,vk}={θ0v0+θ1v1,⋯,+θkvk∣∣θ≽0,1Tθ=1}
令y=[θ1,⋯ ,θk]Ty=\left[ {\theta _1}, \cdots ,{\theta _k} \right]^Ty=[θ1,⋯,θk]T，则y⩾0y \geqslant 0y⩾0且1Ty⩽1{1^T}y \leqslant 11Ty⩽1,令[v1−v0,⋯ ,vk−v0]=B∈Rn×k\left[ {v_1} - {v_0}, \cdots ,{v_k} - {v_0} \right] = B \in R^{n \times k}[v1−v0,⋯,vk−v0]=B∈Rn×k,则单纯形C中的任意一点XXX可以表示为：X=θ0v0+⋯+θkvk=v0+θ1(v1−v0)+⋯+θk(vk−v0)=v0+ByX = {\theta _0}{v_0} + \cdots + {\theta _k}{v_k} = {v_0} + {\theta _1}\left( {{v_1} - {v_0}} \right) + \cdots + {\theta _k}\left( {{v_k} - {v_0}} \right) = {v_0} + ByX=θ0v0+⋯+θkvk=v0+θ1(v1−v0)+⋯+θk(vk−v0)=v0+By
由单纯形的定义我们可知BBB中的kkk个向量线性无关，所以存在rank(B)=k⩽1rank\left(B\right)=k\leqslant1rank(B)=k⩽1,即BBB为列满秩矩阵。
接下来我们将说明任何一个列满秩矩阵BBB都可以通过线性变换变成[Ik0]\left[ \begin{matrix} {I_k} \\0 \end{matrix} \right][Ik0]这种形式。其中，Ik{I_k}Ik表示k×kk \times kk×k的单位矩阵，000表示(n−k)×k\left(n-k\right)\times k(n−k)×k的零矩阵。具体变换方法是我们可以找到一个非奇异矩阵A=[A1A1]∈Rn×nA=\left[ \begin{matrix} {A_1} \\{A_1} \end{matrix} \right]\in R^{n\times n}A=[A1A1]∈Rn×n使得AB=[A1A1]B=[Ik0]AB=\left[ \begin{matrix} {A_1} \\{A_1} \end{matrix} \right]B=\left[ \begin{matrix} {I_k} \\0 \end{matrix} \right]AB=[A1A1]B=[Ik0]。
根据上面的变换，我们可以得到：
X=v0+By⇔AX=Av0+ABy⇔[A1A1]X=[A1A1]v0+[A1BA1B]y⇔{A1X=A1v0+yA2X=A2v0X = {v_0} + By \Leftrightarrow AX=A{v_0} + ABy\Leftrightarrow\left[ \begin{matrix} {A_1} \\{A_1} \end{matrix} \right]X=\left[ \begin{matrix} {A_1} \\{A_1} \end{matrix} \right]{v_0}+\left[ \begin{matrix} {A_1}B \\{A_1}B \end{matrix} \right]y\Leftrightarrow\left\{\begin{matrix} {A_1}X = {A_1}{v_0} + y\\ {A_2}X = {A_2}{v_0}\end{matrix}\right.X=v0+By⇔AX=Av0+ABy⇔[A1A1]X=[A1A1]v0+[A1BA1B]y⇔{A1X=A1v0+yA2X=A2v0，因为y⩾0y \geqslant 0y⩾0且1Ty⩽1{1^T}y \leqslant 11Ty⩽1，所以上述两个等式可以转换成如下的不等式：
{A1X=A1v0+yA2X=A2v0⇔{A1X⩾A1v01TA1X⩽1TA1v0A2X=A2v0\left\{ \begin{matrix} {A_1}X = {A_1}{v_0} + y\\ {A_2}X = {A_2}{v_0} \end{matrix} \right.\Leftrightarrow \left\{ \begin{matrix} {A_1}X \geqslant {A_1}{v_0} \\ {1^T}{A_1}X \leqslant {1^T}{A_1}{v_0}\\{A_2}X={A_2}{v_0} \end{matrix} \right. {A1X=A1v0+yA2X=A2v0⇔⎩⎨⎧A1X⩾A1v01TA1X⩽1TA1v0A2X=A2v0
注意到XXX为单纯形CCC中的任意一点，故上述两个不等式和一个等式构成了一个多面体，即命题得证。

凸优化中：单纯形是一种多面体的证明相关推荐

浅谈凸优化中的共轭函数
浅谈凸优化中的共轭函数函数ff的共轭定义: f∗(y)=sup(yTx−f(x))f^*(y) = \sup (y^Tx - f(x)), x∈domf{x\in {\bf dom} f} 可见,共 ...
凸优化中如何改进GD方法以防止陷入局部最优解
在对函数进行凸优化时,如果使用导数的方法(如:梯度下降法/GD,牛顿法等)来寻找最优解,有可能陷入到局部最优解而非全局最优解. 为了防止得到局部最优,可以对梯度下降法进行一些改进,防止陷入局部最优. ...
凸优化中凸函数定义、直线与线段、凸集、仿射集合、仿射函数
凸优化(Stephen Boyd)中自学部分凸函数定义函数f:Rn→Rf:\mathbf{R}^{n} \rightarrow \mathbf{R}f:Rn→R是凸的,如果fff在定义域(domd ...
如何理解凸优化中的共轭函数的定义？
共轭函数的意义主要就是:一个函数即便不是凸函数,但通过共轭法获得一个凸函数,很方便求解全局最优解的问题. 另外,共轭函数亦称对偶函数.极化函数,函数的某种对偶变换.过多的东西我就不再赘述了. 此处我是 ...
机器学习中的凸优化理论
凸优化课程优化问题定义:从一个可行解中找到一个最好的元素. 通常来说优化问题都可以写成如下的形式: 最小化目标函数: m个约束函数: 凸规划与非凸规划凸规划满足: 凸规划都是相对容易解决的,非凸 ...
凸优化问题中的Bregman迭代算法
对于搞图像处理的人而言,不懂变分法,基本上,就没法读懂图像处理的一些经典文献.当然,这已经是10年之前的事情了. 现在,如果不懂得Bregman迭代算法,也就没法读懂最近几年以来发表的图像处理的前沿论 ...
文献翻译__人工智能时代医学图像重建中的凸优化算法（第4、5、6章）
文章下载–我的Gitee Convex optimization algorithms in medical image reconstruction-in the age of AI 人工智能时代医 ...
凸优化学习笔记 10：凸优化问题
前面讲了那么多关于凸集.凸函数的知识,然而都是铺垫,现在我们才来到了这门课的重头戏部分--凸优化问题! 文章目录 1. 一般优化问题 2. 凸优化问题 2.1 凸优化问题定义 2.2 凸优化问题的最优 ...
凸优化一（基本概念介绍）
背景知识优化问题凸优化是一类数学优化问题,介绍凸优化前先简单介绍数学优化问题. 优化问题定义(形式): minimizef0minimizef0 minimize \quad f_{0} subj ...
数学之美：凸优化问题
导言凸优化(convex optimization)是最优化问题中非常重要的一类,也是被研究的很透彻的一类.对于机器学习来说,如果要优化的问题被证明是凸优化问题,则说明此问题可以被比较好的解决.在本 ...

凸优化中：单纯形是一种多面体的证明

凸优化中：单纯形是一种多面体的证明相关推荐

最新文章

热门文章