8.5中心

Chebyshev中心
最大体积椭球中心
不等式组的解析中心

Chebyshev中心

多面体的Chebyshev中心

设C是有线性不等式组 $a_i^Tx\leq b_i,i=1,\cdots ,m$ 定义，如果 $R \geq 0$ ，则

$g_i(x,R)=sup_{\begin{Vmatrix} u\end{Vmatrix}\leq 1}a_i^t(x+Ru)-b_i,=a_i^Tx+R\begin{Vmatrix}a_i \end{Vmatrix}_*-b_i$

于是Chebyshev中心可以通过求解线性规划：

$maximize \, \, R \\ subject \, \, to \,\,a_i^Tx+R\begin{Vmatrix}a_i \end{Vmatrix}_*\leq b_i,R \geq 0$

最大体积椭球中心

定义C中具有最大体积椭球的中心为C的最大体积椭球中心，记为 $x_{mve}$ ，如下图。

不等式组的解析中心

一组凸不等式和线性方程 $f_i(x)\leq 0,i=1,\cdots m\, \, \, Fx=g$ 的解析中心 $x_{oc}$ 定义为凸问题

$minimize \,\, -\sum_{i=1}^mlog(-f_i(x))\\ subject \, \, to \, \, Fx=g$

的最优解。这里的优化变量是 $x \in R^n$ ，并有隐含约束 $f_i(x)<0,i=1,\cdots ,m$ 。问题中的目标被称为与不等式相关的对数障碍。

解析中心不是有不等式和等式所描述的集合的函数；两组不等式和等式可能定义相同的集合，但有不同的解析中心。

线性不等式组的解析中心

线性不等式组 $a_i^Tf_i(x)\leq 0,i=1,\cdots,m$ 的解析中心是下面无约束极小化问题的解：

$minimize \, \,\phi(x)= -\sum_{i=1}^mlog(b_i-a_i^Tx)$

其隐含约束为 $b_i-a_i^Tx>0,i=1,\cdots,m$

可以对线性不等式组的解析中心给予几何解释。因为解析中心对约束函数的正伸缩变换独立，可以不失一般性地假设 $\begin{Vmatrix} a_i \end{Vmatrix}_2=1$ ，在这种情况下， $b_i-a_i^Tx$ 的松弛是到超平面

$x_{ac}$ 是 $minimize \, \,\phi(x)$ 的最优解，下图虚线是多面体C的对数障碍函数的五条等值曲线，对数障碍函数的最小值点是 $x_{ac}$ 。

内部阴影所示的椭球为 $\varepsilon _{inner}=\left \{ x|(x-x_{ac})H(x-x_{ac})\leq 1 \right \}$ 其中H为对数障碍函数 $\phi (x)$ 在 $x_{ac}$ 处的海瑟矩阵。

定义

$P =\left \{ x|a_i^Tx\leq b_i,i=1,\cdots,m \right \}\\ \varepsilon _{inner}=\left \{ x|(x-x_{oc})^TH(x-x_{oc}) \leq 1\right \}\\ \varepsilon _{outer}=\left \{ x|(x-x_{oc})^TH(x-x_{oc}) \leq m(m-1)\right \}\\$

则有 $\varepsilon _{inner}\subseteq P\subseteq \varepsilon _{outer}$ ，即 $\varepsilon _{inner}$ 总是在P中，而 $\varepsilon _{outer}$ 总是覆盖P。与最大体积内接椭球相比，这是一个较弱的结果。

凸优化第八章几何问题 8.5中心相关推荐

凸优化 [Convex Optimization] — [美] 鲍德（Stephen Boyd），Lieven Vandenberghe 著，王书宁，许鋆，黄晓霖译
<信息技术和电气工程学科国际知名教材中译本系列:凸优化>从理论.应用和算法三个方面系统地介绍凸优化内容. 凸优化在数学规划领域具有非常重要的地位.从应用角度看,现有算法和常规计算能力已足以 ...
斯坦福助理教授马腾宇：ML非凸优化很难，如何破？
作者 | 马腾宇编译 | 陈萍.杜伟来源 | 机器之心非凸优化问题被认为是非常难求解的,因为可行域集合可能存在无数个局部最优点,通常求解全局最优的算法复杂度是指数级的(NP 困难).在近日的一篇 ...
机器学习中的凸优化理论
凸优化课程优化问题定义:从一个可行解中找到一个最好的元素. 通常来说优化问题都可以写成如下的形式: 最小化目标函数: m个约束函数: 凸规划与非凸规划凸规划满足: 凸规划都是相对容易解决的,非凸 ...
姚班天才少年鬲融凭非凸优化研究成果获得斯隆研究奖
近日,美国艾尔弗·斯隆基金会(The Alfred P. Sloan Foundation)公布了2019年斯隆研究奖(Sloan Research Fellowships)获奖名单,华裔学者鬲融获此 ...
机器学习中的数学(七)--凸优化的基础知识
写在前面 <机器学习中的数学>系列主要列举了在机器学习中用到的较多的数学知识,包括微积分,线性代数,概率统计,信息论以及凸优化等等.本系列重在描述基本概念,并不在应用的方面的做深入的探讨, ...
凸优化基础知识笔记-凸集、凸函数、凸优化问题
文章目录 1. 凸集 2. 凸函数 2.1. 凸函数的一阶条件 2.1. 凸函数例子 3. 凸优化问题 4. 对偶 4.1. Lagrange函数与Lagrange对偶 4.2. 共轭函数 4.3. ...
凸优化_Stephen_Boyd_
AI 菌由于凸优化在机器学习中还是很重要链接:http://pan.baidu.com/s/1eS3vuLk 密码:3epx 理论部分由4章构成,不仅涵盖了凸优化的所有基本概念和主要结果,还详细介 ...
机器学习——凸优化基础知识
文章目录一.计算几何 (一)计算几何是研究什么的 (二)直线的表达式二.凸集 (一)凸集是什么 (二)三维空间中的一个平面如何表达 (三)更高维度的"超平面"如何表达三.凸函 ...
数学优化入门：凸优化
做科研时,曾花了段时间学习凸优化,后来发现ML中其应用也非常普遍,想来今后可能还会接触,干脆做个系统的总结,方便以后查询. 博文内容主要参考Boyd(Stanford)的Convex Optimiza ...
【凸优化笔记一】仿射集+凸集+锥
[凸优化笔记一]仿射集+凸集+锥引言直线&线段直线的定义线段的定义仿射集 Affine Sets 与C相关的子空间线性方程组的解集是仿射集零空间仿射包 Affine Hull ...

凸优化第八章几何问题 8.5中心