如何理解凸优化中的共轭函数的定义?
共轭函数的意义主要就是:一个函数即便不是凸函数,但通过共轭法获得一个凸函数,很方便求解全局最优解的问题。
另外,共轭函数亦称对偶函数、极化函数,函数的某种对偶变换。过多的东西我就不再赘述了。
此处我是想着重讲一讲为什么共轭函数是可以“保凸”的,首先我们先给出共轭函数的表达式:
其中注意变量z的定义域:
这一步的限制非常关键,共轭函数g(z)反映的是线性函数与f(x)之间的最大差值,这个差值不是距离上的绝对值,可大于0也可小于0. 我们对变量z的取值加了限制,也就使得下图的凹函数对应的共轭函数取值恒为0
由该图可容易看到,线性函数与f(x)之间的最大差值恒为 ∞ ,这明显是不合要求的,即该凹函数上的所有点都不可取,因此其共轭函数也就保凹了。
同理,我们再来看一组具有多个局部最小值的函数
函数画的较丑,大家多多见谅
该函数中,点B和C是两个极小值点,那么共轭函数最终是如何知道舍弃点C,从而确保整个函数只有一个最小值点(也就是凸函数)呢?这一块我看西瓜书和网上的帖子都好像没提到,可能是太简单都觉得不值一提吧,可我这个数学渣渣真的是看了一天,最后是一直画图终于比划出来了。
对于这样具有多个鞍点的函数来说,当线性函数的z取值为一定区间时,该直线会与原函数有多个切点,本原函数只有3个鞍点,所以最多就是2个切点。我之前一直是以为只有1个切点,所以一直认为共轭函数并不能保凸,或者说是只对于凸函数才能保凸。
多个切点内选取一个函数与f(x)之间的最大差值,该差值即为我们最终需要的值。
经过一番比划,我们大致可排除了原函数内自变量x的一些点区间,如下图所示:
中间划掉的即为不满足共轭函数变量z要求的值,满足要求的点即为点B的左侧以及点C的右侧,初步认为这两侧合起来就是十分规范的凸函数。
以上,证毕。
如何理解凸优化中的共轭函数的定义?相关推荐
- 浅谈凸优化中的共轭函数
浅谈凸优化中的共轭函数 函数ff的共轭定义: f∗(y)=sup(yTx−f(x))f^*(y) = \sup (y^Tx - f(x)), x∈domf{x\in {\bf dom} f} 可见,共 ...
- 凸优化中凸函数定义、直线与线段、凸集、仿射集合、仿射函数
凸优化(Stephen Boyd)中自学部分 凸函数定义 函数f:Rn→Rf:\mathbf{R}^{n} \rightarrow \mathbf{R}f:Rn→R是凸的,如果fff在定义域(domd ...
- 凸优化中如何改进GD方法以防止陷入局部最优解
在对函数进行凸优化时,如果使用导数的方法(如:梯度下降法/GD,牛顿法等)来寻找最优解,有可能陷入到局部最优解而非全局最优解. 为了防止得到局部最优,可以对梯度下降法进行一些改进,防止陷入局部最优. ...
- 文献翻译__人工智能时代医学图像重建中的凸优化算法(第4、5、6章)
文章下载–我的Gitee Convex optimization algorithms in medical image reconstruction-in the age of AI 人工智能时代医 ...
- 对凸优化(Convex Optimization)的一些浅显理解
©作者 | 李航前 单位 | EPFL 研究方向 | 计算机图形学与三维视觉 最近学习了一些凸优化课程,整理笔记的同时写下一些自己的理解,向着头秃的道路上越走越远. 凸优化是应用数学的一个基本分支,几 ...
- 机器学习中的凸优化理论
凸优化课程 优化问题 定义:从一个可行解中找到一个最好的元素. 通常来说优化问题都可以写成如下的形式: 最小化目标函数: m个约束函数: 凸规划与非凸规划 凸规划满足: 凸规划都是相对容易解决的,非凸 ...
- 凸优化教程学习与理解(mark)
凸优化教程学习与理解(mark) 1. 什么是凸优化 1.1 优化问题的一般形式 1.2 优化问题的几种分类 1.2.1. 早期划分为线性规划和非线性规划: 1.2.2 凸规划和非凸规划; 1.2.3 ...
- 《凸优化》中科大-讲解 -系列笔记(汇总55/55)
本人学习所有系列:汇总帖 这是一篇汇总贴 1-2:推荐书目,引言,常见例子,优化问题分类,发展史 3-4:仿射/凸/凸锥 + 集/组合/包 5-6:几种重要的凸集:超平面与半空间/球和椭球/多面体/单 ...
- 凸优化问题中的Bregman迭代算法
对于搞图像处理的人而言,不懂变分法,基本上,就没法读懂图像处理的一些经典文献.当然,这已经是10年之前的事情了. 现在,如果不懂得Bregman迭代算法,也就没法读懂最近几年以来发表的图像处理的前沿论 ...
最新文章
- es6学习1: 模拟react Comopnent类的实现
- BI推荐8款优秀的app
- 下面的语言中哪些语言是动态语言( )
- 利用python绘制雪景图_python绘制雪景图
- JDK源码(21)-Unsafe
- Matlab怎样将传递函数转换成差分方程
- C++基础::拾遗琐碎
- java.lang.IllegalArgumentException at java.sql.Date.getHours
- 可以联机的的单机游戏
- 麒麟 linux下安装显卡驱动,中标麒麟7安装英伟达显卡驱动过程简述
- 苹果12系统链接到服务器超时,苹果iphone12无法连接wifi怎么回事 解决方法分享
- 项目经理的“势能”培养 (转)
- wps可以登录网页版_wps网页版入口_WPS个人免费版_点点游
- MySQL数据库id主键或密码使用MD5加密
- 运用深度学习技术检测转移性乳腺癌
- 【分布式】一致性哈希和哈希槽
- MindMaster---成功案例
- 2021年化工自动化控制仪表考试及化工自动化控制仪表考试技巧
- Windows 10 1909 (Updated 2019-12-17)
- 绿坝软件准备反诉美国密歇根大学,其在网上公布某些细节是非法的