共轭函数的意义主要就是:一个函数即便不是凸函数,但通过共轭法获得一个凸函数,很方便求解全局最优解的问题。

另外,共轭函数亦称对偶函数、极化函数,函数的某种对偶变换。过多的东西我就不再赘述了。

此处我是想着重讲一讲为什么共轭函数是可以“保凸”的,首先我们先给出共轭函数的表达式:

其中注意变量z的定义域:

这一步的限制非常关键,共轭函数g(z)反映的是线性函数与f(x)之间的最大差值,这个差值不是距离上的绝对值,可大于0也可小于0. 我们对变量z的取值加了限制,也就使得下图的凹函数对应的共轭函数取值恒为0

由该图可容易看到,线性函数与f(x)之间的最大差值恒为 ∞ ,这明显是不合要求的,即该凹函数上的所有点都不可取,因此其共轭函数也就保凹了。

同理,我们再来看一组具有多个局部最小值的函数

函数画的较丑,大家多多见谅

该函数中,点B和C是两个极小值点,那么共轭函数最终是如何知道舍弃点C,从而确保整个函数只有一个最小值点(也就是凸函数)呢?这一块我看西瓜书和网上的帖子都好像没提到,可能是太简单都觉得不值一提吧,可我这个数学渣渣真的是看了一天,最后是一直画图终于比划出来了。

对于这样具有多个鞍点的函数来说,当线性函数的z取值为一定区间时,该直线会与原函数有多个切点,本原函数只有3个鞍点,所以最多就是2个切点。我之前一直是以为只有1个切点,所以一直认为共轭函数并不能保凸,或者说是只对于凸函数才能保凸。

多个切点内选取一个函数与f(x)之间的最大差值,该差值即为我们最终需要的值。

经过一番比划,我们大致可排除了原函数内自变量x的一些点区间,如下图所示:

中间划掉的即为不满足共轭函数变量z要求的值,满足要求的点即为点B的左侧以及点C的右侧,初步认为这两侧合起来就是十分规范的凸函数。

以上,证毕。

如何理解凸优化中的共轭函数的定义?相关推荐

  1. 浅谈凸优化中的共轭函数

    浅谈凸优化中的共轭函数 函数ff的共轭定义: f∗(y)=sup(yTx−f(x))f^*(y) = \sup (y^Tx - f(x)), x∈domf{x\in {\bf dom} f} 可见,共 ...

  2. 凸优化中凸函数定义、直线与线段、凸集、仿射集合、仿射函数

    凸优化(Stephen Boyd)中自学部分 凸函数定义 函数f:Rn→Rf:\mathbf{R}^{n} \rightarrow \mathbf{R}f:Rn→R是凸的,如果fff在定义域(domd ...

  3. 凸优化中如何改进GD方法以防止陷入局部最优解

    在对函数进行凸优化时,如果使用导数的方法(如:梯度下降法/GD,牛顿法等)来寻找最优解,有可能陷入到局部最优解而非全局最优解. 为了防止得到局部最优,可以对梯度下降法进行一些改进,防止陷入局部最优. ...

  4. 文献翻译__人工智能时代医学图像重建中的凸优化算法(第4、5、6章)

    文章下载–我的Gitee Convex optimization algorithms in medical image reconstruction-in the age of AI 人工智能时代医 ...

  5. 对凸优化(Convex Optimization)的一些浅显理解

    ©作者 | 李航前 单位 | EPFL 研究方向 | 计算机图形学与三维视觉 最近学习了一些凸优化课程,整理笔记的同时写下一些自己的理解,向着头秃的道路上越走越远. 凸优化是应用数学的一个基本分支,几 ...

  6. 机器学习中的凸优化理论

    凸优化课程 优化问题 定义:从一个可行解中找到一个最好的元素. 通常来说优化问题都可以写成如下的形式: 最小化目标函数: m个约束函数: 凸规划与非凸规划 凸规划满足: 凸规划都是相对容易解决的,非凸 ...

  7. 凸优化教程学习与理解(mark)

    凸优化教程学习与理解(mark) 1. 什么是凸优化 1.1 优化问题的一般形式 1.2 优化问题的几种分类 1.2.1. 早期划分为线性规划和非线性规划: 1.2.2 凸规划和非凸规划; 1.2.3 ...

  8. 《凸优化》中科大-讲解 -系列笔记(汇总55/55)

    本人学习所有系列:汇总帖 这是一篇汇总贴 1-2:推荐书目,引言,常见例子,优化问题分类,发展史 3-4:仿射/凸/凸锥 + 集/组合/包 5-6:几种重要的凸集:超平面与半空间/球和椭球/多面体/单 ...

  9. 凸优化问题中的Bregman迭代算法

    对于搞图像处理的人而言,不懂变分法,基本上,就没法读懂图像处理的一些经典文献.当然,这已经是10年之前的事情了. 现在,如果不懂得Bregman迭代算法,也就没法读懂最近几年以来发表的图像处理的前沿论 ...

最新文章

  1. es6学习1: 模拟react Comopnent类的实现
  2. BI推荐8款优秀的app
  3. 下面的语言中哪些语言是动态语言( )
  4. 利用python绘制雪景图_python绘制雪景图
  5. JDK源码(21)-Unsafe
  6. Matlab怎样将传递函数转换成差分方程
  7. C++基础::拾遗琐碎
  8. java.lang.IllegalArgumentException at java.sql.Date.getHours
  9. 可以联机的的单机游戏
  10. 麒麟 linux下安装显卡驱动,中标麒麟7安装英伟达显卡驱动过程简述
  11. 苹果12系统链接到服务器超时,苹果iphone12无法连接wifi怎么回事 解决方法分享
  12. 项目经理的“势能”培养 (转)
  13. wps可以登录网页版_wps网页版入口_WPS个人免费版_点点游
  14. MySQL数据库id主键或密码使用MD5加密
  15. 运用深度学习技术检测转移性乳腺癌
  16. 【分布式】一致性哈希和哈希槽
  17. MindMaster---成功案例
  18. 2021年化工自动化控制仪表考试及化工自动化控制仪表考试技巧
  19. Windows 10 1909 (Updated 2019-12-17)
  20. 绿坝软件准备反诉美国密歇根大学,其在网上公布某些细节是非法的

热门文章

  1. vue实现页面锁屏完美解决
  2. 2020.4.08 C组模拟赛题解
  3. mysql查询学生表年龄语句_mysql中一张(居民)表按年龄段查询数据
  4. PWN入门(9)NX enabled,PIE enabled与返回LibC库
  5. 创新实践部第一次培训---算法入门
  6. 媒体查询(Media Query)
  7. jQuery笔记——工具函数——jQuery标志
  8. 【数据结构】图(最短路径Dijkstra算法)的JAVA代码实现
  9. 企业级BOM系统与外部系统集成的几种方案
  10. WECHAT 微信扫码关注公众号方法无法获取头像和昵称了