【凸优化笔记二】凸函数基本性质和例子

  • 凸函数的四个定义
    • 定义一
    • 定义二
    • 定义三
    • 定义四
  • 一些栗子

凸函数的四个定义

定义一

其中 dom fff 是函数 fff 的 定义域(前域),为凸集——这个很重要,后面的一些定义中也会用到,甚至对于凹函数也是。

从几何意义上来说,(3.1)意味着曲线上,从 xxx 到 yyy 的弦,在函数 fff 的图像上方。
若 xxx 和 yyy 不相等,且 0<θ<10<\theta<10<θ<1 ,称该函数 fff 是严格凸

tip

  1. fff 为凸, −f-f−f 为凹函数
  2. fff 为严格凸, −f-f−f 为严格凹函数
  3. 所有仿射函数为既凸又凹的;反之,某个函数为既凸又凹的,则为仿射函数

定义二

函数是凸函数,当且仅当其在与其定义域相交的任何直线上都是凸的。

换言之,函数 fff 是凸的,当且仅当对于任意 x∈x\inx∈domfff 和任意向量 vvv,
函数 g(t)=f(x+tv)g(t)=f(x+tv)g(t)=f(x+tv) 是凸的(其定义域为{t∣x+tv∈t|x+tv\int∣x+tv∈domfff})

该性质容许我们通过将函数限制在直线上判断其是否为凸函数;
也可以说这个定义将原高维空间降到了一维空间。

定义三

此处假设 fff 可微,dom fff 为凸集和任意 x,y∈x,y\inx,y∈domfff 满足(3.2)不等式,则说明函数 fff 为凸函数。
该定义也可称为凸函数的一阶条件

用二维曲线,可以比较直观的说明相互关系。

定义四


假设 fff 二阶可微,对于开集domfff内的任意一点,它的Hessian矩阵或二阶导数存在,则函数 fff 为凸函数的充要条件是,Hessian矩阵是半正定阵。

当对于R上的函数,可以简化为条件 f′′(x)≥0f''(x)\ge0f′′(x)≥0 (当然此时依然需要满足domfff是凸的,即一个区间)。
该定义也可称为凸函数的二阶条件。

类似的,函数 fff 是凹函数的充要条件是,domfff 是凸集且对于任意x∈x\inx∈domfff,∇2f(x)⪯0\nabla^2f(x)\preceq0∇2f(x)⪯0

一些栗子




指数和的对数为凸函数的证明如下:


几何平均的函数为凹函数的证明如下:(个人的方法)

可将上图大的矩阵设为U
即证明U为正定矩阵即可,
即证明:任意矩阵V,VTUV≥0V^TUV\ge0VTUV≥0
上式可化简如下

教材里的方法:

【凸优化笔记二】凸函数基本性质和例子相关推荐

  1. 凸优化笔记(2)-凸函数的四种定义

    示性函数是凸函数 凸集C⊂RnC \subset R^nC⊂Rn fc(x)={无定义(做扩展的时候,一定要扩展到正无穷和无定义)X∈C0X∉Cf_c(x)= \begin{cases} 无定义(做扩 ...

  2. 【数值分析】学习笔记3——凸优化1:凸函数和凸优化问题

    目录 前言 一.凸函数(Convex Function) 1.什么是凸函数 2.凸函数的性质 (1) 凸函数上任一点的切线均位于函数下方 (2)可微凸函数极小值点(实际问题中的最优解点)的特性 二.凸 ...

  3. 凸优化笔记(1) —— 基本概念

    凸优化笔记 -- 基本概念之凸集 1. 数学优化 基本概念 2.1 凸优化问题 2.2 线性函数与凸函数 2.3 凸集 仿射集. 2.3.2 凸集 2.3.3锥 三种集合的比较: 基本准备 本科没学过 ...

  4. 【凸优化笔记一】仿射集+凸集+锥

    [凸优化笔记一]仿射集+凸集+锥 引言 直线&线段 直线的定义 线段的定义 仿射集 Affine Sets 与C相关的子空间 线性方程组的解集是仿射集 零空间 仿射包 Affine Hull ...

  5. 中科大-凸优化 笔记(lec9)-广义不等式、分离与支撑超平面、对偶锥与广义不等式

    全部笔记的汇总贴(这一节的视频缺失):中科大-凸优化 内容是自己看书上的三节整理的,和前面几节一样,算是一些基础性的理论知识. 只能说这一块儿先就这样,后面的课程如果遇到需要进行补充学习的地方,再进行 ...

  6. 中科大-凸优化 笔记(lec44)-一些上界下界及梯度下降

    全部笔记的汇总贴(视频也有传送门):中科大-凸优化 一.强凸性 假设 f ( x ) f(x) f(x)二阶可微且有强凸性 ∃ m > 0 , ∀ x ∈ d o m f , ∇ 2 f ( x ...

  7. 中科大-凸优化 笔记(lec25)-等价变换

    全部笔记的汇总贴(视频也有传送门):中科大-凸优化 ∇fT(x∗)(y−x)≥0\nabla f^T(x^*)(y-x)\ge0∇fT(x∗)(y−x)≥0线性规划的解在边界上 一.等价变换 例:食谱 ...

  8. 凸函数1(斯坦福凸优化笔记5)

    1 基本性质和例子 1.1 凸函数 函数f:Rn→Rf:R^n \rightarrow R是凸的,如果dom f\mathbf{dom }\ f是凸集,且对于任意x,y∈dom fx,y \in \m ...

  9. 凸优化——凸集与凸函数

    一.数学规划   从一个可行解的集合中,寻找出最优的元素,称为数学规划,又名优化.可以写为 m i n i m i z e f 0 ( x ) s u b j e c t t o f i ( x ) ...

最新文章

  1. 全新的深度模型在推荐系统中的应用
  2. 工厂方法模式与抽象工厂模式
  3. 中国移动携手腾讯开展5G联合创新
  4. 算法-排序-基数排序(对任意整数排序)
  5. 一张大图片有多个小图片
  6. 【开源】本周不容错过开源论文,含分割、检索、神经渲染、deepfake 检测、超分、视频相关等...
  7. 支撑百万并发的数据库架构如何设计?
  8. php form 添加滚动条,element 使用总结(1. tree使用 2. table修改滚动条样式 3. el-form 自定义label添加icon)...
  9. dubbo原理和机制_面试官几个 Dubbo 微服务框架问题,把我整懵了?
  10. PHP中的的一个挺好用的函数 array_chunk
  11. Spark Java实战
  12. javascript编写的抽奖小程序
  13. 南昌工程学院c语言试题,南昌工程学院概率论与数理统计试题库部分题目
  14. 华为s5720默认用户名和密码_华为交换机s5720s-28p-LI-AC默认用户名和密码是什么?...
  15. 在火狐(Firefox)浏览器中安装IE Tab插件
  16. (计算圓柱体的体积)编写程序,读入圆柱体的半径和高,并使用下列公式计算圆柱的体积
  17. React SSR渲染
  18. 帝国php忘记密码,帝国cms7.5忘记登录密码以及多次登录失败被锁定终极解决办法-更新...
  19. 《想做视频号必须要懂的知识——音质篇》
  20. Nature:基于宏基因组测序构建人类肠道微生物组参考基因集

热门文章

  1. usb驱动开发16——设备生命线
  2. AUTOCAD2007安装过程中遇到的问题以及解决方法
  3. 一键刷机三星I9220
  4. 军队计算机操作员技能鉴定,计算机操作员职业技能鉴定标准.doc
  5. Boost.Asio基本原理
  6. Django报错:ValueError: source code string cannot contain null bytes
  7. opencv检测乒乓球
  8. DameWare Mini远程连接报错信息处理方法。
  9. android 系统数据清理工具下载,Coolmuster Android Cleaner(数据清理软件)
  10. ioctl 详解,以ethtool为例