课堂问题：一个凸函数的性质

对于凸函数， ∀ x , y , f ( λ x + ( 1 − λ ) y ) ≤ λ f ( x ) + ( 1 − λ ) f ( y ) \forall x,y,f(\lambda x+(1-\lambda)y)\leq \lambda f(x)+(1-\lambda)f(y) ∀x,y,f(λx+(1−λ)y)≤λf(x)+(1−λ)f(y)，其中 λ ∈ [ 0 , 1 ] \lambda \in [0,1] λ∈[0,1].
对于函数 f : R n → R f:R^n \rightarrow R f:Rn→R 和函数 ϕ : R → R \phi:R \rightarrow R ϕ:R→R，存在 t ∈ R , v ∈ R n , x ^ ∈ R n t \in R,v \in R^n, \widehat{x} \in R^n t∈R,v∈Rn,x ∈Rn，满足 ϕ ( t ) = f ( x ^ + t v ) \phi(t)=f(\widehat{x}+tv) ϕ(t)=f(x +tv)，
证明： f f f 是凸函数 ⟺ \iff ⟺ ϕ \phi ϕ 是凸函数(convex).

证：（1） f f f 是凸函数 ⟹ \Longrightarrow ⟹ ϕ \phi ϕ 是凸函数：
由于 f f f 是凸函数，有 f ( λ x + ( 1 − λ ) y ) ≤ λ f ( x ) + ( 1 − λ ) f ( y ) f(\lambda x+(1-\lambda)y)\leq \lambda f(x)+(1-\lambda)f(y) f(λx+(1−λ)y)≤λf(x)+(1−λ)f(y) 对于任意的 x,y 均成立，
令 x = x ^ + v x x=\widehat{x}+vx x=x +vx， y = x ^ + v y y=\widehat{x}+vy y=x +vy（任意情况都成立，部分特殊情况也肯定成立），代入上式，合并同类项，
⟹ \Longrightarrow ⟹ f ( λ ( x ^ + v x ) + ( 1 − λ ) ( x ^ + v y ) ) ≤ λ f ( x ^ + v x ) + ( 1 − λ ) f ( x ^ + v y ) f(\lambda (\widehat{x}+vx)+(1-\lambda)(\widehat{x}+vy))\leq \lambda f(\widehat{x}+vx)+(1-\lambda)f(\widehat{x}+vy) f(λ(x +vx)+(1−λ)(x +vy))≤λf(x +vx)+(1−λ)f(x +vy)
⟹ \Longrightarrow ⟹ f ( x ^ + ( λ x + ( 1 − λ ) y ) ) v ) ≤ λ f ( x ^ + v x ) + ( 1 − λ ) f ( x ^ + v y ) f(\widehat{x}+(\lambda x+(1-\lambda)y))v)\leq \lambda f(\widehat{x}+vx)+(1-\lambda)f(\widehat{x}+vy) f(x +(λx+(1−λ)y))v)≤λf(x +vx)+(1−λ)f(x +vy)
由于 ϕ ( t ) = f ( x ^ + t v ) \phi(t)=f(\widehat{x}+tv) ϕ(t)=f(x +tv)，
⟹ \Longrightarrow ⟹ ϕ ( λ x + ( 1 − λ ) y ) ≤ λ ϕ ( x ) + ( 1 − λ ) ϕ ( y ) \phi(\lambda x+(1-\lambda)y)\leq \lambda \phi(x)+(1-\lambda)\phi(y) ϕ(λx+(1−λ)y)≤λϕ(x)+(1−λ)ϕ(y)
⟹ \Longrightarrow ⟹ ϕ \phi ϕ 是凸函数(convex)

（2） ϕ \phi ϕ 是凸函数 ⟹ \Longrightarrow ⟹ f f f 是凸函数：
⟹ \Longrightarrow ⟹ ϕ ( λ x + ( 1 − λ ) y ) ≤ λ ϕ ( x ) + ( 1 − λ ) ϕ ( y ) \phi(\lambda x+(1-\lambda)y)\leq \lambda \phi(x)+(1-\lambda)\phi(y) ϕ(λx+(1−λ)y)≤λϕ(x)+(1−λ)ϕ(y)
⟹ \Longrightarrow ⟹ f ( x ^ + ( λ x + ( 1 − λ ) y ) ) v ) ≤ λ f ( x ^ + v x ) + ( 1 − λ ) f ( x ^ + v y ) f(\widehat{x}+(\lambda x+(1-\lambda)y))v)\leq \lambda f(\widehat{x}+vx)+(1-\lambda)f(\widehat{x}+vy) f(x +(λx+(1−λ)y))v)≤λf(x +vx)+(1−λ)f(x +vy)
⟹ \Longrightarrow ⟹ f ( λ ( x ^ + v x ) + ( 1 − λ ) ( x ^ + v y ) ) ≤ λ f ( x ^ + v x ) + ( 1 − λ ) f ( x ^ + v y ) f(\lambda (\widehat{x}+vx)+(1-\lambda)(\widehat{x}+vy))\leq \lambda f(\widehat{x}+vx)+(1-\lambda)f(\widehat{x}+vy) f(λ(x +vx)+(1−λ)(x +vy))≤λf(x +vx)+(1−λ)f(x +vy)
这里 x ^ + v x \widehat{x}+vx x +vx 和 x ^ + v y \widehat{x}+vy x +vy 可取到任意实数，
⟹ \Longrightarrow ⟹ f ( λ x + ( 1 − λ ) y ) ≤ λ f ( x ) + ( 1 − λ ) f ( y ) f(\lambda x+(1-\lambda)y)\leq \lambda f(x)+(1-\lambda)f(y) f(λx+(1−λ)y)≤λf(x)+(1−λ)f(y)
⟹ \Longrightarrow ⟹ f f f 是凸函数

证毕。

课堂问题：一个凸函数的性质相关推荐

凸函数的性质、判定，凸规划
一. 凸函数的性质二. 凸函数的判别判断一个函数是否为凸函数,最基本的方法是使用其定义. 对可微函数: 三.凸规划定义最优化问题的目标函数为凸函数,不等式约束函数也为凸函数,等式约束函数是仿射的 ...
【凸优化笔记二】凸函数基本性质和例子
[凸优化笔记二]凸函数基本性质和例子凸函数的四个定义定义一定义二定义三定义四一些栗子凸函数的四个定义定义一其中 dom fff 是函数 fff 的定义域(前域),为凸集--这个很重 ...
保留凸性的方式：一个凸函数在一个随机变量上的期望仍然是凸函数
设函数 gg 是实数范围内的一个凸函数,DD 是一个随机变量, 那么函数 G=EDg(y−D)G=EDg(y−D) 仍然是一个凸函数. 证明:记 θ=θ¯¯¯θ=θ¯, yy 与 y¯¯¯y¯ 是任意 ...
凸函数高维性质证明（Jenson不等式）
目录问题引入背景介绍证明过程关键词:凸函数.Jenson(琴生)不等式问题引入背景介绍凸集 convex set 凸函数 convex function 注:凸集和凸函数定义取自< ...
山东大学机器学习课程资源索引
前言主要是个人对机器学习课程的回顾,review,为进一步学习更多前沿的机器学习理论打好基础.也给学弟学妹留下一点参考. 下面是课程网站,有ppt,实验说明等等课程所有资源,质量非常高! https ...
NLP --- 隐马尔可夫HMM（EM算法（期望最大化算法））
期望最大化 (Expectation Maximization) 算法最初是由 Ceppellini[2] 等人 1950 年在讨论基因频率的估计的时候提出的.后来又被 Hartley[3] 和Bau ...
EM算法(期望最大化)详细推导
版权声明:博主原创文章,转载请注明来源,谢谢合作!! https://blog.csdn.net/hl791026701/article/details/84641872 1.简介期望最大化 (Ex ...
什么是凸函数及如何判断一个函数是否是凸函数
t元j 一.什么是凸函数对于一元函数\(f(x\)),如果对于任意\(t\epsilon[0,1]\)均满足:\(f(tx_1 + (1-t)x_2) \leq tf(x_1) + (1-t)f(x ...
如何开发一个用户脚本系列(5)——脚本三:网易云课堂下载助手
本文原创首发于我的个人博客一个贾程序员,文章原地址点此查看在这篇文章中,我们将一起学习脚本网易云课堂下载助手的开发.在正式开始之前,先说一下我认为开发脚本应该遵循的两个准则: 功能实现.当 ...

课堂问题：一个凸函数的性质

课堂问题：一个凸函数的性质相关推荐

最新文章

热门文章