Jensen不等式(琴生不等式)

2024-05-13 07:08:26

每次用的时候都得查，所以索性之际记录一下
注意凸函数的定义，上凸、下凸、凹、凸的含义是不同的

1.定义

Jensen不等式，又名琴森不等式或詹森不等式（均为音译）。它是一个在描述积分的凸函数值和凸函数的积分值间的关系的不等式。

Jensen不等式的定义公式：

若f(x)f(x)f(x)为区间[a, b]上的下凸函数，则对任意的x1,x2,x3,…,xn∈[a,b]x_1, x_2, x_3, \dots, x_n \in [a, b]x1,x2,x3,…,xn∈[a,b]，有不等式：

∑i=1nf(xi)n≥f(∑i=1nxin)\frac{\sum^n_{i = 1}f(x_i)}{n} \geq f(\frac{\sum_{i = 1}^{n}x_i}{n}) n∑i=1nf(xi)≥f(n∑i=1nxi)

当且仅当x1=x2=x3=⋯=xnx_1 = x_2 = x_3 = \dots = x_nx1=x2=x3=⋯=xn时等号成立。

以下为该公式的加权形式：

当且仅当f(x)f(x)f(x)为下凸函数时，有：
f(∑i=1nλixi)≤∑i=1nλif(xi),∑i=1nλi=1,λi≥0f(\sum^{n}_{i = 1} \lambda_ix_i) \leq \sum^{n}_{i = 1} \lambda_if(x_i),\ \sum^{n}_{i = 1}\lambda_i = 1, \lambda_i \geq 0 f(i=1∑nλixi)≤i=1∑nλif(xi), i=1∑nλi=1,λi≥0
当且仅当x1=x2=x3=⋯=xnx_1 = x_2 = x_3 = \dots = x_nx1=x2=x3=⋯=xn时等号成立。
当且仅当f(x)f(x)f(x)为上凸函数时，有：
f(∑i=1nλixi)≥∑i=1nλif(xi),∑i=1nλi=1,λi≥0f(\sum^{n}_{i = 1} \lambda_ix_i) \geq \sum^{n}_{i = 1} \lambda_if(x_i),\ \sum^{n}_{i = 1}\lambda_i = 1, \lambda_i \geq 0 f(i=1∑nλixi)≥i=1∑nλif(xi), i=1∑nλi=1,λi≥0
当且仅当x1=x2=x3=⋯=xnx_1 = x_2 = x_3 = \dots = x_nx1=x2=x3=⋯=xn时等号成立。

2.应用

1.涉及概率密度函数的形式

假设Ω\OmegaΩ是实值的可测子集，f(x)f(x)f(x)是一个非负函数(概率密度函数)：
∫−∞∞f(x)dx=1\int_{-\infty}^{\infty} f(x)dx = 1 ∫−∞∞f(x)dx=1

如果ggg是任意实值可测函数且φ\varphiφ在ggg范围内是凸的，那么：

φ(∫−∞∞g(x)f(x)dx)≤∫−∞∞φ[g(x)]f(x)dx\varphi(\int_{-\infty}^{\infty}g(x) f(x) dx) \leq \int_{-\infty}^{\infty}\varphi [g(x)]f(x)dx φ(∫−∞∞g(x)f(x)dx)≤∫−∞∞φ[g(x)]f(x)dx

如果g(x)=xg(x) = xg(x)=x，那么这种不等式可以简化为一个非常常用的特例：

φ(∫−∞∞xf(x)dx)≤∫−∞∞φ(x)f(x)dx\varphi(\int_{-\infty}^{\infty}x f(x) dx) \leq \int_{-\infty}^{\infty}\varphi (x)f(x)dx φ(∫−∞∞xf(x)dx)≤∫−∞∞φ(x)f(x)dx

2.信息论

暂时用不到，用到再补充

Jensen不等式(琴生不等式)相关推荐

琴生不等式（Jensen Inequality）
目录不同表述形式有限形式测度与概率形式在概率论中的广义形式不等式证明有限形式测度和概率形式概率论中的广义形式不等式应用在概率密度函数中的形式随机变量的偶次矩其他有限形式统计物 ...
琴生不等式一般形式_[学习笔记]常用不等式
1. 命题左边等号成立当且仅当 ,右边等号成立当且仅当 . 2. 命题等号成立当且仅当 . 3.命题两边等号成立均当且仅当 . 4.命题两边等号成立均当且仅当 . 推论 5. 命题 6. 不等 ...
【数学】凸函数与詹森不等式（琴生不等式）解析
[数学]凸函数与詹森不等式(琴生不等式) 文章目录 [数学]凸函数与詹森不等式(琴生不等式) 1 凸函数和凹函数 2 琴生不等式(詹森不等式) 1 凸函数和凹函数下凸函数(凸函数),从几何意义上看, ...
琴生不等式一般形式_001.二次函数、方程和不等式知识点
学法指导:本专题讲授不等式内容,这部分内容是学生的难点,为此有几点说明: 1.把握好学习的难度.按教材内不等式部分展现的内容看,它很简单,但学过的知道,这部分内容很难,直白的讲,它要多难就有多难,当然 ...
微积分中几个重要的不等式：Jensen不等式、平均值不等式、Holder不等式、Schwarz不等式、Minkovski不等式及其证明
目录一:几个重要不等式的形式 1,Jensen不等式 2,平均值不等式 3,一个重要的不等式 4,Holder不等式 5,Schwarz不等式和 Minkovski不等式二:不等式的证明 1 ...
UA MATH567 高维统计I 概率不等式12 McDiarmid不等式
UA MATH567 高维统计I 概率不等式12 McDiarmid不等式这一讲我们介绍基于Lipschitz性导出概率不等式的思路,这个思路在下一讲正式进入随机向量之后应用非常广泛.但这一讲我们先 ...
UA MATH567 高维统计I 概率不等式11 Azuma不等式
UA MATH567 高维统计I 概率不等式11 Azuma不等式前十一讲介绍的不等式的理论基础都是Markov不等式,根据Markov不等式我们导出了Chebyshev不等式.Hoeffding不 ...
UA MATH567 高维统计I 概率不等式10 Bernstein不等式
UA MATH567 高维统计I 概率不等式10 Bernstein不等式我们在介绍亚高斯分布后介绍了适用于亚高斯分布的推广的Hoeffding不等式,对于亚指数分布,我们可以得到类似的不等式.因为 ...
UA MATH567 高维统计I 概率不等式1 Hoeffding不等式与Chernoff不等式
UA MATH567 高维统计I 概率不等式1 Hoeffding不等式与Chernoff不等式 Hoeffding不等式 Chernoff不等式 MATH 564系列我们已经介绍了几个基本的概率不等 ...

最新文章

热门文章