Hoeffding不等式的证明

这个不等式是Azuma鞅不等式的一个特例见Azuma不等式，下面的证明不用复杂的理论。

从wikipedia摘抄的。

注意，markov不等式中的y是x，不等式右边的E(X) ,换成E(|X|)。证明过程假设X是非负随机变量

下面几个typo，然后下面X在[a,b]区间的概率为1，应该是P(X \in [a,b]) = 1

Hoeffding不等式如下：

设 $X_i$ 是取值在区间 $[a_i,b_i]$ 中的随机变量，令

$S_n=\sum_{i=1}^n X_n$

则对于任意t > 0，都有

Hoeffding不等式的证明相关推荐

UA MATH567 高维统计I 概率不等式1 Hoeffding不等式与Chernoff不等式
UA MATH567 高维统计I 概率不等式1 Hoeffding不等式与Chernoff不等式 Hoeffding不等式 Chernoff不等式 MATH 564系列我们已经介绍了几个基本的概率不等 ...
深度学习/机器学习入门基础数学知识整理（六）：Hoeffding不等式，
开写之前先推荐一个林轩田先生的书,<Learning From Data>,我从网上得到电子版资源放在这里获取,仅用于学习交流之用,不可用与商用,谢谢.网上还有配套的Slides,我虽然还 ...
UA MATH567 高维统计I 概率不等式5 推广Hoeffding不等式与Khintchine不等式
UA MATH567 高维统计I 概率不等式5 推广Hoeffding不等式我们在第一讲时讨论了Hoeffding不等式,但那个版本时针对有界的随机变量的,我们希望通过亚高斯性推广Hoeffding ...
Hoeffding不等式
在看统计学习方法证明泛化误差上界中提到使用Hoeffding不等式(霍夫丁不等式) 原书给了两个公式: 另外参考博文里贴过来两个公式很陌生,占个坑理解一下. 关于该不等式的原地址:H ...
Hoeffding不等式简介
1 Hoeffding不等式 Hoeffding不等式是非常有用的一个不等式,在机器学习.统计学等领域,都发挥着巨大的作用. 它的思想与Markov不等式有些类似,我们先给出它的形式: Hoeffdi ...
Hoeffding不等式与泛化误差上界
Hoeffding不等式本篇文章不详细证明霍夫丁不等式怎么来的,主要讨论如何由霍夫丁不等式证明不等式: 左端即为泛化误差,右端则为泛化误差上界.泛化误差也可以理解为期望风险,而右式第一个也叫做经验风 ...
UA MATH567 高维统计II 随机向量10 Grothendieck不等式的证明版本二：kernel trick
UA MATH567 高维统计II 随机向量10 Grothendieck不等式的证明版本二:kernel trick 在介绍亚高斯随机向量的更多应用之前,我们先简单介绍一下核方法(kernel t ...
常用不等式及证明思路总结（一）
文章目录写在前面 Jensen不等式证明思路均值不等式应用例题1 Cauchy不等式证明思路方法一方法二方法三 Schwartz不等式证明思路方法一方法二方法三应用证明不 ...
微积分中几个重要的不等式：Jensen不等式、平均值不等式、Holder不等式、Schwarz不等式、Minkovski不等式及其证明
目录一:几个重要不等式的形式 1,Jensen不等式 2,平均值不等式 3,一个重要的不等式 4,Holder不等式 5,Schwarz不等式和 Minkovski不等式二:不等式的证明 1 ...

Hoeffding不等式的证明

Hoeffding不等式的证明相关推荐

最新文章

热门文章