1.泊松过程

1.1Poisson过程的定义

Poisson过程是一类重要的计数过程，首先给出计数过程的定义。
定义1.1 随机过程{N(t),t≥0}称为计数过程，如果N(t)表示从0到t时刻某一特定事件A发生的次数，它具备以下两个特点：
N(t)≥0且取值为整数；
当s<t时，N(s)≤N(t)且N(t)-N(s)表示(s,t]时间内事件A发生的次数。
Poisson过程是具有独立增量和平稳增量的计数过程，它的定义如下。
定义1.2 计数过程{N(t),t≥0}称为参数为λ(λ>0)的Poisson过程，如果
N(0)=0；
过程有独立增量；
在任一长度为t的时间区间中事件发生的次数服从均值为λt的Poisson分布，即对一切s≥0,t>0，有
P{N(t+s)−N(s)=n}=e−λt(λt)nn!,n=0,1,2,⋯P\{N(t+s)-N(s)=n\}=e^{-\lambda t} \frac{(\lambda t)^{n}}{n !}, n=0,1,2, \cdotsP{N(t+s)−N(s)=n}=e−λtn!(λt)n,n=0,1,2,⋯
从定义1.2（3）中易见，N(t+s)-N(s)的分布不依赖于s，所以该式蕴涵了过程的平稳增量性。另外，由Poisson分布的性质知道，E(N(t))=∑n=0+∞n⋅e−λt(λt)nn!=λte−λt∑n=1+∞(λt)n−1(n−1)!=λte−λt∑n=0+∞(λt)nn!=λte−λt⋅eλt=λt\begin{array}{c}E(N(t))=\sum_{n=0}^{+\infty} n \cdot e^{-\lambda t} \frac{(\lambda t)^{n}}{n !}=\lambda t e^{-\lambda t} \sum_{n=1}^{+\infty} \frac{(\lambda t)^{n-1}}{(n-1) !}=\lambda t e^{-\lambda t} \sum_{n=0}^{+\infty} \frac{(\lambda t)^{n}}{n !} \\=\lambda t e^{-\lambda t} \cdot e^{\lambda t}=\lambda t\end{array}E(N(t))=∑n=0+∞n⋅e−λtn!(λt)n=λte−λt∑n=1+∞(n−1)!(λt)n−1=λte−λt∑n=0+∞n!(λt)n=λte−λt⋅eλt=λt，于是可认为λ是单位时间内发生的事件的平均次数，一般称λ是Poisson过程的强度或速率。
定义1.3 设{N(t),t≥0}是一个计数过程，它满足
(1) N(0)=0；
(2)过程有平稳独立增量；
(3)存在λ>0，当h↓0时，有
P{N(t+h)−N(t)=1}=λh+o(h)P\{N(t+h)-N(t)=1\}=\lambda h+o(h)P{N(t+h)−N(t)=1}=λh+o(h)
(4) 当h↓0时，有
P{N(t+h)−N(t)≥2}=o(h)P\{N(t+h)-N(t) \geq 2\}=o(h)P{N(t+h)−N(t)≥2}=o(h)
定理1.1 满足上述条件(1)~(4)的计数过程{N(t),t≥0}是Poisson过程，反过来Poisson过程一定满足这四个条件。
TnT_{n}Tn表示第n次（n=1，2，···）事件发生的时刻，规定T0T_{0}T0=0。XnX_{n}Xn表示第n次与第n-1次事件发生的时间间隔。
定理1.2 XnX_{n}Xn（n=1，2，···）服从参数为λ的指数分布，且相互独立。
定理1.3 TnT_{n}Tn（n=1，2，···）服从参数为n和λ的Γ分布。
定义1.4 计数过程{N(t),t≥0}是参数为λ的Poisson过程，如果每次事件发生的时间间隔X1X_{1}X1,X2X_{2}X2,···相互独立，且服从同一参数为λ的指数分布。

1.2Poisson过程的应用

例1.1 （Poisson过程在排队论中的应用）研究随机服务系统中的排队现象时，经常用到Poisson过程模型。例如，到达电话总机的呼叫数目，到达某服务设施（商场、车站、购票处等）的顾客数，都可以用Poisson过程来描述。以某火车站售票处为例，设从早上8:00开始，此售票处连续售票，乘客以10人/小时的平均速率到达，则9:00—10:00这1小时内最多有5名乘客来此购票的概率是多少？10:00—11:00没有人来买票的概率是多少？
解我们用一个Poisson过程来描述。设8:00为时刻0，则9:00为时刻1，参数λ=10。则9:00—10:00这1小时内最多有5名乘客来此购票的概率为
P{N(2)−N(1)≤5}=∑n=05e−1010nn!P\{N(2)-N(1) \leq 5\}=\sum_{n=0}^{5} e^{-10} \frac{10^{n}}{n !}P{N(2)−N(1)≤5}=∑n=05e−10n!10n
10:00—11:00没有人来买票的概率为
P{N(3)−N(2)=0}=e−101000!=e−10P\{N(3)-N(2) =0\}= e^{-10} \frac{10^{0}}{0 !}=e^{-10}P{N(3)−N(2)=0}=e−100!100=e−10
例1.2 （事故发生次数及保险公司接到的索赔数）若以N(t)表示某公路交叉口、矿山、工厂等场所在(0,t]时间内发生不幸事故的数目，则Poisson过程就是{N(t),t≥0}的一种很好的近似。例如，保险公司接到赔偿请求的次数（设一次事故就一次索赔）、向315台的投诉（设商品出现质量问题为事故）等都可以应用Poisson过程模型。我们考虑一种最简单的情况，设保险公司每次的赔付都是1 ，每月平均接到索赔要求4次，则一年中它要支付的金额平均为多少？
解设一年开始为时刻0，1月末为时刻1，2月末为时刻2······年末为时刻12，则有
P{N(12)−N(0)=n}=(4×12)nn!e−4×12P\{N(12)-N(0)=n\}=\frac{(4\times12)^n}{n!}\ e^{-4\times12}P{N(12)−N(0)=n}=n!(4×12)n e−4×12
均值
E[N(12)−N(0)]=4×12=48E[N(12)-N(0)]=4\times12=48E[N(12)−N(0)]=4×12=48
例1.3 事件A的发生形成强度为λ的Poisson过程{N(t),t≥0}，如果每次事件发生时能够以概率p被记录下来，并以M(t)表示到时刻t被记录下来的事件总数，则{M(t),t≥0}是一个强度为λp的Poisson过程。
证明事实上，由于每次事件发生时，对它的记录和不记录都与其他的事件能否被记录独立，而且事件发生服从Poisson分布，所以M(t)也具有平稳独立增量，故只需验证M(t)服从均值为λpt的Poisson分布。

结论得证。

2.伽马分布

伽马分布（Gamma Distribution）在概率论与数理统计中有着非常重要的作用并且其应用非常广泛，如：水文学、概率统计、水位设计、机器学习、算法设计、可靠性理论、材料的寿命、寿险精算等。

2.1伽马分布的定义

若随机变量X服从的密度函数为

分布函数为

其中Γ(α)=∫0∞xα−1e−xdx∫_0^∞x^{α-1} e^{-x}dx∫0∞xα−1e−xdx，称为Γ函数。则称随机变量X服从参数为α,λ的伽马分布，记为X~Ga(α,λ)，其中α为形状参数，λ为尺度参数。伽马分布总是偏态分布，α越大，f(x;α,λ)越近似于正态密度，α越小其偏斜程度越严重。

2.2伽马分布的性质

若随机变量X服从伽马分布，则随机变量X的k阶矩为

其期望及方差为

伽马分布的可加性：
设随机变量ZX1X_1X1,X2X_2X2,⋯,XnX_nXn相互独立且均服从伽马分布，即XiX_iXi~Ga(αiα_iαi,λ),i=1,2,⋯,n，则
X1X_1X1+X2X_2X2+⋯+XnX_nXn∼Ga(α1α_1α1+α2α_2α2+⋯+αnα_nαn,λ)
伽马分布的伸缩性：
设随机变量X服从参数为α,λ的伽马分布，即X~Ga(α,λ)，则
Y=X/k~Ga(α,kλ)

2.3伽马分布与其他分布的关系

从伽马分布的密度表达式可以看出伽马分布与其他分布有着关系非常密切：
若α∈N+N^+N+时，可以将伽马分布看成α个彼此独立尺度参数为λ的指数分布之和；
当λ充分小时，可以将该分布近似看成正态分布；
当α=n/2 ,λ=1/2时，伽马分布就成了数理统计中经常用到的χ2(n)χ^2 (n)χ2(n)分布；
若随机变量X，Y彼此独立且X~Ga(α1α_1α1,λ)，Y~Ga(α2α_2α2,λ)，则随机变量X/(X+Y)与随机变量X+Y相互独立，从而随机变量X/(X+Y)服从密度函数为
f(x)=Γ(α1+α2)Γ(α1)Γ(α2)xα1−1(1−x)α2−1,0<x<1f(x)= \frac{Γ(α_1+α_2 )}{Γ(α_1 )Γ(α_2 )} x^{α_1-1} (1-x)^{α_2-1},0<x<1f(x)=Γ(α1)Γ(α2)Γ(α1+α2)xα1−1(1−x)α2−1,0<x<1
的Beta分布；
若随机变量X，Y相互独立且均服从参数为λ的指数分布，则随机变量X/(X+Y)服从[0,1]的均匀分布；
若随机变量X，Y相互独立且X~N(0,1)，Y~χ2(n)χ^2 (n)χ2(n)= G(n/2,1/2)，则随机变量
若随机变量X，Y相互独立且Y~χ2(m)χ^2 (m)χ2(m)= G(m/2,1/2)，Y~χ2(n)χ^2 (n)χ2(n)= G(n/2,1/2)，则随机变量(X/m)/(Y/n)∼F(m,n).
因此，可以得出结论：伽马分布与数理统计中许多重要的分布有着密切的关系，或直接产生其他分布或间接产生其他分布。所以研究伽马分布，尤其是伽马分布参数的极大似然估计有着举足轻重的作用。
伽马分布与指数分布
当

泊松过程、伽马分布、贝塔分布及狄利克雷分布相关推荐

贝塔分布与狄利克雷分布
文章目录 0. 补充知识 0.1 贝塔函数 B(P,Q)\Beta(P, Q)B(P,Q) 0.2 伽马函数 Γ(x)\Gamma(x)Γ(x) 1. 贝塔分布 (Beta Distribution) ...
伯努利分布、二项分布、多项分布、贝塔分布、狄利克雷分布、高斯分布
文章目录伯努利分布二项分布多项分布贝塔分布狄利克雷分布高斯分布伯努利分布伯努利分布,又名两点分布或0-1分布,介绍伯努利分布前首先需要引入伯努利试验. 伯努利试验是只有两种可能结果的单 ...
伯努利分布、二项分布、多项分布、贝塔分布、狄利克雷分布（似然与概率）
瑞士数学家雅克·伯努利(Jacques Bernoulli,1654-1705)首次研究独立重复试验(每次成功率为p).在他去世后的第8年(1713年),他侄子尼克拉斯出版了伯努利的著作<推测术 ...
Gamma分布，Beta分布，多项式分布，Dirichlet狄利克雷分布
如何通俗理解 beta 分布?(很好理解,beta就是二项式分布的先验分布) 所谓共轭先验就是先验分布是beta分布,而后验分布同样是beta分布. 超详细理解Gamma分布,Beta分布,多项式分布 ...
超详细理解Gamma分布，Beta分布，多项式分布，Dirichlet狄利克雷分布
项目github地址:bitcarmanlee easy-algorithm-interview-and-practice 欢迎大家star,留言,一起学习进步 1.Gamma函数首先我们可以看一下 ...
狄利克雷分布公式_潜在狄利克雷分配(LDA)
潜在狄利克雷分配(LDA) 潜在狄利克雷分配(LDA),作为基于贝叶斯学习的话题模型,是潜在语义分析.概率潜在语义分析的扩展,于2002年由Blei等提出.LDA在文本数据挖掘.图像处理.生物信息处理 ...
浅谈狄利克雷分布——Dirichlet Distribution
浅谈狄利克雷分布的概念与简单使用. 文章目录定义二项分布(Binomial Distribution) 多项分布(Multinomial Distribution) 贝塔分布(Beta Distr ...
The Dirichlet Distribution 狄利克雷分布
Dirichlet分布可以看做是分布之上的分布.如何理解这句话,我们可以先举个例子:假设我们有一个骰子,其有六面,分别为{1,2,3,4,5,6}.现在我们做了10000次投掷的实验,得到的实验结果是 ...
The Dirichlet Distribution 狄利克雷分布 (PRML 2.2.1)
以下内容转自:http://www.xperseverance.net/blogs/2012/03/510/ cnblogs无法表示数学公式,原博客数学公式可以表达出来. Dirichlet分布可以看 ...

泊松过程、伽马分布、贝塔分布及狄利克雷分布