ch1 预备知识

分布

分布名称	概率密度函数	期望EEE	方差DDD
二项分布	P{k}=Cnkpk(1−p)n−kn=1,2,...P\{k\}=C_n^k \, p^k (1-p)^{n-k} \qquad n=1,2,...P{k}=Cnkpk(1−p)n−kn=1,2,...	E=npE=npE=np	D=np(1−p)D=np(1-p)D=np(1−p)
均匀分布	f(x,a,b)={1b−1,a≤x≤b0,其他f(x,a, b) = \left\{ \begin{array}{ll} \frac{1}{b-1} , & a \leq x \leq b \\ 0, & 其他\end{array} \right.f(x,a,b)={b−11,0,a≤x≤b其他	E=a+b2E=\frac{a+b}{2}E=2a+b	D=(b−a)212D=\frac{(b-a)^2}{12}D=12(b−a)2
泊松分布	p{k}=e−λλkk!n=1,2,...p\{k\} = e^{-\lambda} \frac{\lambda^k}{k!} \qquad n=1,2,...p{k}=e−λk!λkn=1,2,...	E=λE=\lambdaE=λ	D=λD=\lambdaD=λ
指数分布	f(x,λ)={λe−λx,x≥00,x<0f(x,\lambda) = \left\{ \begin{array}{ll}\lambda e^{-\lambda x} , & x \geq 0 \\0, & x<0\end{array} \right.f(x,λ)={λe−λx,0,x≥0x<0	E=1λE=\frac{1}{\lambda}E=λ1	D=1λ2D=\frac{1}{\lambda^2}D=λ21

全概率公式和全期望公式

全概率公式:

P(B)=∑k=1nP(B∣Ak)P(Ak)P(B)=\sum_{k=1}^{n} P\left(B \mid A_{k}\right) P\left(A_{k}\right) P(B)=k=1∑nP(B∣Ak)P(Ak)
推广:
- YYY离散时:
  P(A)=∑jP(A∣Y=yj)P(Y=yj)P(A) = \sum_{j} P(A|Y=y_j) P(Y=y_j) P(A)=j∑P(A∣Y=yj)P(Y=yj)
- YYY连续时:
  P(A)=∫−∞+∞P(A∣Y=yj)fY(y)dyP(A) = \int_{-\infty}^{+\infty} P(A|Y=y_j) f_Y(y) dy P(A)=∫−∞+∞P(A∣Y=yj)fY(y)dy
全期望公式
- YYY离散时:
  E(X)=∑jE(X∣yj)P(Y=yj)E(X) = \sum_j E(X|y_j) P(Y=y_j) E(X)=j∑E(X∣yj)P(Y=yj)
- YYY连续时:
  E(X)=∫−∞+∞E(X∣y)fY(y)dyE(X) = \int_{-\infty}^{+\infty} E(X|y) f_Y(y) dy E(X)=∫−∞+∞E(X∣y)fY(y)dy

Γ\GammaΓ函数

Γ\GammaΓ函数表达式:
Γ(α)=∫0+∞e−xxα−1dx\Gamma(\alpha) = \int_0^{+\infty} e^{-x} x^{\alpha-1} dx Γ(α)=∫0+∞e−xxα−1dx
初值:
Γ(1)=1,Γ(12)=(π)\Gamma(1) = 1, \quad \Gamma(\frac{1}{2})=\sqrt{(\pi)} Γ(1)=1,Γ(21)=(π)
递推关系:
Γ(n)=(n−1)Γ(n−1)=(n−1)!(x的系数的阶乘)\Gamma(n) = (n-1) \, \Gamma(n-1) = (n-1)! \qquad\qquad\qquad \text{($x$的系数的阶乘)} Γ(n)=(n−1)Γ(n−1)=(n−1)!(x的系数的阶乘)

ch2 随机过程的基本概念

§2.3 随机过程的数字特征

给定随机过程XT={X(t),t∈T}X_T=\{ X(t), t \in T \}XT={X(t),t∈T},定义数字特征如下:

均值函数:
mx(t)≜E[X(t)]m_x(t) \triangleq E[X(t)] mx(t)≜E[X(t)]
自相关函数:
RX(s,t)≜E[X(s)⋅X(t)]R_X(s,t) \triangleq E[X(s) \cdot X(t)] RX(s,t)≜E[X(s)⋅X(t)]
自协方差函数:
BX(s,t)≜Cov[X(s),X(t)]=RX(s,t)−mX(s)mX(t)B_X(s,t) \triangleq Cov[X(s), X(t)] = R_X(s,t) - m_X(s) \, m_X(t) BX(s,t)≜Cov[X(s),X(t)]=RX(s,t)−mX(s)mX(t)
方差函数:
DX(t)≜D[X(t)]=E[(X−E(X))2]D_X(t) \triangleq D[X(t)] = E[(X - E(X))^2] DX(t)≜D[X(t)]=E[(X−E(X))2]
均方差函数:
σX(t)=DX(t)\sigma_X (t) = \sqrt{D_X(t)} σX(t)=DX(t)

ch3 泊松过程

§3.1 泊松过程的定义

计数过程: 若N(t)N(t)N(t)表示在(0,t](0, t](0,t]内事件A出现的总次数,则称随机过程{N(t),t≥0}\{N(t), t \geq 0\}{N(t),t≥0}为计数过程.
独立增量过程: 对任意t1<t2≤t3<t4∈Tt_1 < t_2 \leq t_3 < t_4 \in Tt1<t2≤t3<t4∈T,X(t2)−X(t1)X(t_2)-X(t_1)X(t2)−X(t1)与X(t4)−X(t3)X(t_4)-X(t_3)X(t4)−X(t3)相互独立,则称随机过程X(t)X(t)X(t)为独立增量过程.
平稳增量过程: 对任意s,t,h∈Ts,t,h \in Ts,t,h∈T,X(t+h)−x(s+h)X(t+h)-x(s+h)X(t+h)−x(s+h)与X(t)−X(s)X(t)-X(s)X(t)−X(s)具有相同的分布,则称随机过程X(t)X(t)X(t)为平稳增量过程.
泊松过程: 称计数过程{X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是泊松过程,如果(t)(t)(t)满足:
1. X(0)=0X(0)=0X(0)=0
2. X(t)X(t)X(t)是独立增量过程
3. 在任一长度为ttt的区间中,事件A发生的次数服从参数λt>0\lambda t > 0λt>0的泊松分布,即对任意s,t≥0s, t \geq 0s,t≥0,有:
  P{X(t+s)−X(s)=n}=e−λt(λt)nn!n=0,1,2,...P\{ X(t+s) - X(s) = n \} = e^{- \lambda t} \frac{(\lambda t)^n}{n!} \qquad n=0,1,2,... P{X(t+s)−X(s)=n}=e−λtn!(λt)nn=0,1,2,...
由E[X(t)]=λtE[X(t)]=\lambda tE[X(t)]=λt,故λ=E[X(t)]t\lambda = \frac{E[X(t)]}{t}λ=tE[X(t)]表示过程的强度

§3.2 泊松过程的性质

数字特征: 设{X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是参数为λ\lambdaλ的泊松过程,对任意t,s∈[0,+∞),s<tt , s \in [0, +\infty), s<tt,s∈[0,+∞),s<t,有:
E[X(t)−X(s)]=D[X(t)−X(s)]=λ(t−s)E[X(t)-X(s)] = D[X(t) - X(s)] = \lambda (t-s) E[X(t)−X(s)]=D[X(t)−X(s)]=λ(t−s)

mX(t)=E[X(t)]=E[X(t)−X(0)]=λtm_X(t) = E[X(t)] = E[X(t)-X(0)] = \lambda t mX(t)=E[X(t)]=E[X(t)−X(0)]=λt

σX2(t)=D[X(t)]=D[X(t)−X(0)]=λt\sigma_X^2(t) = D[X(t)] = D[X(t)-X(0)] = \lambda t σX2(t)=D[X(t)]=D[X(t)−X(0)]=λt

RX(s,t)=E[X(s),X(t)]=λs(λt+1)R_X(s,t) = E[X(s), X(t)] = \lambda s (\lambda t + 1) RX(s,t)=E[X(s),X(t)]=λs(λt+1)

BX(s,t)=RX(s,t)−mX(s)mX(t)=λsB_X(s,t) = R_X(s,t) - m_X(s) m_X(t) = \lambda s BX(s,t)=RX(s,t)−mX(s)mX(t)=λs
等待(到达)时间WnW_nWn与时间间隔TnT_nTn的分布:

WnW_nWn表示第nnn个事件的等待(到达)时间,TnT_nTn表示第nnn个事件与第n−1n-1n−1个事件出现的时间间隔
- 时间间隔TnT_nTn服从参数为λ\lambdaλ的指数分布,其概率分布函数和概率密度函数:
  FTn(t)=P{Tn≤t}={1−e−λt,t≥00,t<0F_{T_{n}}(t)= P\{T_{n} \leq t \}= \left\{\begin{array}{ll} 1-e^{-\lambda t}, & t \geq 0 \\ 0, & t<0 \end{array}\right. FTn(t)=P{Tn≤t}={1−e−λt,0,t≥0t<0
  
  fTn(t)={λe−λt,t≥00,t<0f_{T_{n}}(t)= \left\{\begin{array}{ll} \lambda e^{-\lambda t}, & t \geq 0 \\ 0, & t<0 \end{array}\right. fTn(t)={λe−λt,0,t≥0t<0
- 到达时间WnW_nWn服从Γ\GammaΓ分布,其概率密度函数:
  fWn(t)={λe−λt(λt)n−1(n−1)!,t≥00,t<0f_{W_n}(t)=\left\{\begin{array}{ll}\lambda e^{-\lambda t} \frac{(\lambda t)^{n-1}}{(n-1) !}, & t \geq 0 \\0, & t<0\end{array}\right. fWn(t)={λe−λt(n−1)!(λt)n−1,0,t≥0t<0
- 到达时间分布的推论: 设TkT_kTk表示强度为λ\lambdaλ的泊松过程第kkk次的到达时间,L1L_1L1表示强度为μ\muμ的泊松过程第1次的到达时间
  P{Tk<L1}=(λλ+μ)kP\{T_k < L_1\} = (\frac{\lambda}{\lambda + \mu}) ^ k P{Tk<L1}=(λ+μλ)k
  记: 考虑发生一个事件,该事件为事件1的概率为λλ+μ\frac{\lambda}{\lambda + \mu}λ+μλ.考虑接下来连续发生的kkk件事,事件{Tk<L1}\{T_k < L_1\}{Tk<L1}等价于{接下来连续发生的k件事都是事件1}\{接下来连续发生的k件事都是事件1\}{接下来连续发生的k件事都是事件1}.
- 到达时间的条件分布: 已知[0,t][0,t][0,t]内事件AAA已经发生1次,则这一事件到达时间W1W_1W1的条件分布密度函数:
  fW1(s∣N(t)=1)={1t,0<s<t0,其他f_{W_1}(s | N(t)=1)= \left\{\begin{array}{ll} \frac{1}{t}, & 0<s<t \\ 0, & 其他 \end{array}\right. fW1(s∣N(t)=1)={t1,0,0<s<t其他
- 到达时间的条件分布: 已知[0,t][0,t][0,t]内事件AAA已经发生nnn次,则第kkk次事件的发生时间WkW_kWk的条件概率密度函数:
  fWk(s∣N(t)=n)={n!(k−1)!(n−k)!sk−1(t−s)n−ktn0<s<t0其它f_{W_{k}}(s | N(t)=n)= \left\{\begin{array}{cc} \frac{n !}{(k-1) !(n-k) !} \frac{s^{k-1}(t-s)^{n-k}}{t^{n}} & 0<s<t \\ 0 & 其它 \end{array}\right. fWk(s∣N(t)=n)={(k−1)!(n−k)!n!tnsk−1(t−s)n−k00<s<t其它
- 到达时间的条件联合分布: 已知[0,t][0,t][0,t]内事件AAA已经发生nnn次,则这nnn次到达时间W1,W2,...,WnW_1,W_2,...,W_nW1,W2,...,Wn的联合条件分布密度函数:
  fW1,W2,...,Wn(t1,t2,⋯,tn∣N(t)=n)={n!tn,0<t1<⋯<tn<t0,其他f_{W_1,W_2,...,W_n} (t_{1}, t_{2}, \cdots, t_{n} | N(t)=n)=\left\{\begin{array}{ll} \frac{n !}{t^{n}}, & 0<t_{1}<\cdots<t_{n}<t \\ 0, & 其他 \end{array}\right. fW1,W2,...,Wn(t1,t2,⋯,tn∣N(t)=n)={tnn!,0,0<t1<⋯<tn<t其他

§3.3 非齐次泊松过程

定义: 称计数过程{X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是非齐次泊松过程,如果(t)(t)(t)满足:
1. X(0)=0X(0)=0X(0)=0
2. X(t)X(t)X(t)是独立增量过程
3. 在任一长度为ttt的区间中,事件A发生的次数服从参数为∫ss+tλ(u)du\int_s^{s+t}\lambda(u)du∫ss+tλ(u)du的泊松分布,即对任意s,t≥0s, t \geq 0s,t≥0,有:
  X(t+s)−X(s)∼π(∫ss+tλ(u)du)X(t+s) - X(s) \sim \pi(\int_s^{s+t} \lambda(u)du) X(t+s)−X(s)∼π(∫ss+tλ(u)du)
λ(t)\lambda(t)λ(t)称为速率函数

§3.4 复合泊松过程

定义: 设{N(t),t≥0}\{N(t),t \geq 0 \}{N(t),t≥0}是泊松过程,{Yk,k=1,2,..}\{Y_k,k=1,2,.. \}{Yk,k=1,2,..}是一系列独立同分布的随机变量,则称
X(t)=∑n=1N(t)YnX(t) = \sum_{n=1}^{N(t)} Y_n X(t)=n=1∑N(t)Yn
为复合泊松过程.
性质:
1. {X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是独立增量过程
2. 若{N(t),t≥0}\{N(t),t \geq 0 \}{N(t),t≥0}是齐次泊松过程,则{X(t),t≥0}\{X(t),t \geq 0 \}{X(t),t≥0}是平稳增量过程
数字特征:
- E(X)=E(N)E(Y1)E(X) = E(N) E(Y_1)E(X)=E(N)E(Y1)
- D(X)=E(N)D(Y1)+D(N)E2(Y1)D(X) = E(N)D(Y_1) + D(N)E^2(Y_1)D(X)=E(N)D(Y1)+D(N)E2(Y1)
若{N(t),t≥0}\{N(t),t \geq 0 \}{N(t),t≥0}是齐次泊松过程,则:
- EX(t)=EN(t)E(Y1)=λtE(Y1)EX(t) = EN(t)E(Y_1) = \lambda t E(Y_1)EX(t)=EN(t)E(Y1)=λtE(Y1)
- DX(t)=EN(t)E(Y12)=λtE(Y12)DX(t) = EN(t)E(Y_1^2)=\lambda t E(Y_1^2)DX(t)=EN(t)E(Y12)=λtE(Y12)
- E(X)=E[E(X∣N)]=E[NE(Y!)]=E(N)E(Y1)E(X)=E[E(X|N)]=E[NE(Y_!)]=E(N)E(Y_1)E(X)=E[E(X∣N)]=E[NE(Y!)]=E(N)E(Y1)

ch4 马尔可夫过程

§4.3 马尔可夫链的状态关系与属性

周期性:

定义d=GCD{n:pii(n)>0,n>0}d=GCD\{ n:p_{ii}^{(n)}>0, n>0 \}d=GCD{n:pii(n)>0,n>0}为状态iii的周期
- 若d>1d>1d>1,则称状态iii为周期的
- 若d=1d=1d=1,则称状态iii为非周期的
常返性：

定义fij(n)=P(Xn=j,Xk≠j,1≤k≤n−1∣X0=i)f_{ij}^{(n)} = P(X_n=j,X_k \ne j,1 \leq k \leq n-1 | X_0=i)fij(n)=P(Xn=j,Xk=j,1≤k≤n−1∣X0=i)为首达概率

定义fij=∑n=1+∞fij(n)f_{ij} = \sum_{n=1}^{+\infty} f_{ij}^{(n)}fij=∑n=1+∞fij(n)为迟早概率
- 若fii=1f_{ii} = 1fii=1,则称状态iii为常返的
- 若fii<1f_{ii} < 1fii<1,则称状态iii为非常返的
定义TiT_iTi表示状态iii的首次返回时间,定义μi=E(Ti)=∑n=1+∞nfii(n)\mu_i=E(T_i)=\sum_{n=1}^{+\infty} n f_{ii}^{(n)}μi=E(Ti)=∑n=1+∞nfii(n)表示常返状态iii的平均返回时间
- 若μi<∞\mu_i < \inftyμi<∞,则称状态iii为正常返的
- 若μi=∞\mu_i = \inftyμi=∞,则称状态iii为零常返的
可达与互通性：

互通状态的周期和常返性是相同的,但平均返回时间不一定相同.

§4.4 状态空间的分解

状态空间的分解
- 不可约↔两两互通
- 闭集↔状态出不去
任一马氏链的状态空间III,都可以唯一分解为互不相交的子集D,C1,C2,...D,C_1,C_2,...D,C1,C2,...之和,其中:
1. DDD是所有非常返态的集合
2. 每一个CiC_iCi都是不可约的常返闭集
(常返态的传递性): 若状态iii常返,i→ji \rarr ji→j,则:
1. jjj常返
2. i↔ji \harr ji↔j
3. fij=1,fjif_{ij}=1, f_{ji}fij=1,fji

§4.5 转移概率极限与平稳分布

转移概率的极限lim⁡n→∞pij(n)\lim_{n \rarr \infty} p_{ij} ^{(n)}limn→∞pij(n)
- 若jjj为非常返或零常返态,则lim⁡n→∞pij(n)=0\lim_{n \rarr \infty} p_{ij} ^{(n)} = 0limn→∞pij(n)=0
- 若jjj为正常返,非周期,则lim⁡n→∞pij(n)=fijμj\lim_{n \rarr \infty} p_{ij} ^{(n)} = \frac{f_{ij}}{\mu_j}limn→∞pij(n)=μjfij
- 若jjj为正常返,周期dj>1d_j>1dj>1时:
  - 若i→ji \rarr ji→j,则lim⁡n→∞pij(n)\lim_{n \rarr \infty} p_{ij} ^{(n)}limn→∞pij(n)不存在
  - 若iii不可达jjj,则lim⁡n→∞pij(n)=0\lim_{n \rarr \infty} p_{ij} ^{(n)} = 0limn→∞pij(n)=0
平稳分布π=(π1,π2,...)\pi = (\pi_1,\pi_2,...)π=(π1,π2,...)满足方程:
{π=πP∑i∈Iπi=1\left\{\begin{array}{l} \pi = \pi P \\ \sum_{i \in I} \pi_i=1 \end{array}\right. {π=πP∑i∈Iπi=1
若马氏链是不可约非周期的,则如下3个命题是等价的:
- 该链为正常返
- 该链存在极限分布
- 该链存在平稳分布
且当上述分布存在时,极限分布{1μi,i∈I}\{\frac{1}{\mu_i}, i \in I\}{μi1,i∈I}就是平稳分布{πi,i∈I}\{\pi_i, i \in I\}{πi,i∈I}.

pdf版本笔记的下载地址: 华北电力大学《随机过程·2020年冬》复习笔记（访问密码：3834）

华北电力大学《随机过程·2020年冬》复习笔记相关推荐

2020形式化方法复习笔记
(第二课:数学基础) 1.逻辑基础命题逻辑 + 谓词逻辑变体:经典逻辑.构造逻辑. 2.命题逻辑 Propositional logic: 每个形式系统应当包括语法+语义 2.1 语法 The s ...
2020多媒体信号处理复习笔记
一丶Course Introduction 1.什么是信号处理? 信号处理是系统工程,电气工程和应用数学领域中涉及的领域模拟或数字信号的操作或分析, 代表时间变化或空间变化的物理量. 典型的操作和应 ...
[HITCN]哈工大2020秋计算机网络复习笔记 (10)
文章目录 5 数据链路层 5.4 ARP协议 5.5 以太网 5.5.1 以太网(ETHERNET) 5.5.1.1 以太网CSMA/CD算法 5.5.1.2 以太网帧结构 5.5.2 交换机 5.5 ...
[HITCN]哈工大2020秋计算机网络复习笔记 (1)
文章目录 1 概述 1.1 计算机网络 1.1.1 计算机网络与Internet 1.1.2 网络协议 1.2 计算机网络结构 1.2.1 计算机网络结构 1.2.2 Internet结构 1.3 数 ...
电子与通信工程专硕考分_2021年华北电力大学电子与通信工程专硕考研必看成功上岸前辈复习经验分享...
原标题:2021年华北电力大学电子与通信工程专硕考研必看成功上岸前辈复习经验分享华北电力大学电子与通信工程考研成功经验分享华北电力大学电子信息专硕在电子与电子工程学院有一个方向是电子与通信工程,我 ...
数据结构(c语言版)笔记6,2020考研计算机《数据结构(C语言版)》复习笔记(6)
2020年计算机考研复习已经开始,新东方在线在此整理了2020考研计算机<数据结构(C语言版)>复习笔记(6),希望能帮助大家! 第六章树知识点整理树是n个结点的有限集合,非空时必须满 ...
【期末复习】北京邮电大学《数字内容安全》课程期末复习笔记（5. 社交媒体安全）
[相关链接] [期末复习]北京邮电大学<数字内容安全>课程期末复习笔记(1. 绪论) [期末复习]北京邮电大学<数字内容安全>课程期末复习笔记(2. 信息隐藏与数字水印) [期 ...
【期末复习】北京邮电大学《网络安全》课程期末复习笔记（9. 虚拟专用网络）
[相关博客链接] [期末复习]北京邮电大学<网络安全>课程期末复习笔记(1. 网络安全概述) [期末复习]北京邮电大学<网络安全>课程期末复习笔记(2. 恶意代码) [期末复习 ...
【期末复习】北京邮电大学《数字内容安全》课程期末复习笔记（4. 多媒体安全）
[相关链接] [期末复习]北京邮电大学<数字内容安全>课程期末复习笔记(1. 绪论) [期末复习]北京邮电大学<数字内容安全>课程期末复习笔记(2. 信息隐藏与数字水印) [期 ...

华北电力大学《随机过程·2020年冬》复习笔记