随机变量及其函数分布

连续型随机变量

对于随机变量X，若存在一个非负的可积函数f(x)，使得对任意实数x，有 F(x)=f(t)从负无穷到x上的积分。
则称X为连续性随机变量。其中f(x)为X的概率分布密度函数，简称概率密度记为X～f(x)。
相关性质
由定义可知，
若f（x）在点x连续，则有F’（x）=f（x）
f（x）是可积，则它的原函数F（x）连续；
3.对于任意两个实数x1，x2（假设x1<x2），都有：
P{x1＜X＜x2}=F(x2)-F(x1)=f(x)在x1到x2上的积分。

X取任一指定实数值a的概率， ,这样在计算连续性随机变量落在某一区间的概率时，可以不必区分该区间是开区间还是闭区间。
有
尽管P{X=a}=0，但{X=a}并不是不可能事件。同样，一个事件的概率为1，并不意味这个事件一定是必然事件。
当提到一个随机变量X的概率分布，指的是它的分布函数，当X是连续型时指的是它的概率密度，当X是离散型时指的是它的分布律。
在学习积分的时候我们知道，在若干个点上（或者一个零测集）改变积分函数p(x)的值，都不影响积分的值。
因此，连续型随机变量取单点值的概率为零。

随机向量的联合分布和边际分布

E为一个随机试验，它的样本空间S={e},设X1=X1(e),X2=X2(e),…Xn=Xn(e)是定义在S上的随机变量，由它们构成的一个n维向量（X1,X2,…,Xn)叫做n维随机向量。
对于任意n个实数x1,x2,…,xn,n元函数。
F(x1,x2,…xn)=P{X1≤x1,X2≤x2,…,Xn≤xn}称为n维随机变量的分布函数。

随机变量的独立性

设有个n个随机变量，若其中n个随机变量的联合分布函数等于其各自分布的乘积，则他们就是独立的。
对于连续型随机变量，他们的联合密度函数等于各自密度函数的乘积。
若随机变量X和Y相互独立，则有以下几条结论：
1.f(x)f(y)相互独立。
2.Fx,y(x,y)=Fx(x)Fy(y)(联合分布函数）
3.fx,y(x,y)=fx(x)fy(y)（联合密度函数）
4.E(xy)=E(x)E(y)
5.var(x+y)=var(x)+var(y)
似然函数：若X1,X2,…,Xn是来自某个分布p(x;θ )的一个简单随机样本。在给定样本观察值x=(x1,x2,…xn)时，该样本的联合概率分布p(x;θ)是参数θ的函数，称其为θ的似然函数，记为L(θ,x)
若随机变量X和Y相互独立，则有以下几条结论：
1.f(x)f(y)相互独立。
2.Fx,y(x,y)=Fx(x)Fy(y)(联合分布函数）
3.fx,y(x,y)=fx(x)fy(y)（联合密度函数）
4.E(xy)=E(x)E(y)
5.var(x+y)=var(x)+var(y)

随机变量的函数及分布

一般地来说，对于离散型随机变量，求它的函数的分布只需要将函数值与原来对应的随机变量的概率一一对应即可求出。
随机变量的函数，设已知随机变量X的分布函数为Fx(x)和密度函数为px(x),又设Y=g(x)，其中函数g()是严格单调函数，切导数g’()存在，则y的密度函数为py(Y)=px(h(y))|h’(y)|
其中h(y)是y=g(x)的反函数，h’(y)是其导数。
若（ξ1,…,ξn)的密度函数为p(x1,…,xn),求η1=g1(ξ1,…,ξn),…,ηm=gm(ξ1,…,ξn)的分布，这时有
G(y1,…,ym)=P{η1＜y1,…,ηm＜ym}
=p(x1(y1,…,yn),…,xn(y1,…,yn))|J|(m=n时)
二维随机变量(X,Y)作为一个整体，具有分布函数

共轭分布

先验概率
在贝叶斯统计中，某一不确定量p的先验概率分布是在考虑"观测数据"前，能表达p不确定性的概率分布。它旨在描述这个不确定量的不确定程度，而不是这个不确定量的随机性。这个不确定量可以是一个参数，或者是一个隐含变量（英语：latent variable）。
在使用贝叶斯定理时，我们通过将先验概率与似然函数相乘，随后标准化，来得到后验概率分布，也就是给出某数据，该不确定量的条件分布。
先验概率通常是主观的猜测，为了使计算后验概率方便，有时候会选择共轭先验。如果后验概率和先验概率是同一族的，则认为它们是共轭分布，这个先验概率就是对应于似然函数的共轭先验。
后验概率
在贝叶斯统计中，一个随机事件或者一个不确定事件的后验概率是在考虑和给出相关证据或数据后所得到的条件概率。
假设一个学校里有60%男生和40%女生。女生穿裤子的人数和穿裙子的人数相等，所有男生穿裤子。一个人在远处随机看到了一个穿裤子的学生。那么这个学生是女生的概率是多少？
使用贝叶斯定理，事件A是看到女生，事件B是看到一个穿裤子的学生。我们所要计算的是P(A|B)。
P(A)是忽略其它因素，看到女生的概率，在这里是40%
P(A’)是忽略其它因素，看到不是女生（即看到男生）的概率，在这里是60%
P(B|A)是女生穿裤子的概率，在这里是50%
P(B|A’)是男生穿裤子的概率，在这里是100%
P(B)是忽略其它因素，学生穿裤子的概率，P(B) = P(B|A)P(A) + P(B|A’)P(A’)，在这里是0.5×0.4 + 1×0.6 = 0.8.
P(A|B)=P(B|A)P(A)/P(B)=0.25
这个就是后验概率
设 X1,X2, …, Xn是取自总体X的样本，X(i) 称为该样本的第i个次序统计量，它的取值是将样本观测值由小到大排列后得到的第i个观测值。从小到大排序为x(1),x(2), …,x(n)，则称X(1),X(2), …,X(n)为顺序统计量。