为什么高斯分布概率密度函数的积分等于1

一维高斯分布的概率密度如下：

N(x∣μ,σ2)=1(2πσ2)1/2exp{−12σ2(x−μ)2}（1）N(x \mid\mu ,\sigma^2)=\frac{1}{(2\pi\sigma^2)^{1/2}}exp\{-\frac{1}{2\sigma^2}(x-\mu)^2\} （1）N(x∣μ,σ2)=(2πσ2)1/21exp{−2σ21(x−μ)2}（1）

现在要证明为什么式（1）的积分为1，这也是PRML的exercise 1.7：

∫−∞∞N(x∣μ,σ2)dx=1\int^{\infty}_{-\infty}N(x \mid\mu,\sigma^2)dx=1∫−∞∞N(x∣μ,σ2)dx=1

证明比较巧妙，采用的是化为二重积分的形式并把笛卡尔坐标转换成极坐标。

首先把 I=∫−∞∞exp(−12σ2x2)dx\displaystyle I=\int^{\infty}_{-\infty}exp(-\frac{1}{2\sigma^2}x^2)dxI=∫−∞∞exp(−2σ21x2)dx 化为二重积分的形式：

I2=∫−∞∞∫−∞∞exp(−12σ2x2−12σ2y2)dxdyI^2 =\int^{\infty}_{-\infty}\int^{\infty}_{-\infty}exp(-\frac{1}{2\sigma^2}x^2-\frac{1}{2\sigma^2}y^2)dxdyI2=∫−∞∞∫−∞∞exp(−2σ21x2−2σ21y2)dxdy

把笛卡尔坐标转换成极坐标：

x=rcosθ,y=rsinθx = rcos\theta, y = rsin\thetax=rcosθ,y=rsinθ

雅可比行列式如下，关于雅可比行列式参考我的另一篇文章：

∂(x,y)∂(r,θ)=∣∂x∂r∂x∂θ∂y∂r∂y∂θ∣=∣cosθ−rsinθsinθrcosθ∣=r\frac{\partial(x,y)}{\partial(r,\theta)}= \left| \begin{array}{cc} \frac{\partial x}{\partial r} & \frac{\partial x}{\partial\theta}\\ \frac{\partial y}{\partial r} & \frac{\partial y}{\partial\theta} \end{array}\right|= \left| \begin{array}{cc} cos\theta & -rsin\theta\\ sin\theta & rcos\theta \end{array}\right|=r∂(r,θ)∂(x,y)=∣∣∣∣∂r∂x∂r∂y∂θ∂x∂θ∂y∣∣∣∣=∣∣∣∣cosθsinθ−rsinθrcosθ∣∣∣∣=r

因此二重积分变为：

I2=∫0+∞∫02πexp(−r2cos2θ+r2sin2θ2σ2)rdrdθ=2π∫0+∞exp(−r22σ2)12d(r2)=−2πσ2∫0+∞exp(−r22σ2)d(−r22σ2)=−2πσ2[exp(z)]0−∞=2πσ2\begin{aligned} I^2 &= \int^{+\infty}_{0}\int^{2\pi}_{0}exp(-\frac{r^2cos^2\theta + r^2sin^2\theta}{2\sigma^2})rdrd\theta\\ & = 2 \pi\int^{+\infty}_{0} exp(-\frac{r^2}{2\sigma^2})\frac{1}{2}d(r^2)\\ &=-2\pi\sigma^2\int^{+\infty}_{0}exp(-\frac{r^2}{2\sigma^2})d(-\frac{r^2}{2\sigma^2})\\ &= -2\pi\sigma^2 [exp(z)]^{-\infty}_{0}\\ &= 2 \pi\sigma^2 \end{aligned}I2=∫0+∞∫02πexp(−2σ2r2cos2θ+r2sin2θ)rdrdθ=2π∫0+∞exp(−2σ2r2)21d(r2)=−2πσ2∫0+∞exp(−2σ2r2)d(−2σ2r2)=−2πσ2[exp(z)]0−∞=2πσ2

其中 z=−r22σ2\displaystyle z=-\frac{r^2}{2\sigma^2}z=−2σ2r2 ，因此：

I=(2πσ2)1/2I=(2 \pi\sigma^2)^{1/2}I=(2πσ2)1/2

最后，令 y=x−μy = x − \muy=x−μ ，高斯分布概率密度函数的积分为：

∫−∞∞N(x∣μ,σ2)dx=∫−∞∞1(2πσ2)1/2exp{−12σ2(x−μ)2}dx=∫−∞∞1(2πσ2)1/2exp{−y22σ2}dy=(2πσ2)−1/2⋅I=1\begin{aligned}\int^{\infty}_{-\infty}N(x \mid\mu,\sigma^2)dx &= \int^{\infty}_{-\infty}\frac{1}{(2\pi\sigma^2)^{1/2}}exp\{-\frac{1}{2\sigma^2}(x-\mu)^2\}dx \\ &= \int^{\infty}_{-\infty}\frac{1}{(2\pi\sigma^2)^{1/2}}exp\{-\frac{y^2}{2\sigma^2}\}dy \\ &= (2\pi\sigma^2)^{-1/2}\cdot I\\ &=1 \end{aligned}∫−∞∞N(x∣μ,σ2)dx=∫−∞∞(2πσ2)1/21exp{−2σ21(x−μ)2}dx=∫−∞∞(2πσ2)1/21exp{−2σ2y2}dy=(2πσ2)−1/2⋅I=1

参考资料：
[1] PRML

转载自：
博主：清雅的机器学习笔记
博文地址：https://zhuanlan.zhihu.com/p/40225646
来源：知乎

为什么高斯分布概率密度函数的积分等于1相关推荐

常用连续型随机变量的概率分布表（附概率密度函数全域积分等于1、期望、方差的推导与证明）
常用离散型随机变量的内容在这里(CSDN对文章长度设了限制,我只能分成两篇博客来发布). 常用连续型随机变量的概率分布速查表随机变量记号概率密度函数分布函数期望方差均匀分布 X ∼ U ...
【数据挖掘】高斯混合模型 ( 模型简介 | 软聚类 | 概率作用 | 高斯分布 | 概率密度函数 | 高斯混合模型参数 | 概率密度函数 )
文章目录 I . 高斯混合模型方法 ( GMM ) II . 硬聚类与软聚类 III . GMM 聚类结果概率的作用 IV . 高斯混合分布 V . 概率密度函数 VI . 高斯分布曲线 ( 仅 ...
高斯分布概率密度函数（PDF）和累积分布函数(CDF)
正态分布(Normal distribution)又名高斯分布(Gaussian distribution),是一个在数学.物理及工程等领域都非常重要的概率分布,在统计学的许多方面有着重大的影响力. ...
【机器学习】【ICA-1】概率统计/代数知识详解：高斯分布、概率密度函数、累积分布函数、联合分布函数、复合函数的概率密度函数、行列式求导等
要容易理解ICA,就需要先好好理解透彻下面这些概率统计和线性代数的知识点:高斯分布.概率密度函数.累积分布函数.复合函数的概率密度函数.行列式.代数余子式.矩阵微积分等.下面一一简单记录和复习下这些概 ...
【日常分享】概率密度函数与概率分布函数理解
文章目录前言概率密度函数概率质量函数概率分布函数概率分布函数的性质举例说明备注借鉴前言最近在搞深度学习,统计数据分布时发现概率论这部分的知识点掌握的不是很好,因此在网上查阅了部分资 ...
概率分布、概率密度、概率分布函数、概率密度函数
今天突然看到概率分布.概率密度函数等概念,有点懵,赶紧复习以下. 理解相关概念首先要区分的是变量类型,离散变量与连续变量,不同的变量对应不同的概率描述方法,我们分开来看. 离散变量概率分布.概率密度 ...
概率函数，概率分布函数，概率密度函数
概率函数又称为"分布律",通常用来表示离散型随机变量在每个点的概率如上图所示,P{X=Xk}=pkP\{X=X_k\} = p_kP{X=Xk}=pk即为概率函数概率分布 ...
从高斯分布的导出讲起——为什么概率密度函数长成这个样子？
正态分布(德语:Normalverteilung:英语:normal distribution)又名高斯分布(德语:Gauß-Verteilung:英语:Gaussian distribution, ...
mysql 密度函数,高斯分布（Gaussian Distribution）的概率密度函数（probability density function）...
高斯分布(Gaussian Distribution)的概率密度函数(probability density function) 对应于numpy中: numpy.random.normal(loc= ...

为什么高斯分布概率密度函数的积分等于1

为什么高斯分布概率密度函数的积分等于1相关推荐

最新文章

热门文章