1. 频率派 vs 贝叶斯 统计学

贝叶斯统计学十分庞大，这里我们只需一个概览。

在自动驾驶环境感知中，我们的目的想要通过一系列的观测来描述我们感兴趣的未知量，解决估计，分类，检测等问题时，比如追踪经常关心的是估计某物体距离我们的位置和速度等。这是其实是统计推断问题。有频率学派和贝叶斯学派两大学派来解决这个问题。

频率主义学派： 认为未知量是确定的，而不是随机的。x是一个确定值。比如如果我们测量了多次，可以取平均来表示x。

贝叶斯学派：用随机变量表示未知量，并可以描述不确定性。我们可以通过一些提前了解的只是结合观测建模得到x的一个概率分布，可以了解它最可能出现的位置，以及有多大的可能性。

尽管在有些问题中，频率派和贝叶斯派经常会给出相同的结论，在复杂的情况比如无人驾驶，我们多用的是贝叶斯方法解决问题。卡尔曼滤波的诞生也是基于贝叶斯方法的。

2. 贝叶斯方法的关键步骤

假设我们的未知量是x，观测为y。贝叶斯方法主要有三大步。

1. 建模 我们需要两个模型。第一个模型用来描述不进行任何观测的时候，我们已经了解的关于x的信息。比如一个卡车的高度，无需测量我们知道它大致是个4m-7m的高度，然后可以描述它的分布，p(x)，这就是先验分布。第二个模型是描述观测值y和x的关系的概率模型, 即我们假设给定了x后对它进行测量，观测值y观测到的分布应该服从p(y|x)。请注意，这个模型是y的分布，而不是x的。其实它叫做x的似然。这两个模型就是运动模型和观测模型，下一节会详细展开。

2. 观测更新 第二步是我们结合我们所有的关于x的信息，得到我们已知观测y的x的概率分布p(x|y)（后验分布）。 这是我们接下来要重点讨论的一步。应用了贝叶斯定理。

3. 决策 p(x|y)是一个分布，很多时候我们还是只需要一个最优估测值。除了p(x|y)，我们一般还需要一个损失函数描述什么是对我们的决策重要的因素。通过p(x|y)和损失函数我们可以得到我们的最优决策。比较常见的两种估测方式是最大后验概率( Maximum a-posteriori estimator, MAP )和最小均方误差( Minimum mean squared error estimator, MMSE）。

3. 贝叶斯模型的基本模块

用贝叶斯统计方法解决不同领域的问题大多有着相似的流程，所以梳理这个流程的构建模块有助于我们更好地理解和表达。

基本模块有三个：似然likelihoods，先验priors，和后验posteriors。

假设我们感兴趣一个未知变量计为

，为了描述它我们拥有一些对它的观测。（X是变量x可取的空间，如果他是连续的，这是一个估计estimation问题，如果它是离散的，那是一个检测detection问题。）

解决这个问题的一个关键假设：观测值y服从条件概率 p(y|x)。也就是观测值的分布是我们假设已知未知量x的情况下y的条件分布。比如雷达观测某物距离y。x是真实距离。观测值y观测到的数据是我们假定给定了真实距离x的情况下，观测到的结果。

4. 似然

p(y|x)是y的分布，但y是我们的观测，是一个确定了的值，而x是未知量。所以我们通常把p(y|x)看作是x的函数，叫做似然函数。这个函数表示的是当我们观测到y时，取不同x的可能性是多少。记作l(x|y)，注意，它并不是x的pdf。

举个例子，计入我们的传感器告诉我们被追踪的物体处在我们正前方4米的位置，也就是y=4，那么x的似然函数就可以告诉我们这个真实距离在y=4的情况下取不同值时的可能性分别是多少。如果传感器没有偏移误差，那很可能x是4的可能性最大。但x也可能是3或者5或者其它值，它们的可能性是多少就要看我们的观测模型是什么样的了。

5. 先验分布

p(x)，即我们还没有观测时，运用已知的知识对x这个单独随机变量的分布的估测。

比如我们之前说的卡车的高度在不对它测量前就已知有关它的大致高度的知识。如果x是某疾病，那发病率这个先验可以是基于一定人口的统计。

6. 后验分布

有了观测之后的x的分布，这是我们最终想要得到的。根据贝叶斯定理，后验正比于似然和先验的乘积。

如果似然和先验都符合高斯分布的话，根据上一节最后两高斯相乘的性质，后验概率还符合高斯，均值和方差的变化可见下图。