本文链接:个人站 | 简书 | CSDN
版权声明:除特别声明外,本博客文章均采用 BY-NC-SA 许可协议。转载请注明出处。

背景

我们在《报童问题》、《报童问题的简单解法》等文中介绍了一种通过考虑需求的不确定性来最大化销售利润的商品采购模型:首先预测需求所服从的概率分布,然后取能使得期望收益最大的分位数作为预估的需求,据此来决定采购量,对应的分位值定义为服务水平。

在实际应用中,一次采购需要满足未来一段时间的总需求,具体是多长时间取决于商品的提前期和目标库转等因素。理论上我们可以直接预测这段时间的总需求所服从的概率分布。但站在甲方的角度,一段时间的总需求?还概率分布?没概念啊!你不告诉我每天的情况,直接丢一个最终结果给我,我怎么知道你靠不靠谱呢?

甲方有这样的需求无疑是十分合理的,作为乙方我们没有理由不去满足。为此,我们可以预测每一天的需求所服从的概率分布,然后计算总需求所服从的概率分布。如下图所示。

考虑到可控性,需要允许甲方人为调整服务水平。站在甲方的角度看,问题又来了,我调整服务水平的时候,只能看到预估的总需求量在变,我想知道对应的每天的需求量是怎么变的。这就不好讲了,您想啊,总需求多 10 件:有可能是第一天多了 5 件,第二天多了 3 件,第三天多了 2 件;也有可能是第一天多了 1 件,第二天多了 3 件,第三天多了 6 件……可能的情况多了去了。不出意外的话,甲方这时候就会问了,在这么多的情况中,你能不能告诉我哪一种的可能性最高呢?你不是概率分布预测吗?算算概率呗。

甲方有这样的需求无疑是十分合理的,作为乙方我们没有理由不去满足。为此,我们需要求解一个最大化条件概率的问题。

问题

考虑一组独立的随机变量 X1,X2,⋯,XnX_1, X_2, \cdots, X_nX1​,X2​,⋯,Xn​,它们各自所服从的概率分布已知。

X=(X1,X2,⋯,Xn)Z=∑i=1nXiX = (X_1, X_2, \cdots, X_n)\\ Z = \sum_{i=1}^{n} X_i X=(X1​,X2​,⋯,Xn​)Z=i=1∑n​Xi​
给定一个数 zzz,求使得条件概率 P(X=x⃗∣Z=z)P(X=\vec x|Z=z)P(X=x∣Z=z) 最大的 x⃗\vec xx 的取值,即
x⃗∗=max⁡x⃗P(X=x⃗∣Z=z)\vec x^* = \max_{\vec x} P(X=\vec x|Z=z) x∗=xmax​P(X=x∣Z=z)

求解

我们用 fi(xi)f_i(x_i)fi​(xi​) 表示随机变量 XiX_iXi​ 的概率密度函数或概率质量函数,则
P(X=x∣Z=z)∝fn(z−∑i=1n−1xi)⋅∏i=1n−1fi(xi)≡g(x1,x2,⋯,xn−1)\begin{aligned} P(X=x|Z=z) &\propto f_n\left(z-\sum_{i=1}^{n-1}x_i\right)\cdot\prod_{i=1}^{n-1}f_i(x_i)\\ &\equiv g(x_1, x_2, \cdots, x_{n-1}) \end{aligned} P(X=x∣Z=z)​∝fn​(z−i=1∑n−1​xi​)⋅i=1∏n−1​fi​(xi​)≡g(x1​,x2​,⋯,xn−1​)​
定义
η(x)=f′(x)f(x)\eta(x) =\frac{f'(x)}{f(x)} η(x)=f(x)f′(x)​

∂g∂xi=0=−fn′(z−∑j=1n−1xj)⋅∏j=1n−1fj(xj)+fn(z−∑j=1n−1xj)⋅∏j=1,j≠in−1fj(xj)⋅fi′(xi)=−ηn(z−∑j=1n−1xj)⋅fn(z−∑j=1n−1xj)⋅∏j=1n−1fj(xj)+fn(z−∑j=1n−1xj)⋅∏j=1,j≠in−1fj(xj)⋅fi(xi)⋅ηi(xi)=g⋅(−ηn(z−∑j=1n−1xj)+ηi(xi))\begin{aligned} \frac{\partial g}{\partial x_i} &= 0\\ &= -f_n'\left(z-\sum_{j=1}^{n-1}x_j\right)\cdot\prod_{j=1}^{n-1}f_j(x_j) + f_n\left(z-\sum_{j=1}^{n-1}x_j\right)\cdot\prod_{j=1, j\neq i}^{n-1}f_j(x_j)\cdot f_i'(x_i)\\ &= -\eta_n\left(z-\sum_{j=1}^{n-1}x_j\right)\cdot f_n\left(z-\sum_{j=1}^{n-1}x_j\right)\cdot\prod_{j=1}^{n-1}f_j(x_j) + f_n\left(z-\sum_{j=1}^{n-1}x_j\right)\cdot\prod_{j=1, j\neq i}^{n-1}f_j(x_j)\cdot f_i(x_i)\cdot\eta_i(x_i)\\ &= g\cdot(-\eta_n\left(z-\sum_{j=1}^{n-1}x_j\right) + \eta_i(x_i)) \end{aligned} ∂xi​∂g​​=0=−fn′​(z−j=1∑n−1​xj​)⋅j=1∏n−1​fj​(xj​)+fn​(z−j=1∑n−1​xj​)⋅j=1,j​=i∏n−1​fj​(xj​)⋅fi′​(xi​)=−ηn​(z−j=1∑n−1​xj​)⋅fn​(z−j=1∑n−1​xj​)⋅j=1∏n−1​fj​(xj​)+fn​(z−j=1∑n−1​xj​)⋅j=1,j​=i∏n−1​fj​(xj​)⋅fi​(xi​)⋅ηi​(xi​)=g⋅(−ηn​(z−j=1∑n−1​xj​)+ηi​(xi​))​

ηi(xi)=ηn(z−∑j=1n−1xj)\eta_i(x_i) = \eta_n\left(z-\sum_{j=1}^{n-1}x_j\right) ηi​(xi​)=ηn​(z−j=1∑n−1​xj​)
也就是说,原问题的解 x⃗∗=(x1,x2,⋯,xn)\vec x^*=(x_1, x_2, \cdots,x_n)x∗=(x1​,x2​,⋯,xn​) 满足
{x1+x2+⋯+xn=zη1(x1)=η2(x2)=⋯=ηn(xn)\begin{cases} x_1 + x_2 + \cdots + x_n = z\\ \eta_1(x_1)=\eta_2(x_2)=\cdots=\eta_n(x_n) \end{cases} {x1​+x2​+⋯+xn​=zη1​(x1​)=η2​(x2​)=⋯=ηn​(xn​)​
对于正态分布,有
η(x)=μ−xσ2\eta(x) = \frac{\mu-x}{\sigma^2} η(x)=σ2μ−x​
如果随机变量 X1,X2,⋯,XnX_1, X_2, \cdots, X_nX1​,X2​,⋯,Xn​ 均服从正态分布,则只需要求解线性方程组
[11⋯11−1/σ120⋯01/σn20−1/σ22⋯01/σn2⋮⋮⋱⋮⋮00⋯−1/σn−121/σn2][x1x2x3⋮xn]=[zμn/σn2−μ1/σ12μn/σn2−μ2/σ22⋮μn/σn2−μn−1/σn−12]\left[ \begin{matrix} 1 & 1 & \cdots & 1 & 1\\ -1/\sigma_1^2 & 0 & \cdots & 0 & 1/\sigma_n^2\\ 0 & -1/\sigma_2^2 & \cdots & 0 & 1/\sigma_n^2\\ \vdots & \vdots & \ddots & \vdots & \vdots\\ 0 & 0 & \cdots & -1/\sigma_{n-1}^2 & 1/\sigma_n^2 \end{matrix} \right] \left[ \begin{matrix} x_1\\x_2\\x_3\\\vdots\\x_n \end{matrix} \right]= \left[ \begin{matrix} z\\ \mu_n/\sigma_n^2-\mu_1/\sigma_1^2\\ \mu_n/\sigma_n^2-\mu_2/\sigma_2^2\\ \vdots\\ \mu_n/\sigma_n^2-\mu_{n-1}/\sigma_{n-1}^2\\ \end{matrix} \right] ⎣⎢⎢⎢⎢⎢⎡​1−1/σ12​0⋮0​10−1/σ22​⋮0​⋯⋯⋯⋱⋯​100⋮−1/σn−12​​11/σn2​1/σn2​⋮1/σn2​​⎦⎥⎥⎥⎥⎥⎤​⎣⎢⎢⎢⎢⎢⎡​x1​x2​x3​⋮xn​​⎦⎥⎥⎥⎥⎥⎤​=⎣⎢⎢⎢⎢⎢⎡​zμn​/σn2​−μ1​/σ12​μn​/σn2​−μ2​/σ22​⋮μn​/σn2​−μn−1​/σn−12​​⎦⎥⎥⎥⎥⎥⎤​
即可得到 x⃗∗\vec x^*x∗。

遗憾的是,销量通常并不服从正态分布。我们来考虑一下销量预测中常用的分布形式。

  • 对于泊松分布,有
    η(x)=ln⁡λ−ψ(x+1)\eta(x) = \ln\lambda - \psi(x+1) η(x)=lnλ−ψ(x+1)

  • 对于二项分布,有
    η(x)=ψ(n−x+1)−ψ(x+1)+ln⁡p1−p\eta(x) = \psi(n-x+1) - \psi(x+1) + \ln\frac{p}{1-p} η(x)=ψ(n−x+1)−ψ(x+1)+ln1−pp​

  • 对于负二项分布,有
    η(x)=ψ(x+r)−ψ(x+1)+ln⁡p\eta(x) = \psi(x+r) - \psi(x+1) + \ln p η(x)=ψ(x+r)−ψ(x+1)+lnp

其中 ψ(x)\psi(x)ψ(x) 为 digamma 函数,定义为
ψ(x)=ddxln⁡(Γ(x))=Γ′(x)Γ(x)\psi(x) = \frac{\mathrm d}{\mathrm dx}\ln\left(\Gamma(x)\right)=\frac{\Gamma'(x)}{\Gamma(x)} ψ(x)=dxd​ln(Γ(x))=Γ(x)Γ′(x)​

对于这些分布,η(x)\eta(x)η(x) 都是非线性的,无法通过求解线性方程组的方式来计算 x⃗∗\vec x^*x∗。考虑到

  • 对于泊松分布,有
    η′(x)=−ψ1(x+1)<0\eta'(x) = -\psi_1(x+1) <0 η′(x)=−ψ1​(x+1)<0

  • 对于二项分布,有
    η′(x)=−ψ1(n−x+1)−ψ1(x+1)<0\eta'(x) = -\psi_1(n-x+1) - \psi_1(x+1) <0 η′(x)=−ψ1​(n−x+1)−ψ1​(x+1)<0

  • 对于负二项分布,有
    η′(x)=ψ1(x+r)−ψ1(x+1)<0ifr>1\eta'(x) = \psi_1(x+r) - \psi_1(x+1) <0\qquad if \quad r > 1 η′(x)=ψ1​(x+r)−ψ1​(x+1)<0ifr>1
    其中 ψ1(x)\psi_1(x)ψ1​(x) 为 trigamma 函数,定义为
    ψ1(x)=d2dx2ln⁡(Γ(x))=ddxψ(x)\psi_1(x) = \frac{\mathrm d^2}{\mathrm dx^2}\ln\left(\Gamma(x)\right)=\frac{\mathrm d}{\mathrm dx}\psi(x) ψ1​(x)=dx2d2​ln(Γ(x))=dxd​ψ(x)

也就是说这些分布的 η(x)\eta(x)η(x) 都是单调递减的。因此只要令
ηmin=max⁡(η1(z),η2(z),⋯,η2(z))ηmax=max⁡(η1(zn),η2(zn),⋯,η2(zn))\begin{aligned} \eta_{min} &= \max\left(\eta_1\left(z\right), \eta_2\left(z\right), \cdots, \eta_2\left(z\right)\right)\\ \eta_{max} &= \max\left(\eta_1\left(\frac zn\right), \eta_2\left(\frac zn\right), \cdots, \eta_2\left(\frac zn\right)\right) \end{aligned} ηmin​ηmax​​=max(η1​(z),η2​(z),⋯,η2​(z))=max(η1​(nz​),η2​(nz​),⋯,η2​(nz​))​
就可以使用二分法求得 η∗∈[ηmin,ηmax]\eta^*\in[\eta_{min}, \eta_{max}]η∗∈[ηmin​,ηmax​],使得
∑i=1nxi∗=∑i=1nηi−1(η∗)=z\sum_{i=1}^{n}x_i^*=\sum_{i=1}^{n}\eta_i^{-1}(\eta^*) = z i=1∑n​xi∗​=i=1∑n​ηi−1​(η∗)=z
从而求得 x⃗∗\vec x^*x∗。如下图所示。

这里的问题在于我们并不知道 η(x)\eta(x)η(x) 的反函数 η−1(y)\eta^{-1}(y)η−1(y) 的解析形式。好在同样可以使用二分法来求解(其实我原本用的是牛顿法,但实验中发现存在一些难以收敛的情况,故改用二分法)。

代码

from abc import ABC, abstractmethodimport numpy as np
from scipy.stats import norm, poisson, binom, nbinom
from scipy.special import digammaclass Distribution(ABC):"""概率分布基类"""@property@abstractmethoddef mu(self):"""概率分布的期望"""raise NotImplementedError()@abstractmethoddef quantile(self, q):"""概率分布的 q 分位数"""raise NotImplementedError()@abstractmethoddef eta(self, x):"""$\eta(x)$"""raise NotImplementedError()def ieta(self, y, x_min, x_max):"""$\eta^{-1}(y)$"""# 默认使用二分法求解while True:x_mid = (x_min + x_max) / 2diff = self.eta(x_mid) - yif np.abs(diff) <= 1e-6:breakif diff > 0:x_min = x_midelse:x_max = x_midif x_max == x_min:raise ValueError('Unable to solve')return x_midclass Normal(Distribution):"""正态分布"""def __init__(self, mu, sigma):super().__init__()self._mu = muself._sigma = sigma@propertydef mu(self):return self._mudef quantile(self, q):return norm.ppf(q=q, loc=self._mu, scale=self._sigma)def eta(self, x):return (self._mu - x) / self._sigma ** 2def ieta(self, y, x_mid=None, x_max=None):# 用解析解法覆盖父类的数值解法return self._mu - y * self._sigma ** 2class Poisson(Distribution):"""泊松分布"""def __init__(self, mu):super().__init__()self._mu = mu@propertydef mu(self):return self._mudef quantile(self, q):return poisson.ppf(q=q, mu=self._mu)def eta(self, x):return np.log(self._mu) - digamma(x + 1)class Binomial(Distribution):"""二项分布"""def __init__(self, n, p):super().__init__()self._n = nself._p = p@propertydef mu(self):return self._n * self._pdef quantile(self, q):return binom.ppf(q=q, n=self._n, p=self._p)def eta(self, x):return digamma(self._n - x + 1) - digamma(x + 1) + np.log(self._p/(1 - self._p))def ieta(self, y, x_min, x_max):return super().ieta(y, x_min, min(x_max, self._n))class NegativeBinomial(Distribution):"""负二项分布"""def __init__(self, r, p):super().__init__()self._r = rself._p = p@propertydef mu(self):return self._r * self._p / (1 - self._p)def quantile(self, q):# 我们将负二项分布定义为成功概率为 p 的伯努利试验失败 r 次时成功次数所服从的分布# 而 scipy 中的定义则是成功概率为 p 的伯努利试验成功 r 次时失败次数所服从的分布# 因此在调用 scipy 中的相关函数时需要注意转换return nbinom.ppf(q=q, n=self._r, p=1-self._p)def eta(self, x):return digamma(x + self._r) - digamma(x + 1) + np.log(self._p)def max_posterior(distrs, z):"""用二分法求解使条件概率 $P(X=\vec x|Z=z)$ 最大的 $\vec_x^*$Parameters----------distrs : List<Distribution>概率分布列表z : float总和的目标值 $z$Returns-------List<float>$\vec_x^*$"""n = len(distrs)e_max = max(d.eta(z/n) for d in distrs)e_min = max(d.eta(z) for d in distrs)while True:e_mid = (e_min + e_max) / 2xs = [d.ieta(e_mid, 0, z) for d in distrs]z_hat = sum(xs)if np.abs(z_hat - z) <= 1e-2:breakif z_hat < z:e_max = e_midelse:e_min = e_midif e_max - e_min < 1e-6:raise ValueError('Unable to solve')return xs

我们用一个可以解析求解的例子来验证一下代码。设 X1∼N(0,12)X_1\sim N(0, 1^2)X1​∼N(0,12),X2∼N(0,42)X_2\sim N(0, 4^2)X2​∼N(0,42),z=5z=5z=5。根据前面的推导,只需要求解线性方程组:
[11−11/16][x1x2]=[50]\left[ \begin{matrix} 1 & 1\\ -1 & 1/16 \end{matrix} \right] \left[ \begin{matrix} x_1\\x_2 \end{matrix} \right]= \left[ \begin{matrix} 5\\0 \end{matrix} \right] [1−1​11/16​][x1​x2​​]=[50​]
用高斯消元法解得 x1=5/17x_1=5/17x1​=5/17、x2=80/17x_2=80/17x2​=80/17。我们来看看数值解:

>>> distrs = [Normal(0, 1), Normal(0, 4)]
>>> print(max_posterior(distrs, 5))
[0.294189453125, 4.70703125]
>>>
>>> print(5/17)
0.29411764705882354
>>>
>>> print(80/17)
4.705882352941177

可以看到,数值解法给出了与解析解非常接近的结果。

最后用一个复杂的例子直观地感受一下效果:

distrs = [Poisson(20),Poisson(19),Poisson(18),Poisson(19),Binomial(40, 0.2),Binomial(45, 0.25),NegativeBinomial(60, 0.3),NegativeBinomial(60, 0.25),Poisson(21),Poisson(20)
]

附录

附上 η(x)\eta(x)η(x) 的推导供感兴趣的同学参考。

  • 首先是正态分布,有
    f(x)=1σ2πexp⁡(−(x−μ)22σ2)f(x) = \frac{1}{\sigma\sqrt 2 \pi}\exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right) f(x)=σ2​π1​exp(−2σ2(x−μ)2​)

    η(x)=f′(x)f(x)=ddxln⁡f(x)=ddx(ln⁡1σ2π−(x−μ)22σ2)=ddx(−(x−μ)22σ2)=μ−xσ2\begin{aligned} \eta(x) &= \frac{f'(x)}{f(x)}\\ &= \frac{\mathrm d}{\mathrm dx}\ln f(x)\\ &= \frac{\mathrm d}{\mathrm dx}\left(\ln\frac{1}{\sigma\sqrt 2 \pi}-\frac{(x-\mu)^2}{2\sigma^2}\right)\\ &= \frac{\mathrm d}{\mathrm dx}\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)\\ &= \frac{\mu-x}{\sigma^2} \end{aligned} η(x)​=f(x)f′(x)​=dxd​lnf(x)=dxd​(lnσ2​π1​−2σ2(x−μ)2​)=dxd​(−2σ2(x−μ)2​)=σ2μ−x​​

  • 其次是泊松分布,有
    f(x)=e−λλxx!=e−λλxΓ(x+1)f(x) = \frac{\mathrm e^{-\lambda}\lambda^x}{x!} = \frac{\mathrm e^{-\lambda}\lambda^x}{\Gamma(x+1)} f(x)=x!e−λλx​=Γ(x+1)e−λλx​

    η(x)=f′(x)f(x)=ddxln⁡f(x)=ddx(−λ+xln⁡λ−ln⁡Γ(x+1))=ln⁡λ−ddxln⁡Γ(x+1)=ln⁡λ−ψ(x+1)\begin{aligned} \eta(x) &= \frac{f'(x)}{f(x)}\\ &= \frac{\mathrm d}{\mathrm dx}\ln f(x)\\ &= \frac{\mathrm d}{\mathrm dx}\left(-\lambda+x\ln\lambda-\ln\Gamma(x+1)\right)\\ &= \ln\lambda-\frac{\mathrm d}{\mathrm dx}\ln\Gamma(x+1)\\ &= \ln\lambda-\psi(x+1) \end{aligned} η(x)​=f(x)f′(x)​=dxd​lnf(x)=dxd​(−λ+xlnλ−lnΓ(x+1))=lnλ−dxd​lnΓ(x+1)=lnλ−ψ(x+1)​

  • 接着是二项分布,有
    f(x)=(nx)px(1−p)n−x=n!x!(n−x)!px(1−p)n−x=Γ(n+1)Γ(x+1)Γ(n−x+1)px(1−p)n−x\begin{aligned} f(x) & = \tbinom{n}{x}p^x(1-p)^{n-x}\\ &=\frac{n!}{x!(n-x)!}p^x(1-p)^{n-x}\\ &= \frac{\Gamma(n+1)}{\Gamma(x+1)\Gamma(n-x+1)}p^x(1-p)^{n-x} \end{aligned} f(x)​=(xn​)px(1−p)n−x=x!(n−x)!n!​px(1−p)n−x=Γ(x+1)Γ(n−x+1)Γ(n+1)​px(1−p)n−x​

    η(x)=f′(x)f(x)=ddxln⁡f(x)=ddx(ln⁡Γ(n+1)−ln⁡Γ(x+1)−ln⁡Γ(n−x+1)+xln⁡p+(n−x)ln⁡(1−p))=ddx(−ln⁡Γ(x+1)−ln⁡Γ(n−x+1)+xln⁡p−xln⁡(1−p))=−ddxln⁡Γ(n−x+1)−ddxln⁡Γ(x+1)+ln⁡p1−p=ψ(n−x+1)−ψ(x+1)+ln⁡p1−p\begin{aligned} \eta(x) &= \frac{f'(x)}{f(x)}\\ &= \frac{\mathrm d}{\mathrm dx}\ln f(x)\\ &= \frac{\mathrm d}{\mathrm dx}\left(\ln\Gamma(n+1)-\ln\Gamma(x+1)-\ln\Gamma(n-x+1)+x\ln p+(n-x)\ln (1-p)\right)\\ &= \frac{\mathrm d}{\mathrm dx}\left(-\ln\Gamma(x+1)-\ln\Gamma(n-x+1)+x\ln p-x\ln (1-p)\right)\\ &= -\frac{\mathrm d}{\mathrm dx}\ln\Gamma(n-x+1)-\frac{\mathrm d}{\mathrm dx}\ln\Gamma(x+1) + \ln\frac{p}{1-p}\\ &= \psi(n-x+1) - \psi(x+1) + \ln\frac{p}{1-p} \end{aligned} η(x)​=f(x)f′(x)​=dxd​lnf(x)=dxd​(lnΓ(n+1)−lnΓ(x+1)−lnΓ(n−x+1)+xlnp+(n−x)ln(1−p))=dxd​(−lnΓ(x+1)−lnΓ(n−x+1)+xlnp−xln(1−p))=−dxd​lnΓ(n−x+1)−dxd​lnΓ(x+1)+ln1−pp​=ψ(n−x+1)−ψ(x+1)+ln1−pp​​

  • 最后是负二项分布,有
    f(x)=(x+r−1x)px(1−p)r=(x+r−1)!x!(r−1)!px(1−p)r=Γ(x+r)Γ(x+1)Γ(r)px(1−p)r\begin{aligned} f(x) &= \tbinom{x+r-1}{x}p^x(1-p)^r\\ &=\frac{(x+r-1)!}{x!(r-1)!}p^x(1-p)^r\\ &=\frac{\Gamma(x+r)}{\Gamma(x+1)\Gamma(r)}p^x(1-p)^r\\ \end{aligned} f(x)​=(xx+r−1​)px(1−p)r=x!(r−1)!(x+r−1)!​px(1−p)r=Γ(x+1)Γ(r)Γ(x+r)​px(1−p)r​

    η(x)=f′(x)f(x)=ddxln⁡f(x)=ddx(ln⁡Γ(x+r)−ln⁡Γ(x+1)−ln⁡Γ(r)+xln⁡p+rln⁡(1−p))=ddx(ln⁡Γ(x+r)−ln⁡Γ(x+1)+xln⁡p)=ψ(x+r)−ψ(x+1)+ln⁡p\begin{aligned} \eta(x) &= \frac{f'(x)}{f(x)}\\ &= \frac{\mathrm d}{\mathrm dx}\ln f(x)\\ &= \frac{\mathrm d}{\mathrm dx}\left(\ln\Gamma(x+r)-\ln\Gamma(x+1)-\ln\Gamma(r)+x\ln p+r\ln (1-p)\right)\\ &= \frac{\mathrm d}{\mathrm dx}\left(\ln\Gamma(x+r)-\ln\Gamma(x+1)+x\ln p\right)\\ &= \psi(x+r) - \psi(x+1) + \ln p \end{aligned} η(x)​=f(x)f′(x)​=dxd​lnf(x)=dxd​(lnΓ(x+r)−lnΓ(x+1)−lnΓ(r)+xlnp+rln(1−p))=dxd​(lnΓ(x+r)−lnΓ(x+1)+xlnp)=ψ(x+r)−ψ(x+1)+lnp​

完。

参考文献

  • Normal distribution - Wikipedia
  • Poisson distribution - Wikipedia
  • Binomial distribution - Wikipedia
  • Negative binomial distribution - Wikipedia
  • Gamma function - Wikipedia
  • Digamma function - Wikipedia
  • Trigamma function - Wikipedia

一个最大化条件概率问题相关推荐

  1. 情报工程模型算法摘抄

    <面向专业领域的情报工程技术研究与实现>刘耀 工程化系统化思维下的情报工程应该具备以下功能:海量数据的获取和处理:构建专业化情报研究,科技评价等深层次解决方案 相似度模型 Word2Vec ...

  2. window对象提供的功能之窗口最大化

    实现窗口最大化的基本思路是:首先打开一个"中转"页面,在该页面中用window.open方法打开一个最大化的窗口,并且在该窗口中将父窗口关闭.实例如下: ex3.html: 代码 ...

  3. 《数学之美》第27章 期望最大化算法

    1 文本的自收敛分类 两种文本分类算法,即利用事先设定好的类别对新的文本进行分类,以及自底向上地将文本两两比较进行聚类的方法.这两种方法,多少都有一些局限性,比如前一种方法需要有事先设定好的类别和文本 ...

  4. 点融产品 VP 赵征宇:增长是一个探索人性的过程

    这篇文章是点融产品 VP 赵征宇先生在我们 2017 增长大会互联网金融专场的演讲内容,是非常实战的内容.点融将增长的方法论分为 "定义增长 - 最小化 - 衡量 - 最大化" 四 ...

  5. 详解 Benders 分解与一个算例的 python 代码

    听说过 benders 分解几年了,在生产管理.路径规划与选址问题中经常应用,一直没有细看,最近论文里面也见到,还是有必要了解一下它的基本思想与用法的. 目录 1. 基本思想 2. 线性规划模型与对偶 ...

  6. Qt QDcokWidget 最大化

    背景: Win8.1 64bit,VS 2013, Qt 5.3.0,要实现QDockWidget 的最大化,而Qt的QDcokWidget默认不提供最大化按钮.默认的QDcokWidget如下所示: ...

  7. 群响刘思毅:如何用 10 个月打造一个 3500 位操盘手的顶级社群

    群响刘思毅分享的关于如何做「群响」社群的创业经验,非常值得大家深入学习: 今天分享的主题,是「我们如何做群响」,这是我自己做群响 1 年以来的一个 亲历者说的的总结,我希望我在创立群响方面的战略上.运 ...

  8. 手把手教你写第一个Windows窗口

    第一个Windows窗口 效果展示 详细过程 设计窗口类 注册窗口类 创建窗口 显示窗口 更新窗口 消息循环 源代码 实用工具 图标制作软件 图标库 效果展示 第一个Windows窗口 详细过程 设计 ...

  9. Wi-Fi 6E:Wi-Fi的下一个伟大篇章

    目录 执行概述 Wi-Fi 6E为Wi-Fi带来了什么?​ Wi-Fi 6E:终于成为Wi-Fi的新领域了? Wi-Fi 6E接入类 标准电源(室内/室外) 低功率(室内) Wi-Fi 6E和6 GH ...

最新文章

  1. mysql 执行计划 什么用_简述MySQL的执行计划的作用及使用方法
  2. 线性时间选择问题——分治
  3. 天地图,js 4.0 api,简单调用,高手请绕行
  4. 【Java 网络编程】TCP 传输机制 ( 数据拆分 | 排序 | 顺序发送 | 顺序组装 | 超时重发 )
  5. ctf图片隐写之修改图片高度
  6. Pygame初始-模仿windows待机画面
  7. java监控对话框是否关闭_java – 检查是否可以安全地关闭对话框
  8. 一维小波变换的C++实现
  9. 导入导出oracle数据库表的dmp文件
  10. iptables 配置后连接不上数据库_CentOs中iptables配置允许mysql远程访问
  11. 【今日CV 计算机视觉论文速览 第106期】Fri, 26 Apr 2019
  12. 中国搜索 20 年:易守难攻、刚需不减!
  13. 蓝桥杯2015年第六届C/C++省赛A组第九题-垒骰子
  14. Oracle DB优化-如何看SQL的执行计划+收集表的统计信息
  15. 卡尔玛滤波的原理说明
  16. 简单编程(五)编程验证一下“角谷猜想”
  17. EasyGUI-6:文件目录和异常
  18. rabbitmq User can only log in via localhost
  19. 贴片电阻的封装、功率
  20. adb 安卓模拟器 进程端口_Android模拟器端口被占用问题的解决办法

热门文章

  1. 内网安装视频会议软件有几个步骤?
  2. Spring Boot教程(十七)属性配置文件详解(2)
  3. 滴水逆向学习笔记 -2-
  4. python进制间的转换
  5. HDU 3831 DICS
  6. 分析问题之三步走方法
  7. THz:随机湍流信道下THz无线LOS链路的性能研究
  8. 真正解决vbox不能为虚拟电脑打开一个新任务的解决方法
  9. Qt ——QSound播放wav格式音乐
  10. C++ cout输出中文信息乱码问题解决