ctr 平滑_CTR平滑的原理，包懂！！！附代码

为什么需要平滑？

某个物品CTR(click-Through-Rate)定义为“物品被点击的概率”。CTR是某个物品在其他条件保持不变下自身的属性。但是概率我们不好确定，能确定的是频率。根据大数定理，随着实验次数的增加，频率会逐渐稳定到概率附近。所以我们用一般物品被点击的频率

$\frac{Click}{Imp}$ 来表示它的CTR，即

$CTR=\frac{Click}{Imp}$ (公式1)

我们当然希望CTR越大越好，由上面的公式我们可知CTR的大小实际上由两部分决定。首先是展示的次数，英文里用了impression，直译为给人留下的印象，我们可以理解为曝光并且被用户看到，是有效的曝光。其次是被点击的次数。如果有一件物品a 曝光了1次，并且被点了，那它的CTR就是100%。而另外一件物品b曝光了1000次，被点击了100次，它的CTR就是10%。那我们能说物品a的CTR比物品b的CTR更高吗？显然不能，一次被曝光并且被点击，这其中包含了很大的不确定性。根据大数定律，在实验次数不断增加下，频率才会稳定在概率附近。显示CTR等于100%这个数据，只是在一次实验中得到，它偏离真实CTR的可能性非常高。

那么怎么能获得更可靠的结论呢？一种显然的想法是提高物品a的曝光，增大实验次数，让频率更接近概率。但是大多数时候曝光不是你想增加，增加就能增加的。

指数平滑

另外一种朴素的想法是我们假定物品的CTR在一定时间内是不变的，我们可以利用历史的数据来修正今天的CTR。今天的CTR实际上CTR的观测值。根据这个思路我们首先想到了指数平滑

$\begin{align} CTR_{t} & = p*CTR_{t-1} + (1-p)\frac{Click}{Imp} \\ & = \sum_{T=1}^{t}p^{t-T}\frac{Click_{T}}{Imp_{T}} \\ \end{align}$ (公式2)

可以看出来随着时间的推移，历史的信息在很快的衰减。

为什么利用beta分布得到的结果是

$\frac{\alpha+C-1}{\alpha+\beta+I-2}$

beta分布是在0-1之间beta分布的概率密度函数

我们假设某件物品的CTR服从参数为

$\alpha和\beta$ 的beta分布，即有

$CTR _{r} \sim Beta(\alpha,\beta)$

$p(r|\alpha,\beta) = \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}r^{\alpha-1}(1-r)^{\beta-1}$ (公式3)

那么每次曝光可以看成从服从

$\alpha$ 和

$\beta$ 的beta分布里的一次随机抽样。显然被点击的次数服从参数为

$I$ 和r的n重伯努利分布，其中

$I$ 和r都是已知条件

$C \sim Binomial(I,r),P(C|I,r)= \dbinom{I}{C}r^{C}(1-r)^{I-C}$ (公式4)

曝光

$Imp$ 和点击率是独立的，

$p(I,r)=p(I)*p(r)$ (公式5)

明确我们的目标是要求在已知曝光

$Imp$ 和点击

$Click$ 下点击率

$r$ 的估计，根据贝叶斯公式

$\begin{align} p(r|I,C) & = \frac{p(r,I,C)}{p(I,C)} \\ & = \frac{p(C|I,r)*p(I,r)}{p(I,C)} \\ & = \frac{p(C|I,r)*p(r)*p(I)}{\int_{0}^{1} p(C|I,r)*p(I)*p(r)\, dr}\\ & = \frac{p(C|I,r)*p(r)}{{\int_{0}^{1} p(C|I,r)*p(r)\, dr}} \\ &= \frac{\binom{I}{C}r^{C}(1-r)^{I-C}*\frac{1}{B(\alpha,\beta)}r^{\alpha-1}(1-r)^{\beta-1}}{\int_0^1 \binom{I}{C}r^{C}(1-r)^{I-C}*\frac{1}{B(\alpha,\beta)}r^{\alpha-1}(1-r)^{\beta-1}\,dr} \\ &=\frac{r^{C+\alpha-1}(1-r)^{I+\beta-C-1}}{B(C+\alpha,I+\beta-C)} \\ &= Beta(r|C+\alpha,I+\beta+C) \end{align}$ (公式6)

其中B表示Beta函数，可见新的点击率也服从Beta分布，当我们得到

$\alpha和\beta$ 之后，就可以确定点击率的分布了。

对于参数为

$\alpha和\beta$ 的Beta分布的它的众数是

$\frac{\alpha-1}{\alpha+\beta-2}$ ,它的平均数是

$\frac{\alpha}{\alpha+\beta}$ 。所以我们可以拿

$\frac{\alpha+C-1}{\alpha+\beta+I-2}$ 或者

$\frac{\alpha+C}{\alpha+\beta+I}$ 来作为平滑之后的CTR.

如何计算

$\alpha和\beta$ ？

假设我们拥有的是时间序列格式的数据,每天点击数独立同分布，所以有如下的概率密度函数，根据极大似然估计的原理。我们使下式取到最大值

$\begin{align} p(C_1,...,C_T|I_1,...,I_T,\alpha,\beta) & = \prod_{i=1}^T p(C_i|I_i,\alpha,\beta) \\ & =\prod_{i=1}^T \int_0^1 \,p(C_i,r_i|I_i,\alpha,\beta)dr_i \\ &=\prod_{i=1}^T\int_0^1 p(C_i|I_i,r_i)p(r_i|\alpha,\beta)\,dr_i \\ & =\prod_{i=1}^T\int_0^1\binom{I_i}{C_i}r^{C_i}(1-r)^{I_i-C_i}\frac{1}{B(\alpha,\beta)}r^{\alpha-1}(1-r)^{\beta-1}\,dr_i \\ &= \prod_{i=1}^T\binom{I_i}{C_i}\frac{B(C_i+\alpha,I_i-C_i+\beta)}{B(\alpha,\beta)} \end{align}$ (公式7)

上式对

$\alpha和\beta$ 求导有

$\frac{d\log P(C_1,C_2,..,C_N|I_1,I_2,..,I_N)}{d\alpha}=\sum_{i=1}^{N}[\Psi(\alpha+\beta)-\Psi(I_i+\alpha+\beta)+\Psi(C_i+\alpha)-\Psi(\alpha)]$

$\frac{d\log P(C_1,C_2,..,C_N|I_1,I_2,..,I_N)}{d\beta}=\sum_{i=1}^{N}[\Psi(\alpha+\beta)-\Psi(I_i+\alpha+\beta)+\Psi(I_i-C_i+\beta)-\Psi(\beta)]$

其中

$\Psi(x)=\frac{d}{dx}\ln\Gamma(x)$

对

$\alpha和\beta$ 迭代求解

$\alpha_{new}=\alpha\frac{\sum_{i=1}^N[\Psi(C_i+\alpha)-\Psi(\alpha)]}{\sum_{i=1}^N[\Psi(I_i+\alpha+\beta)-\Psi(\alpha+\beta)]}$

$\beta_{new}=\beta\frac{\sum_{i=1}^N[\Psi(I_i-C_i+\beta)-\Psi(\beta)]}{\sum_{i=1}^N[\Psi(I_i+\alpha+\beta)-\Psi(\alpha+\beta)]}$

import scipy.special as special

def update(clicks,imps,init_alpha,init_beta,epoches,epsilon):

assert len(clicks) == len(imps), print("length not equal")

alpha, beta = init_alpha, init_beta

last_alpha = last_beta = 0

for i in range(epoches):

normalization = sum([special.digamma(imps[i]+alpha+beta) - special.digamma(alpha+beta) for i in range(len(clicks))])

alpha = alpha * (1/normalization) * sum([special.digamma(clicks[i] + alpha)-special.digamma(alpha) for i in range(len(clicks))])

beta = beta * (1/normalization) * sum([special.digamma(imps[i]-clicks[i]+beta)-special.digamma(beta) for i in range(len(clicks))])

if abs(last_alpha - alpha)

break

last_alpha = alpha

last_beta = beta

return alpha,beta

写在最后

计算

$\alpha和\beta$ 时用到的极大似然函数也可以用我们在推导平滑CTR用到的公式6，最后对

$\alpha和\beta$ 的迭代求求我也没太搞清楚，有兴趣的朋友可以看下第一个参考文献。

参考文献

Environmental I S . Click-Through Rate Estimation for Rare Events in Online Advertising[J]. Online Multimedia Advertising Techniques & Technologies, 2011.

ctr 平滑_CTR平滑的原理，包懂！！！附代码相关推荐

辗转相除法求最大公约数原理分析（附代码实现）
辗转相除法求最大公约数原理分析(附代码实现) 前言解释原理分析代码结语前言辗转相除法用起来很简单,但是其原理却自己想不明白.于是乎看了几篇有关辗转相除法原理的分析,在这里自己写下自己的理解 ...
AlphaGoZero 原理讲解（附代码）
AlphaGoZero 原理讲解前言一.AlphaGoZero 棋盘编码器二.AlphaGoZero树搜索算法 1. 树节点及其动作分支 2. 选择要探索的动作分支 3. 扩展搜索树 4. 选择 ...
ctr 平滑_ctr平滑
在广告系统中,一个重要的指标是CTR.ctr=点击(Click)/曝光(Impression). 如果一个广告只有5次曝光,没有点击,是否表示它的ctr为0? 如果一个广告曝光了4次,却有3次点击,它 ...
ctr 平滑_CTR平滑方法
一.Beta分布从统计机器学习角度上讲,对于某个事件发生的概率,我们一般会假设其服从某一种先验分布. 举个例子,在棒球里可以把击球当做随机事件,只有击中和没击中两种状态,衡量棒球运动员职业技能的一个 ...
matlab 平滑曲线连接_平滑轨迹插值方法之多项式插值（附代码）
前言今天我们来聊聊轨迹插值,在机器人的运动规划和控制领域,参考轨迹的生成是一个历史悠久的问题,已经发展出了一系列的方法.今天我们就来聊一聊轨迹插值领域中最常见的轨迹插值方法:多项式插值. 说明:本文 ...
独家 | creditR 的基于实践的导论：一个神奇的改良信用风险评分和验证的R包（附代码）...
作者:Ayhan Dis 翻译:张睿毅校对:丁楠雅本文约3200字,建议阅读10+分钟. 本文介绍了关于creditR包的相关基础知识,并通过使用creditR深入研究一个全面的例子进行实际操作. ...
数据分析常用的python包_量化投资数据分析之常用的python包（附代码）
小伙伴们都知道python功能强大,在金融量化分析中运用广泛,python常用的数据分析包很多,下面先给大家简单列举一些(如果您刚开始学python觉得这东西很烦看不懂,那么请不要担心,直接忽视跳到第 ...
量化投资数据分析之常用的python包（附代码）
小伙伴们都知道python功能强大,在金融量化分析中运用广泛,python常用的数据分析包很多,下面先给大家简单列举一些(如果您刚开始学python觉得这东西很烦看不懂,那么请不要担心,直接忽视跳到第 ...
朴素贝叶斯算法和拉普拉斯平滑详细介绍及其原理详解
相关文章 K近邻算法和KD树详细介绍及其原理详解朴素贝叶斯算法和拉普拉斯平滑详细介绍及其原理详解决策树算法和CART决策树算法详细介绍及其原理详解线性回归算法和逻辑斯谛回归算法详细介绍及其原理详 ...

ctr 平滑_CTR平滑的原理，包懂！！！附代码

ctr 平滑_CTR平滑的原理，包懂！！！附代码相关推荐

最新文章

热门文章