【RS】在线更新RS：How to Retrain Recommendation System (SIGIR‘20)

How to Retrain Recommendation System (SIGIR’20)

模型

当今工业界更新推荐系统的痛点：
({Dm:m≤t},Wt−1)⟶get Wt⟵test Dt+1.\left(\left\{D_{m}: m \leq t\right\}, W_{t-1}\right) \stackrel{\text { get }}{\longrightarrow} W_{t} \stackrel{\text { test }}{\longleftarrow} D_{t+1} . ({Dm:m≤t},Wt−1)⟶ get Wt⟵ test Dt+1.
本文希望解决的问题：
(Dt,Wt−1)⟶get Wt⟵test Dt+1,\left(D_{t}, W_{t-1}\right) \stackrel{\text { get }}{\longrightarrow} W_{t} \stackrel{\text { test }}{\longleftarrow} D_{t+1}, (Dt,Wt−1)⟶ get Wt⟵ test Dt+1,
因此提出一个迁移组件：

其中Wt−1W_{t-1}Wt−1代表之前的推荐系统的参数，Wt^\hat{W_t}Wt^代表从新数据DtD_tDt中学出的推荐系统参数。迁移组件用来结合Wt−1W_{t-1}Wt−1和Wt^\hat{W_t}Wt^的知识，从而得到新推荐系统WtW_tWt。

模型经过Transfer模块后，输出还是模型参数。

训练方法

要分为两步训练，在时间ttt时，对应的DtD_tDt

Step 1 在DtD_tDt上学Wt^\hat{W_t}Wt^, θ\thetaθ固定

虽然是学Wt^\hat{W_t}Wt^，但是也要带着CNN的θ\thetaθ，为了让参数在同一个空间内：
Lr(W^t∣Dt‾)=L0(fΘ(Wt−1,W^t)∣Dt)+λ1∣∣W^t∥2L_{r}\left(\hat{W}_{t} \mid \overline{D_{t}}\right)=L_{0}\left(f_{\Theta}\left(W_{t-1}, \hat{W}_{t}\right) \mid D_{t}\right)+\lambda_{1}|| \hat{W}_{t} \|^{2} Lr(W^t∣Dt)=L0(fΘ(Wt−1,W^t)∣Dt)+λ1∣∣W^t∥2
其中L0L_0L0是推荐系统的loss（log loss或者BPR loss）。这时把θ\thetaθ、Wt−1W_{t-1}Wt−1当作常数。

Step 2 在Dt+1D_{t+1}Dt+1上学θ\thetaθ，Wt^\hat{W_t}Wt^固定

Ls(Θ∣Dt+1)=L0(fΘ(Wt−1,W^t)∣Dt+1)+λ2∣∣Θ∥2L_{s}\left(\Theta \mid D_{t+1}\right)=L_{0}\left(f_{\Theta}\left(W_{t-1}, \hat{W}_{t}\right) \mid D_{t+1}\right)+\lambda_{2}|| \Theta \|^{2} Ls(Θ∣Dt+1)=L0(fΘ(Wt−1,W^t)∣Dt+1)+λ2∣∣Θ∥2

测试和更新

在测试中，来一批新的数据Dt+1D_{t+1}Dt+1时，用推荐模型WtW_tWt测试。

紧接着先用Dt+1D_{t+1}Dt+1更新参数θ\thetaθ：Ls(Θ∣Dt+1)L_{s}\left(\Theta \mid D_{t+1}\right)Ls(Θ∣Dt+1)

然后用DtD_tDt更新Wt^\hat{W_t}Wt^：Lr(W^t∣Dt)L_{r}\left(\hat{W}_{t} \mid D_{t}\right)Lr(W^t∣Dt)，交替这两步。

最后再运行一次第四行，更新θ\thetaθ，计算得到新的Wt←fΘ(Wt−1,W^t)W_{t} \leftarrow f_{\Theta}\left(W_{t-1}, \hat{W}_{t}\right)Wt←fΘ(Wt−1,W^t)。

计算W^t+1\hat{W}_{t+1}W^t+1：Lr(W^t+1∣Dt+1)L_{r}\left(\hat{W}_{t+1} \mid D_{t+1}\right)Lr(W^t+1∣Dt+1)