AI上推荐之 FiBiNET模型(特征重要性选择与双线性特征交叉)

2024-06-10 07:03:28

1. 写在前面

从五月份的xdeepFM到现在，已经有一个多月的时间没有与推荐模型相关的paper了，说好的"小步快跑"呢？来到公司实习之后，更一直抽不出时间来更新这个系列。不过，最近这段时间，由于开始接触实际场景下的推荐小项目，而实习生的话一般要从模型上手，所以这一周终于又有了时间开始玩推荐模型，并进行相应的魔改。当然，来实习之后，从前辈们的以及周围伙伴的交流中悟出了一个真理，在推荐系统甚至其他领域(CV,NLP)等，模型都只是工具而已，遇到问题解决问题的方法和策略才是王道，那么我为啥还要坚持通过写博客的方式记录读过的模型论文，整理模型原理呢？这个问题之前也没有仔细想过，之前整理模型的原因，是为了梳理推荐系统模型发展脉络，方便入门推荐系统。可能有人会说，新模型paper每年那么多，怎么可能一个个的读然后尝试？感觉意义不大呀。emmm，首先，我现在的想法是肯定不会把每个模型都追一遍整理，其次，就是通过我前面的一些模型积累发现， 很多模型的思路和原理给我带来的价值比模型本身要大很多(不妨跳去局部，从全局去把握模型的发展脉络和思路)，并且很多东西，都是万变不离其宗，各种组件之间的重复调用，对于现在的我来说，整理模型并不是我最终的目的， 通过阅读paper，学习大佬们针对实际场景中遇到个问题，提出的解决方案才是我最想学的东西。并且，阅读完了一篇paper之后，如果不整理下的话，心理会很不踏实，没法检验自己的掌握程度。

所以我后面整理模型，也不是乱整理，一般是较为干净清爽的工业文章，读起来利落实在，还能解决自己的问题。基于两个原则：

从现在所面临的问题场景出发，然后读相关的论文，整理能解决我自身问题的模型思路和一些启发，这样的模型一般都是比较经典且工业常用的，这样还能通过看一些其他文章，把大佬们有价值的尝试思路也整理过来，比如今天整理的这篇文章。
经典且工业上常用，比如谈到多任务，最先想到的可能是MMOE，谈到多兴趣，可能会想到MIND等，这些模型在公司里都是些非常实用的模型，结构也不是很复杂。

所以整理模型，一是爱好所在，另一个是也能把知识进行融会贯通下，检验自己的掌握水平，这一块还得继续走着，下面开始

AI上推荐之 FiBiNET模型(特征重要性选择与双线性特征交叉)相关推荐

AI上推荐之 AutoInt模型(Transformer开始玩特征交互)
1. 写在前面这段时间做优化模型的事情,正好和特征交互有关系,这个也是推荐系统里面一直探索的一个方向,从浅层模型的FM, FFM, HOFM, FwFM到深层模型的DNN, PNN, NFM, AF ...
AI上推荐之 SDM模型(建模用户长短期兴趣的Match模型)
1. 写在前面今天整理的是SDM模型(Sequential Deep Matching Model),依然是阿里团队在2019年CIKM上的一篇paper.和MIND模型一样,是一种序列召回模型,研 ...
AI上推荐之 YouTubeDNN模型(工业界推荐系统的灯火阑珊)
1. 写在前面这个系列很久没有更新了, 主要是前段时间经历了一波秋招, 后面的方向可能稍微偏数据挖掘和cv多一些,所以向这两块又稍微延展了一下,没来得及看推荐相关的论文,这次借着和如意大佬整理fun ...
lightgbm 特征重要性选择 / 看所有特征哪个重要
print(pd.DataFrame({'column': feature_names,'importance': lgb_trained_model.feature_importance(),}). ...
AI上推荐之逻辑回归模型与GBDT+LR(特征工程模型化的开端)
1. 前言随着信息技术和互联网的发展, 我们已经步入了一个信息过载的时代,这个时代,无论是信息消费者还是信息生产者都遇到了很大的挑战: 信息消费者:如何从大量的信息中找到自己感兴趣的信息? 信息生产 ...
AI上推荐之 MMOE(多任务yyds)
1. 写在前面这篇文章开始多任务模型的学习,算是把多任务模型这块的坑填一下哈哈. 随着推荐技术的蓬勃发展,目前越来越多的推荐场景,往往并不是单纯的优化一个指标,比如: 视频推荐领域: 推荐排序任务不 ...
AI上推荐之 AFM与DIN模型（当推荐系统遇上了注意力机制）
1. 前言随着信息技术和互联网的发展, 我们已经步入了一个信息过载的时代,这个时代,无论是信息消费者还是信息生产者都遇到了很大的挑战: 信息消费者:如何从大量的信息中找到自己感兴趣的信息? 信息生产 ...
AI上推荐之基于内容的推荐(ContentBasedRecommend)
1. 前言随着信息技术和互联网的发展, 我们已经步入了一个信息过载的时代,这个时代,无论是信息消费者还是信息生产者都遇到了很大的挑战: 信息消费者:如何从大量的信息中找到自己感兴趣的信息? 信息生产 ...
AI上推荐之多任务loss优化(自适应权重篇)
1. 写在前面在多任务学习中,往往会将多个相关的任务放在一起来学习.例如在推荐系统中,排序模型同时预估候选的点击率和浏览时间.相对于单任务学习,多任务学习有以下优势: 多个任务共享一个模型,占用内存 ...
机器学习模型可解释性进行到底——特征重要性（四）
文章目录 1 四种全局可解释的方法论 1.1 过滤法 1.1.1 方差过滤方差过滤 1.1.2 相关性过滤 1.2 嵌入法 1.2.1 SelectFromModel - 筛选特征 1.2.2 Per ...

最新文章

热门文章