推荐算法
召回、排序、重排、序列推荐、多目标优化、生成式推荐
最新文章
RankMixer 用无参数的 Multi-Head Token Mixing(切分 head 后跨 Token 重组)替代平方复杂度的 Self-Attention 完成全局特征交互,再用 Per-token FFN 让每个特征子空间拥有独立参数、避免高频特征淹没长尾特征,并可扩展为 ReLU Routing + DTSI 的 Sparse-MoE 变体,用可堆叠矩阵乘架构大幅提升 GPU 利用率,实现推荐排序模型的低成本参数扩容。
AutoInt 通过多头自注意力机制显式建模特征间的交互,用残差连接保留原始信息、用堆叠层数控制交互阶数,在自动学习高阶特征组合的同时,借注意力权重提供可解释性。
通过门控网络来学习多个专家模型的权重,提高模型的多任务学习能力
通过多任务学习,同时学习ctr和cvr,在完整样本空间上进行训练,避免了传统CVR模型经常遭遇的样本选择偏差和训练数据稀疏的问题
DIN(深度兴趣网络)的核心原理在于引入局部激活机制(Local Activation)。 它改变了传统模型用固定向量粗暴压缩用户历史的行为,而是针对当前具体的候选广告,自适应地计算历史行为的注意力权重。候选广告与某个历史行为越相关,该行为被赋予的权重就越高,从而帮助模型精准提取出与当前广告匹配的局部用户兴趣。
DeepFM融合FM与DNN,采用并行双流架构,能自动捕获低阶与高阶特征交叉,两部分共享底层Embedding,无需人工特征工程,实现了高效、端到端的联合训练。
将协同过滤和深度学习结合,捕捉用户和物品的隐式联系和高阶特征
YouTube 深度神经网络推荐系统架构采用“召回+排序”的两阶段推荐:召回阶段将海量视频检索简化为“极端多分类”问题,引入 Example Age 特征消除时间偏置,通过高效近邻检索(ANN)粗滤出候选集;排序阶段则巧妙利用加权逻辑回归,将优化目标从点击率转化为“期望观看时长”,对候选视频进行精准打分。
将用户和物品的特征进行线性组合,并引入二次项来捕捉特征之间的交互关系
将用户行为矩阵分解为两个矩阵的乘积,通过用户向量和物品向量的内积来表示用户对物品的偏好
基于用户的协同过滤算法根据用户对物品的偏好,计算用户与其他用户的相似度,根据用户的相似度,推荐与用户兴趣相似的物品。基于物品的协同过滤算法根据物品之间的相似度,推荐与用户之前喜欢的物品相似的物品