2026-07-15 日报
主题: 工业界检索 Scaling、个性化瘦身与生成式训练信号扩展
标签: parameter-scaling · transformer · feature-interaction · semantic-id · industrial
📊 统计: 共 8 篇 · 精读 4 · 🏢 工业界 4 · 🎓 学术 4 · discriminative-rec 5 · generative-rec 3
综述
今日入选 8 篇(判别式 5 篇、生成式 3 篇),其中 4 篇工业界论文精读,头部平台(Pinterest / Instagram / 淘系 / 美团)集中发力。Pinterest 的 MESH 针对「异构 Scaling Bias」提出模块化架构+门控偏置校正,为稀疏内容开辟受保护梯度路径,使新鲜物品幂律 scaling 指数提升 14 倍,十亿级 Related Pins 上新鲜物品 repin +5.5%、吞吐 +2.87 倍。Meta 的 SlimPer 把 Instagram 判别式排序重构为对定长知识库的迭代 Select-Match-Refine 精炼,以 O(N) 每层成本把模型深度与用户历史长度解耦,同时提质提效。阿里天猫的 SAM 把购买视为意图终止信号,用双路交叉注意力驱动自适应饱和门控软掩码,把购后重复率降低 60% 以上并保持 SOTA 精度。美团的 NONTP 指出 NTP 训练信号存在时间与空间「局部性」缺陷,用 TCL、TDL 两个推理期零开销辅助目标扩展信号覆盖,四域数据 HR@10 较 NTP +34.3%、线上 GMV +2.1%。技术趋势上,工业界正沿检索 scaling 有效性、大模型瘦身与推理成本、长序列建模的负反馈/遗忘、以及生成式推荐训练信号增强四条主线深化,学术侧则聚焦潜在推理的深度与预算分配,值得持续关注。
重点论文
MESH · ⭐ 8/10
MESH: Scaling Up Retrieval with Heterogeneous Content Unification
🏢 Pinterest · 判别式推荐
提出 MESH——统一异构内容检索的扩展框架,针对「异构 Scaling Bias」(模型容量增益在不同内容层级上不均等)用模块化架构+门控偏置校正:将特征空间划分为独立域以减少稀疏物品信号与高频互动特征间的干扰,为稀疏内容开辟受保护梯度路径,使新鲜物品的幂律 scaling 指数提升 14 倍;在 Pinterest 十亿级 Related Pins 上线上新鲜物品 repin +5.5%、漏斗效率 +55%、留存 +0.46%,异步服务吞吐 +2.87 倍。
SlimPer · ⭐ 8/10
SlimPer: Make Personalization Model Slim and Smart
🏢 Meta · 判别式推荐
SlimPer 把工业判别式排序重构为对定长
知识库的迭代 Select-Match-Refine 精炼,每层直连原始用户侧 token、以 O(N) 每层成本把模型深度与用户历史长度解耦,并把 ROO 扩展到全部用户侧模态,在 Instagram Reels/Feed 全量部署同时提质提效。
SAM · ⭐ 7/10
🏢 Alibaba · 判别式推荐
SAM把购买视为意图终止信号,用双路交叉注意力(pointwise回溯抑制+个性化复购节奏检索)驱动的自适应饱和门控软掩码,配合Time-to-Next-Purchase自监督辅助任务,在Tmall电商CTR排序中把购后重复率降低60%以上同时保持SOTA精度。
NONTP · ⭐ 7/10
Not Only NTP: Extending Training Signal Coverage for Generative Recommendation
🏢 Meituan · 生成式推荐
提出 NONTP——指出 NTP 训练信号有「时间局部性」(只优化单步预测)与「空间局部性」(目标物品 embedding 只从紧邻隐状态收梯度)两大结构缺陷,用两个可推理期丢弃、零开销的辅助目标扩展信号覆盖:TCL 用 BYOL 式 EMA teacher+InfoNCE 把隐状态对齐到 K 步未来轨迹,TDL 均值池化跨域隐状态并经共享预测头预测、开辟第二条无参数梯度通路;四域美团工业数据集全量排序 HR@10 较 NTP +34.3%、较 MBGR +18.3%,公开 Amazon 数据 HR@10 +2.8%,线上 A/B CTR +1.8%、GMV +2.1%。
全部论文
| 模型 | 标题 | 类别 | 公司 | 摘要分 | 精读分 |
|---|---|---|---|---|---|
| MESH | MESH: Scaling Up Retrieval with Heterogeneous Content Unification | 判别式 | 8 | 8 | |
| SlimPer | SlimPer: Make Personalization Model Slim and Smart | 判别式 | 🏢 Meta | 7 | 8 |
| SAM | Learning to Forget: Satiation-Aware Long-Sequence Transducers for Mitigating Post-Purchase Redundancy | 判别式 | 🏢 Alibaba | 7 | 7 |
| NONTP | Not Only NTP: Extending Training Signal Coverage for Generative Recommendation | 生成式 | 🏢 Meituan | 7 | 7 |
| RecRec | RecRec: Latent Interests Recursive Reasoning for Sequential Recommendation | 生成式 | 🎓 学术 | 7 | — |
| IBA | Where Reasoning Matters: Rethinking Latent Reasoning in Semantic ID-based Generative Recommendation | 生成式 | 🎓 学术 | 7 | — |
| DANet | Cheaper is Better: A Discount-Aware Network for Conversion Rate Prediction in E-commerce Recommendation System | 判别式 | 🎓 学术 | 6 | — |
| — | ViHoRec: A Quality-Controlled Vietnamese Hotel Recommendation Dataset and Cold-Start Benchmark | 判别式 | 🎓 学术 | 4 | — |