2026-07-30 日报
主题: 生成式推荐的工业重构:解码结构与位置编码双线并进
标签: industrial · transformer · semantic-id · rl
📊 统计: 共 14 篇 · 精读 6 · 🏢 工业界 6 · 🎓 学术 8 · llm 2 · discriminative-rec 6 · generative-rec 4 · other 2
综述
当日 14 篇、6 篇精读,生成式推荐 4 篇、判别式 6 篇、LLM 2 篇、其他 2 篇,工业界论文主导。快手三篇分别打在生成式链路的不同层:Multi-Decoder OneRec 用共享基座加隔离 LoRA 专家与配额协同解码替换多路召回,巴西 A/B 十一项指标全正;DIRECTOR 把重排的逐位自回归换成一次并行生成连续检索索引,配容量约束最优传输与硬匹配去重,线上 VV 提升且 CPU 降六成;PSG 把生成原子升为有序物品对,解码步数减半并给出与物品空间的等价性证明。YouTube 与 Google DeepMind 的 ClockRoPE 则从更底层切入,借 Bochner 定理把 RoPE 的对数线性频率表推广成随机傅里叶旋转,从周期调制核采样频率来刻画用户作息,零新增参数上线且 TPU 成本下降。Instacart 与 Yandex 两篇务实报告分别给出蒸馏上线路径与“预训练图嵌入不值其成本”的负面结论。趋势是工业界同时从解码结构与表征几何两端压榨生成式推荐,并一律以线上成本收益说话。
重点论文
Multi-Decoder OneRec · ⭐ 8/10
🏢 Kuaishou · 生成式推荐
Multi-Decoder OneRec 用「共享表征 / 梯度路由隔离 / 配额协同解码」三段式替换工业多路召回:共享 user-context 与全参数化 General Decoder 之上,每个业务目标只挂一个隔离的 LoRA 专家(含独立 BOS 与 SID embedding 残差,仅 +20% 参数),曝光 NTP 更新共享基座、目标损失在 sg(θ₀) 处截断梯度,Watch-time 专家用用户内标准化连续奖励做 L-GBPO 并以 General Decoder 的 stop-gradient 分布做 KL 参考;推理侧 MD-CBS 按优先级执行各路线并屏蔽已被占用的 SID 前缀、General Decoder 最后回填固定预算,实测不协同会让 512 预算去重后只剩 207.67 个候选。同预算下四项 Recall@512 相对单 decoder OneRec 提升 1.69%–5.62%,Kwai Brazil 七天 A/B 十一项指标全正(人均使用时长 +0.37%、Cold-Start +2.09%),并开源十亿级多目标基准 Kwai26。
ClockRoPE · ⭐ 8/10
ClockRoPE: Random Fourier Rotations for Temporal Routine Modeling
🏢 Google · 生成式推荐
ClockRoPE 指出 RoPE 的 log-linear 频率调度把注意力调制锁死为单调长程衰减,用 Bochner/Herglotz 定理证明任意归一化连续正定调制核都能被「从其自身傅里叶变换采样频率」的随机旋转无偏逼近(Random Fourier Rotations,收敛速率关于特征维度 d 指数快),据此从周期高斯先验的离散谐波 PMF 采样得到 ClockRoPE,并用折叠频率分布额外换取方向感知(区分周期标记点前后一天);前向实现与标准 RoPE 逐行一致、零新增参数与输入特征,在某大型视频平台生产级生成式召回上离线 MAP@1 +3.61%,与 RoPE 特征对半组合后线上 valued engagement +0.08%,且主页浏览量 -0.51%、TPU 服务成本 -0.63%、延迟中性,已部署于主页与观看页。
DIRECTOR · ⭐ 8/10
DIRECTOR: Dynamic Index-based Recommendation with Transport-Optimized Retrieval
🏢 Kuaishou · 生成式推荐
DIRECTOR(快手)把生成式重排的逐位自回归解码整体换成「一次并行生成 n 个连续动态检索索引 + 全局硬匹配」,训练时用熵正则容量约束最优传输显式耦合各位置对候选容量的竞争、推理时用矩形最短增广路直接产出去重列表,并用前缀锚定的混合列表路径把黑盒 Evaluator 的单个标量奖励精确 telescoping 分解为逐位置信用,在 ML-1M/Amazon-Books/RecFlow 上 NDCG@6 较最强基线提升 2.80%-3.69%,快手主 App 线上 VV +0.519% 且同等 QPS/延迟/可用性约束下 CPU 消耗降低 66.7%。
PSG · ⭐ 7/10
PSG: Pair-Space Generation for Efficient Generative Reranking
🏢 Kuaishou · 生成式推荐
PSG 把生成式重排的生成原子从单个 item 提升到有序 item 对,用现场组合的 pair encoder 撑起 n(n-1) 的每请求动态词表,把自回归解码 horizon 从 L 压到 L/2,并证明该重参数化与 item-space 分布族严格等价(双射 + 望远镜相消)、在 outcome-only reward 下次优性上界因二次复合而降 4x、把串行 KV-cache 读取换成并行 output projection 从而理论加速 2-4x,在快手 4 亿 DAU 单列 feed 上取得 1.83x 生成器加速、单容器 QPS +79.8% 与人均停留时长 +0.178%。
全部论文
| 模型 | 标题 | 类别 | 公司 | 摘要分 | 精读分 |
|---|---|---|---|---|---|
| Multi-Decoder OneRec | Multi-Decoder OneRec: Controllable Generative Retrieval for Multi-Objective Industrial Recommendation | 生成式 | 🏢 Kuaishou | 9 | 8 |
| ClockRoPE | ClockRoPE: Random Fourier Rotations for Temporal Routine Modeling | 生成式 | 8 | 8 | |
| DIRECTOR | DIRECTOR: Dynamic Index-based Recommendation with Transport-Optimized Retrieval | 生成式 | 🏢 Kuaishou | 8 | 8 |
| PSG | PSG: Pair-Space Generation for Efficient Generative Reranking | 生成式 | 🏢 Kuaishou | 8 | 7 |
| — | Improving Item Discoverability in e-Commerce Search via Related Intent Generation | LLM | 🏢 Instacart | 7 | 6 |
| — | Embedding Items at Scale: Comparing GNN-Based and ID-Based Item Embeddings in the Yandex Ecosystem | 判别式 | 🏢 Yandex | 7 | 6 |
| PSD | Learning from the Future: Privileged Self-Distillation for Sequential Recommendation | 判别式 | 🎓 学术 | 7 | — |
| IMFuse | IMFuse: Instance-Aware Multi-Layer Fusion for LLM-Enhanced Sequential Recommendation | 判别式 | 🎓 学术 | 6 | — |
| — | Which RAG Paradigm Wins at Scale? A Scaling Study of Retrieval-Augmented Generation Paradigms | LLM | 🎓 学术 | 6 | — |
| NMKFR | NMKFR: A Robust Framework for Time-Aware Cold-Start Recommendation | 判别式 | 🎓 学术 | 5 | — |
| CaIRec | CaIRec: Calibrated Modality Imputation for Incomplete Multimodal Recommendation | 判别式 | 🎓 学术 | 5 | — |
| — | Continuous Online Evaluation of Recommendation Strategies in Social Science Academic Search | 其他 | 🎓 学术 | 4 | — |
| OPAB | Actions Have Consequences: Detecting Outcome Performativity using Intervention Testing | 其他 | 🎓 学术 | 4 | — |
| Kairos | Kairos: Numerically Robust News Recommendation under Item Cold-Start via Cholesky-based LinUCB | 判别式 | 🎓 学术 | 4 | — |