2026-07-03 日报

主题: 召回规划与 LLM 数据工程:把静态流水线重构为可导航结构

标签: search-ranking · quantization · parameter-scaling · academic

📊 统计: 共 3 篇 · 精读 0 · 🏢 工业界 0 · 🎓 学术 3 · discriminative-rec 1 · llm 2

综述

今日共 3 篇论文,全部为学术工作,分布为判别式推荐召回 1 篇、LLM 2 篇。Planning over Matrix-Factorization MDPs（2607.02115）把 top-K 召回建模为 implicit-ALS 后验上的 MDP,用闭式 rank-one fold-in 做状态转移,在固定 CF embedding 上以一步前瞻或 horizon-K MCTS 超越静态 top-K 且无需重训,并发现单步前瞻即捕获大部分收益、收益依赖 cosine 而非内积相似度。HERMES（2607.02266）用 Learned Semantic Transform 加三级残差向量量化,把每篇文档一次性标注为粗到细的层级编码,将预训练数据配比从“选固定标签集”变为“在可复用粒度层级上导航”,并在 1B 参数、25B token 上验证不同粒度会暴露固定粒度流水线测不到的交互。合成数据 scaling 研究（2607.01727）把 scaling 拆成源扩展 SE 与固定源合成 FSS,隔离后发现大预算下加种子问题优于多采样,FSS 是一条有界轴。三篇共同指向一个方向:与其蛮力扩张,不如把静态、固定的流水线重构为结构化、可导航的设计空间——无论是召回的动态感知、预训练数据的粒度层级,还是合成数据的双轴解耦。

重点论文

Planning over Matrix-Factorization MDPs for Candidate Generation · ⭐ 6/10

🎓 学术 · 判别式推荐

将推荐召回的 top-K 检索建模为基于 implicit-ALS 后验 (A^{-1},u) 的 MDP，动作是选物品、状态转移用闭式 rank-one fold-in，在固定 CF embedding 上用一步前瞻或 horizon-K MCTS 做动态感知检索，无需重训即可超过静态 top-K。发现单步前瞻已捕获大部分收益，且收益依赖用 cosine 而非内积相似度。

HERMES · ⭐ 5/10

HERMES: A Multi-Granularity Labeling Substrate for Pre-training Data Mixtures

🎓 学术 · LLM

提出 HERMES，用 Learned Semantic Transform + 三级残差向量量化把每篇文档一次性标注为粗到细的层级编码（前缀长度控制粒度，约 13 万个 cell），把预训练数据配比设计从"选固定标签集"变成"在可复用、数据驱动的粒度层级上导航"。在 1B 参数、25B token 预训练上验证不同粒度会暴露固定粒度流水线无法测试的交互。

When Does Generating More Help? Disentangling Fixed-Source Synthesis from Source Expansion in Synthetic Data Scaling · ⭐ 4/10

🎓 学术 · LLM

把合成数据 scaling 拆成"源扩展(SE)"与"固定源合成(FSS)"两条轴，固定种子问题池与教师模型、只变每题采样预算来隔离 FSS，并把 rectified scaling law 适配到 FSS 上做外推预测。发现大预算下加种子问题优于多采样，FSS 是一条有界的 scaling 轴。

全部论文