← 返回报告列表

2026-08-05 日报

日报 📅 2026-08-04
语义 ID 下沉为系统骨架,扩散 MoE 立 scaling 律
semantic-id quantization industrial moe diffusion
📊 共 6 篇 · 精读 3

2026-08-05 日报

主题: 语义 ID 下沉为系统骨架,扩散 MoE 立 scaling 律

标签: semantic-id · quantization · industrial · moe · diffusion

📊 统计: 共 6 篇 · 精读 3 · 🏢 工业界 3 · 🎓 学术 3 · generative-rec 1 · discriminative-rec 3 · llm 2 · other 1

综述

当日 6 篇:判别式推荐 3 篇、LLM 2 篇、生成式推荐与其他各 1 篇,工业界(快手、蚂蚁)与学术各半,精读 3 篇。快手 UniGD 把自回归 SID 生成与显式相关性打分统一进同一 decoder-only 骨干,用 CAGE 在梯度层面协调两个目标,以单模型替掉线上级联,一周 A/B 广告收入涨 5.78%、检索延迟降 33%;但其公开集对比并不对等——基线只按生成似然排序,它却在 beam 内多做一次显式重排。人大与蚂蚁的 LLaDA MoE v2 首次系统刻画 MoE 扩散语言模型的 scaling 行为,给出超参律、偏数据侧的分配律与架构律并据此实训 30B-A3B,可惜评测把去噪步数设成生成长度,等于放弃了并行解码这一主要卖点。中科大与快手的 SITA 用 N 个并行码本,把语义 ID 从读取端“探针”升级为长序列压缩的“组织骨架”,工业侧却只有离线 AUC、无线上 A/B。主线清晰:语义 ID 与量化码本正从检索接口下沉为系统骨架;而评测口径的自我设限反复出现,值得警惕。

重点论文

UniGD · ⭐ 8/10

UniGD: A Unified Generative-Discriminative Framework for Industrial Retrieval

🏢 Kuaishou · 生成式推荐 / 判别式推荐

UniGD 把自回归 SID 生成与显式 query-广告相关性打分统一进同一个 decoder-only 骨干,用 CAGE(余弦冲突检测 + 正交投影 + 生成优先自适应加权)协调两目标梯度、用 CAM(把 SID 索引到的冻结多模态 RQ 码字求和重建广告表征,仅需 T 次查表、无需在线广告侧编码器)解决占日流量 36.9% 的新广告冷启表征、用 HAM(短视频/商品/直播各自码本与生成 head、共享骨干并行 beam search)吸收素材异构性,三阶段训练后在线上以单模型替掉「GR + 外部相关性模型」级联;快手搜索广告一周 A/B 广告收入 +5.78%、检索延迟 13.0→8.7 ms(-33.1%)、新广告曝光 +24.60%、不相关率 6.79%→5.81%,NQ320K/MS300K 上 Recall@10 比最强复现基线 GenRRL 高 8.44%/3.19%。

LLaDA MoE v2 · ⭐ 8/10

LLaDA MoE v2: Scaling Mixture-of-Experts Diffusion Language Models

🏢 Ant Group · LLM

首次系统刻画 MoE 扩散语言模型的 scaling 行为,给出 dLLM 专属的超参律(B=0.374C^0.3481、η=64.8C^-0.2447)、偏数据侧的分配律(M∝C^0.475 / D∝C^0.525)与架构律(尺度越大越偏好稀疏激活、G=8-16 稳健、共享专家比 S=33.3% 跨尺度恒定),并据此从头训练 30B-A3B 的 LLaDA MoE v2(23.5T token),以 Qwen3 的 65% 预训练 token 在多项知识/推理/代码 benchmark 上逼近之,仅 SFT 无 RL 即在 8 项任务的 7 项超越 SDAR Chat。

SITA · ⭐ 7/10

SITA: Semantic Interest Tokens for Target-Aware Compression in Long-Sequence Recommendation

🏢 Kuaishou · 判别式推荐

SITA 把语义 ID 从“读取端探针”升级为“压缩结构的组织骨架”:用 N 个并行均衡量化码本定义 N 个语义组,堆叠 SIC 块把完整行为序列离线压成 N×K 个语义组织化兴趣 token,在线按 target item 的 SID 逐组硬索引取 N 个 token 做 target attention,以 O(|U|NK) 存储和 O(BNd) 推理同时实现目标感知与全局兴趣建模。

全部论文

模型 标题 类别 公司 摘要分 精读分
UniGD UniGD: A Unified Generative-Discriminative Framework for Industrial Retrieval 生成式 / 判别式 🏢 Kuaishou 9 8
LLaDA MoE v2 LLaDA MoE v2: Scaling Mixture-of-Experts Diffusion Language Models LLM 🏢 Ant Group 8 8
SITA SITA: Semantic Interest Tokens for Target-Aware Compression in Long-Sequence Recommendation 判别式 🏢 Kuaishou 7 7
ATLAS ATLAS: Learning to Recommend Across Unseen Domains 判别式 🎓 学术 6 —
— Position Bias Undermines Preference Consistency in Listwise LLM-Based Reranking LLM 🎓 学术 5 —
— Attacking and Defending Multi-Agent Collaborative Filtering Systems Through Connectivity 其他 🎓 学术 4 —