2026-07-09 日报

主题: LLM 推理效率、多模态智能体推荐与联邦学习鲁棒性

标签: quantization · sparse-attention · pretrained-lm · ad-rec · academic

📊 统计: 共 3 篇 · 精读 0 · 🏢 工业界 0 · 🎓 学术 3 · llm 2 · other 1

综述

今日入选 3 篇，全部为学术工作（2 篇 LLM、1 篇系统方向），无工业界署名，主题分散但共同指向大模型与推荐系统的效率、记忆与鲁棒性。MMEACR（Cong 等）提出多模态记忆增强的智能体协作推荐框架，用双轨记忆分离可解释的智能体推理与细粒度多模态嵌入匹配，经加权倒数排名融合（RRF）整合两路输出，在三个真实域上优于多个 LLM/agent 基线，视觉相关场景提升尤为明显。Fractal KV-Cache（Gusev）重访收缩迭代映射（分形）码研究量化后 KV cache 的存储，把量化符号流无损序列化为低维实向量并支持 O(1) 随机访问，在 GPT-2、1024 上下文上相对 fp16 压缩 36–54 倍、困惑度仅升 11–15%，并量化了键约 4 倍于值的敏感度非对称性。FeLiX（Garg 等）面向真实客户端流失的联邦学习编排，用流式可用性分层、fresh-utility 选择与延迟鲁棒聚合，将达到目标精度的墙钟时间加速最高 2.37 倍、带宽降 1.30 倍，动机指向 feed 排序与广告定向的模型新鲜度。整体看，当日工作从记忆架构、缓存压缩到分布式训练鲁棒性，勾勒出大模型落地推荐/排序场景时对效率与稳定性的持续关注，KV-cache 无损压缩与联邦新鲜度两条主线值得留意。

重点论文

MMEACR · ⭐ 5/10

Seeing and Reflecting: Multimodal Memory-Enhanced Agent Collaboration for Recommendation

🎓 学术 · LLM

提出 MMEACR，一个多模态记忆增强的智能体协作推荐框架，用双轨记忆架构分离可解释的智能体推理与细粒度多模态嵌入匹配，并经加权倒数排名融合（RRF）整合两路输出。在三个真实域上对比多个 LLM/agent 基线取得较强表现，视觉相关场景提升明显。

Fractal KV-Cache Archives: Lossless Symbolic Storage with In-Place Retrieval for Long-Context LLM Inference · ⭐ 4/10

🎓 学术 · LLM

研究量化后的 KV cache 应如何存储，重访收缩迭代映射码（分形码），把量化符号流无损序列化为低维实向量，支持 O(1) 随机访问与摊还追加。在 GPT-2、1024 上下文上，每头残差向量量化相对 fp16 压缩 36–54 倍、困惑度仅升 11–15%，并量化了键比值敏感约 4 倍的非对称性；该归档还能直接作为搜索索引执行近似子串检索。

FeLiX · ⭐ 4/10

Robust Federated Learning Under Real-World Client Churn

🎓 学术 · 其他

提出 FeLiX，一个联邦学习编排框架，用流式可用性分层、fresh-utility 客户端选择与延迟鲁棒聚合，在真实客户端流失下最小化达到目标精度的墙钟时间。相比 SOTA 同步/异步基线加速最高 2.37 倍、带宽降 1.30 倍；动机指向 feed 排序、广告定向与个性化推荐的模型新鲜度，但评测在 CIFAR-10/Google Speech。

全部论文