R2S:会完成任务的老师,为什么给拖延打高分?
把教师的接管经验蒸馏回逐 token 评分器,修复多轮智能体的短视监督。
R2S 发现教师自己能完成任务,却可能在逐 token 蒸馏时放过学生的无效搜索与拖延。它从学生失败轨迹中寻找分歧状态,让教师接管,再用成功续篇校准教师对原学生轨迹的评分。价值在于改善监督者,而非单纯换一个更大模型;“无奖励”仍依赖可观察的完成信息或评审。
Shu Zhao、Tan Yu阅读简报
每日研究 · 覆盖 2026.10.08 — 2026.10.22
以下为当期记录;研究详情页展示最新已核对信息。
把教师的接管经验蒸馏回逐 token 评分器,修复多轮智能体的短视监督。
R2S 发现教师自己能完成任务,却可能在逐 token 蒸馏时放过学生的无效搜索与拖延。它从学生失败轨迹中寻找分歧状态,让教师接管,再用成功续篇校准教师对原学生轨迹的评分。价值在于改善监督者,而非单纯换一个更大模型;“无奖励”仍依赖可观察的完成信息或评审。
智能体缓存成为可编程状态,服务端必须记住缓存操作的先后顺序。
AKV 将智能体的完整文字历史与活跃 KV 缓存分开:保留消息,删除较早工具结果的 KV,再复用仍在缓存中的状态。它同时提供策略接口与 SGLang 服务实现,减少重新预填充的成本。关键难点是缓存携带过去上下文,同样的剩余文本并不对应同样的 KV。
块内连续去噪、块间因果缓存与自推测解码,如何兼顾质量和速度?
Lafa 将连续流语言模型扩展到7B和8B,在同一模型中联合学习块去噪和自回归预测。连续流负责批量提案,AR负责逐项验收,融合验证与下一轮起草减少前向次数。论文最高2.54倍吞吐来自单H100、batch1特定设置,公开权重目前为块长4,不能直接套用块长16的最高速度。
该期没有收录这个领域的人物动态。