TAO:工具等待期间,怎样安排 GPU 才不浪费缓存
缓存亲和、工具就绪与 token 数为何要按优先级共同调度?
智能体调用工具时会暂时离开 GPU,但其 KV 缓存仍有价值。TAO 在工具返回边界重做会话准入与节点分配,用缓存信用、就绪预测和 token 数组成分层目标;收益依赖工作负载,并非每种延迟指标都改善。
Shuhuai Li 等阅读简报
每日研究 · 覆盖 2026.08.20 — 2026.10.30
以下为当期记录;研究详情页展示最新已核对信息。
缓存亲和、工具就绪与 token 数为何要按优先级共同调度?
智能体调用工具时会暂时离开 GPU,但其 KV 缓存仍有价值。TAO 在工具返回边界重做会话准入与节点分配,用缓存信用、就绪预测和 token 数组成分层目标;收益依赖工作负载,并非每种延迟指标都改善。
同一个模型自造练习,怎样避免答案随长文扩写一起漂移?
LongZero 先生成结构化虚构世界、问题和答案,再安排证据所在文档并扩写长文;随后筛出模型时对时错的问题进行强化学习。小模型有增益,但“零数据”不代表零模板、零预训练知识或零生成成本。
如何把交付结果与跨轮约束、授权和风险沟通分开评分?
RealCLI 将同一 CLI 任务分别放进完整指令的自主执行与逐步披露需求的协作模式。101项任务不仅检查最终文件和环境,还检查智能体是否保留旧约束、核验用户说法和准确报告状态。结果显示功能成功会掩盖协作失败。
该期没有收录这个领域的人物动态。