Cortex:把上下文经验固化为参数记忆
拿走上下文后保留多少收益,连续更新又会忘掉多少旧知识?
Cortex 用同一模型带上下文时的回答分布监督不带上下文的学生,在前馈层中更新低秩参数或增加新通道。它把单次、批量和连续记忆写入放到同一框架中,区分目标能力吸收与非目标能力保留;连续事实编辑仍依赖回放,不能理解为冻结旧参数即可永不遗忘。
Jintian Zhang、Ningyu Zhang 等研究团队阅读简报
每日研究 · 覆盖 2026.10.09 — 2026.10.16
以下为当期记录;研究详情页展示最新已核对信息。
拿走上下文后保留多少收益,连续更新又会忘掉多少旧知识?
Cortex 用同一模型带上下文时的回答分布监督不带上下文的学生,在前馈层中更新低秩参数或增加新通道。它把单次、批量和连续记忆写入放到同一框架中,区分目标能力吸收与非目标能力保留;连续事实编辑仍依赖回放,不能理解为冻结旧参数即可永不遗忘。
为什么会调用工具的模型仍会漏做步骤、过早结束?
HPD 将运行时的义务、调度和结束条件编译成训练期控制文档,再把文档与经过验证的动作共同蒸馏进模型。关键不是增加部署提示词,而是让原生历史输入对应可执行的下一步;论文同时表明合规、参考路径和最终完成率必须分开看。
不换更大模型,怎样用层循环改善学生自己的推理?
LoOPSD 先在少量带答案题目上搜索值得重复执行的连续层区间,以同一组权重构造更深的教师,再蒸馏学生原始路径采样的回答。每轮重新搜索,最终部署仍走原始网络;搜索需要标签与额外计算,推理收益也不保证逐轮单调。
该期没有收录这个领域的人物动态。