ELF-REG：让连续扩散语言模型同时学习局部与全局语义
自回归教师表征对齐、REG token 与提前停止采样
ELF-REG 在连续语言潜空间里去噪：用冻结自回归教师对齐逐位置表征，并加入共同去噪的全局 REG token。它减少部分任务达到目标分数所需的训练轮数，但提示编码、教师成本和评测协议必须与去噪次数分开计算。
Zeyu Michael Li 等阅读简报
2026.09.26 简报
每日研究 · 覆盖 2026.08.22 — 2026.09.26
以下为当期记录；研究详情页展示最新已核对信息。
3 项工作
Exact Feedback：检查器说对了，不代表语言模型改得对
把多轮修订作为控制过程，观察重复、停滞与重置
这项研究用可以精确验算的字数、词汇与组合约束，观察模型收到正确反馈后如何修改。它不仅看最后有没有成功，还追踪重复输出和纠错方向：外部检查器能定位错误，不等于模型能够稳定执行对应修改。
Haitong Jiang 等阅读简报
SPAR：学会在局部信息足够时忽略远端干扰
选择性一致性训练，而非一律压低长上下文影响
远端上下文有时提供答案，有时只是噪声。SPAR 保持近端后缀不变、打乱远端前缀，只在局部足以预测且完整上下文收益很小的位置约束预测一致性；推理时仍是普通语言模型，不额外判断或删除上下文。
Jinchang Zhu 等阅读简报
人物与观点
0 条该期没有收录这个领域的人物动态。