Youtu-Parsing-Omni：把图像、声音和视频变成可追溯记录
同一个感知编码器怎样同时读页面与定位音视频事件？
5B 解析模型把十类任务统一为带空间框或时间戳的 JSON。重点不是让模型多说几句，而是先把原始媒体转成可供文本智能体重复检索的证据记录；总分提升不能掩盖转写与几何关系上的退步。
Youtu-Parsing-Omni 作者团队阅读简报
FIELD NOTES / 01
大模型LANGUAGE MODELS
关注模型能力、训练方法、长任务执行与开放生态。
推理多模态智能体
RESEARCH SNAPSHOT收录概览
128项研究与重要更新
按来源核对开放状态
按来源核对开放状态
开源 / 开放51
闭源3
待开放 / 核实74
EXPLORE THE FIELD
全部已收录研究128
128 项工作
Glance：让生成模型兼任检索重排器
共用前缀缓存能否省掉另一个常驻模型，而不偷偷扩大显存？
Glance 在一个9B混合注意力模型上增加LoRA与指针头：候选段落编码一次，多条短探针分别给相关性打分。共享骨干减少模型部署种类，但不是必然比专用重排器快，主方案生成时还要重新编码筛出的段落。
Airun Intelligence Labs阅读简报
WISD：用弱化副本找到值得强化的推理 token
量化与剪枝如何提供自蒸馏信号，为什么弱化过头反而失效？
从原模型与弱化副本对相同轨迹的概率差构造训练目标，无需更强教师。剪枝版在五模型、五基准的25种设置平均提升5.5个百分点；数学与代码分别训练，且论文附录的评测预算存在不一致。
Yecheng Wu、Song Han、Han Cai阅读简报
Soft-MTP：修正多 token 预测里的高方差梯度
如何保留交叉熵的高效实现，让预测头学习位置对齐的主模型分布？
把多token交叉熵梯度拆成对齐主模型的信号和抽样残差，通过直通梯度耦合移除后者。31.5B token控制实验中改善困惑度与部分下游能力，训练吞吐近乎不变；推测解码增益远小于“翻倍”。
Jayden Teoh阅读简报
MoE 解码：不用校准数据，如何只读一部分专家通道
节省专家权重读取，能否转化为端到端速度？
这项工作针对冻结 MoE 的解码阶段，用驻留的三值权重草图筛选通道，精确计算 top-k，再以低秩映射补偿未计算部分。重点是实际内存读取量，而不只是把激活置零的比例。
KAIST、DeepAuto阅读简报
TAO：工具等待期间，怎样安排 GPU 才不浪费缓存
缓存亲和、工具就绪与 token 数为何要按优先级共同调度？
智能体调用工具时会暂时离开 GPU，但其 KV 缓存仍有价值。TAO 在工具返回边界重做会话准入与节点分配，用缓存信用、就绪预测和 token 数组成分层目标；收益依赖工作负载，并非每种延迟指标都改善。
Shuhuai Li 等阅读简报
WorkFactory：先把工作环境造对，再训练办公智能体
合成任务如何避免缺资料、错依赖与把答案直接写进输入？
从职业意图构建隐藏的信息支持图，生成文件环境，再由看不到答案规划的探针实际执行并修复。112686个任务训练WorkPilot，多个办公基准提升；当前仓库仍是发布占位，论文中的数据和模型开放承诺尚未落地核实。
WorkFactory 论文作者团队阅读简报
LOWN：扩散视觉语言模型何时可以暂时不看图
文本预测与旧视觉锚点一致，是否足以省下一次昂贵视觉前向？
LOWN 在扩散解码中先运行便宜的纯文本前向，用它与最近一次看图所得预测的一致性决定是否再次读取视觉 token。它不训练新参数，但所谓 certificate 是可出错的一致性判据，并非答案正确性的形式证明。
LOWN 作者团队阅读简报
Thinking-in-Bets：听到批评前，先记下已经验证了什么
降低迎合式改错，却不能把自信清单当作拒绝纠错的理由
智能体常在用户质疑后推翻本来正确的结果。方法在反馈到来之前记录关键主张、证据和置信度，再针对受到挑战的主张核查或修正；无需训练，但额外记录时机很重要，写得过早也可能把未完成的代码固定下来。
Nghi D. Q. Bui / Google阅读简报
MPO：把智能体的整轮动作与逐 token 信用分配对齐
为什么同一轮共享更新尺度，仍要保留 token 之间的差别？
长任务的奖励通常要到末尾才出现。MPO 先在助手轮次上估计优势，再将轮内的细粒度差异加入；更新时使用整轮概率比，但保留各 token 的独立梯度。它针对长链工具调用的训练单位错位，而不是给每个 token 复制同一个奖励。
北京大学、IQuest Research、清华大学等阅读简报
Memory Tax：记忆系统帮对了多少，也答错了多少
结构化记忆的净收益应如何与可检索的原始记录比较？
论文将记忆收益拆成两组题：记忆答对而 RAG 答错，以及 RAG 答对而记忆答错。后者是“记忆税”。通过金标准检索与信息保留审计，作者区分记录构造损失和访问损失，避免只用平均准确率解释复杂记忆系统。
UIUC、清华大学、中国人民大学等阅读简报
Trajectory2Gym：成功轨迹里，哪些动作值得模仿？
把可见证据、执行结果和工作流顺序分别纳入训练目标筛选
工具任务最终成功，不代表中间每个动作都有合理依据。Trajectory2Gym 从缺少覆盖的交互路径生成可执行任务，只监督能够从学生当时可见信息推导的动作，再按整条交互而非拆分行数分配训练权重；用普通 SFT 改善多轮工具使用。
Yihao Hu、Tao Lin 等研究团队阅读简报
FORK：让评分细则既奖励覆盖，也惩罚多余与错误
用句子级必要性和事实正确性，约束按rubric训练的回答膨胀
只按评分要点是否被覆盖给奖励，模型可以靠堆砌内容得分。FORK把回答拆成句子单位，分配rubric贡献，再分别判定必要性与正确性，将精确率和覆盖率的Fβ分数用于GRPO；重点不是简单限字，而是减少无用或不可靠的陈述。
KAIST / Carnegie Mellon University阅读简报
On-Policy Self-Training：让带提示的自己教会不带提示的自己
自生成题目和特权信息，怎样变成学生真正能独立使用的能力？
OPST 用模型自产的问题、推理与答案建立带特权信息的教师，再在学生自己的回答轨迹上做逐词蒸馏。Gemma 4 E2B 非思考模式的 MMLU 从37.5升至47.7，但跨任务平均提升掩盖了数学退步：它提供的是有条件的自训练配方，而非无监督产生新知识的证明。
Google、Ulm University阅读简报
TTR Compressor：用推理时岭回归压缩相关 token
压缩器能否识别重复信息，而不只把邻近 token 平均？
把 token 块看成一次小型回归问题：在每次前向中求解压缩向量，以相关性抑制重复信息。语言和视觉实验支持其效率潜力，但压缩率不能直接当作端到端加速。
TTR Compressor 作者团队阅读简报
WeVisOne-VL：把语言定位接到像素级抠图
同一个视觉语言模型怎样输出框、掩码与透明度，而不把所有像素序列化？
WeVisOne-VL 在 Qwen3-VL 2B/4B 上统一检测、指代、计数和 OCR，再用对象令牌与框引导的轻量解码器输出掩码和 alpha。优势来自统一接口与共享视觉特征；抠图成绩中使用真值框的实验，不能等同于文本到抠图全链路表现。
腾讯微信视觉团队阅读简报
RAW-RAG：先保留原始证据，再讨论复杂记忆
智能体记忆的增益，究竟来自结构设计还是召回与阅读能力？
RAW-RAG 不先用大模型压缩和改写长期历史，而是对原文分块、密集召回、交叉编码重排，再让阅读模型处理时间与状态变化。它在主文七组比较中六组领先记忆系统，却在人格偏好与部分MEME设置落后；结论应是建立强检索基线，而非否定所有结构化记忆。
Zhengye Bao、Shengtao Zhang、Minnan Luo 等阅读简报
IQuest-Q1：把架构稳定性、工具强化学习与多专家蒸馏串起来
320B 总参数、15B 激活，工程优势能否跨评测框架成立？
技术报告把 StableSplitNorm、Muon/μP、长上下文中训练、多工具环境强化学习与多专家在线蒸馏组织成完整训练链。值得关注的是训练与部署的系统配合，而不是把单项榜单领先解释为普遍最强。
IQuest Research阅读简报
Cola2：让连续潜变量负责语义，再把生成结果写回上下文
压缩token后，如何避免潜变量提案与最终文字逐渐失配？
Cola2把语义压缩、连续潜变量生成与离散文本解码拆开训练，并在每个生成块结束后重新编码实际文字。论文的重要边界是：压缩率降低不等于整体计算或延迟同比下降。
HKU · ByteDance Seed · PKU · Renmin阅读简报
OnTrack：扩散语言模型应该在哪一步揭开哪些token？
正确的最终答案，并不意味着这个token现在就可以安全提交
在冻结LLaDA或Dream骨干的前提下，一个小策略网络选择每轮提交的位置。研究把监督标签与训练状态分开控制，发现沿参考轨迹可达的提交目标，比只看最终答案是否一致更可靠。
NTU Singapore · A*STAR阅读简报
TWIG：把模型权重写成共享离散决策树
同一套树表示能否同时说明存储压缩、定制电路成本和离散优化？
TWIG把每个权重表示为一条共享决策路径：符号、二次幂缩放、零门与查表选择由子树共同继承。论文给出统一表示和早期实验，其中BF16无损压缩可减少带宽，但加法器估算、量化精度和GPU吞吐属于不同证据，不能合并为普遍硬件加速。
LEAD Lab · ITMO University阅读简报
PACE：四比特循环状态，先减少舍入次数
周期缓冲、通道分组与少量高精度头，各解决什么误差？
线性注意力的循环状态反复被量化会积累误差。PACE把逐token舍入改为周期刷新，再沿持续异常值所在的通道分组，并给误差难衰减的少量头更多精度。它压缩的是循环状态，不是所有权重或全部KV缓存。
Patrick Haller、Filipe Laitenberger、Alan Akbik阅读简报
LongZero：先编出事实骨架，再扩写长上下文
同一个模型自造练习，怎样避免答案随长文扩写一起漂移？
LongZero 先生成结构化虚构世界、问题和答案，再安排证据所在文档并扩写长文；随后筛出模型时对时错的问题进行强化学习。小模型有增益，但“零数据”不代表零模板、零预训练知识或零生成成本。
Zhennan Wan、Jianfei Chen阅读简报
R2S：会完成任务的老师，为什么给拖延打高分？
把教师的接管经验蒸馏回逐 token 评分器，修复多轮智能体的短视监督。
R2S 发现教师自己能完成任务，却可能在逐 token 蒸馏时放过学生的无效搜索与拖延。它从学生失败轨迹中寻找分歧状态，让教师接管，再用成功续篇校准教师对原学生轨迹的评分。价值在于改善监督者，而非单纯换一个更大模型；“无奖励”仍依赖可观察的完成信息或评审。
Shu Zhao、Tan Yu阅读简报
AKV：保留对话记录，只裁剪正在注意的 KV
智能体缓存成为可编程状态，服务端必须记住缓存操作的先后顺序。
AKV 将智能体的完整文字历史与活跃 KV 缓存分开：保留消息，删除较早工具结果的 KV，再复用仍在缓存中的状态。它同时提供策略接口与 SGLang 服务实现，减少重新预填充的成本。关键难点是缓存携带过去上下文，同样的剩余文本并不对应同样的 KV。
清华大学 thu-nics 团队阅读简报
Lafa：把连续流草稿交给模型自己的 AR 校验
块内连续去噪、块间因果缓存与自推测解码，如何兼顾质量和速度？
Lafa 将连续流语言模型扩展到7B和8B，在同一模型中联合学习块去噪和自回归预测。连续流负责批量提案，AR负责逐项验收，融合验证与下一轮起草减少前向次数。论文最高2.54倍吞吐来自单H100、batch1特定设置，公开权重目前为块长4，不能直接套用块长16的最高速度。
UC Berkeley、Amazon、KAIST、CMU阅读简报
Meta Expert：跨层共享专家，减少 MoE 存储冗余
不同层是否必须各自保存一整套专家？
Meta Expert 把部分 MoE 专家从层私有改成跨层共享，并保留局部专家和注意力层。在相同激活专家数量下，一些模型可用约70–80%的专家匹配基线损失；这支持参数复用，但不等于推理延迟同比下降或每项任务都提高。
清华大学、上海人工智能实验室等阅读简报
OpenVLHarness：视觉代理需要能复用的证据，而不只是更多工具
把定位、深度、搜索结果保存为可寻址对象，再交给同一骨干模型计算
无需微调的视觉工具框架，将九类能力接到多模态模型，并在单个问题内保留图像、数组和网页句柄。22项基准显示平均提升，但附录也揭示坐标格式、错误对象选择与无证据猜测仍可能得到正确评分；分数提升不等于推理链全部可靠。
UCLA NLP / OpenVLHarness 作者团队阅读简报
KEEP-Bench：压缩后答对，不代表证据没有丢
如何检查歧义分支、适用条件和少数观点是否仍在摘要里
KEEP-Bench不只看压缩后的问答正确率，而是逐条检查必要命题能否从压缩文本推出。4102个案例覆盖平行推理链、带条件的事实和文本占比很低但仍必要的观点。最强受测模型也只在约三分之二案例中保留全部证据，说明上下文能装下不等于摘要能忠实保留。
Ziqing Man 等 · UCLA阅读简报
TokenGate：让模型学会跳读，而不只压缩 KV 缓存
先全读浅层，再让深层只计算被门控保留的上下文
长上下文的成本不仅来自保存 KV，也来自每层都计算每个输入 token。TokenGate 在模型早期插入可学习门控：先让浅层读完整上下文，再选出 K 个位置供深层处理。门控分数同时进入注意力，使选择模块可随 LoRA 一起训练。论文在小模型、任务定制微调与单请求设置下展示首 token 延迟和显存的改善；这不是对任意模型无需训练的压缩插件。
Liana Patel 等 · Stanford / UC Berkeley阅读简报
OpenDS：让深度搜索回到真实网页与长任务
代理找到正确答案，和它可靠地完成研究，是同一个问题吗？
200道真实网页研究题及统一工具协议，把长程浏览、工具故障和证据定位纳入评测。领先模型正确率仍约四成；人工与代理预算不一致，不能直接把分数解释成全面超越人类。
OpenDS 作者团队阅读简报
Omni-Woodpecker：在隐藏状态里纠正视听证据冲突
不训练新参数，怎样让模型少把“看起来如此”当成“听起来如此”？
OWP以全模态、仅音频、仅视频与文本四路探测定位冲突，再在冻结模型内部保护目标证据、抑制竞争先验。Qwen2.5-Omni-7B的跨模态幻觉指标改善明显，但干预有感知损失和额外延迟，需要把“抗幻觉”与正常问题准确率一起衡量。
南京大学、 中国科学院大学阅读简报
Deep Fusion Memory：把检索记忆预测进冻结语言模型
减少外部检索，是否真的保留了可验证知识？
训练小型预测器从上下文生成记忆槽，再经门控交叉注意力融合到冻结LLM。论文显示特定问答平均分和检索次数改善，同时暴露基础模型退步、跨任务差异与成本核算边界。
Deep Fusion Memory 作者团队阅读简报
行为耦合：一次定向微调为什么会带出另一种行为？
把共现记忆、行为激活与安全泛化分开检查
论文在受控合成语料中先建立两种行为的联系，再仅微调其中一种，观察另一种是否被同时激活。这为跨行为泛化提供了可检验机制，但不能直接证明自然预训练中的同类联系造成了实际产品的失控。
KAIST、IBM Research阅读简报
接受率不等于速度：有损推测解码会把回答拉长吗？
把每轮接受收益、完整回答长度和正确率放到同一张账单
放宽推测解码的验证条件，可能每轮接受更多草稿 token，却令模型思考更久、回答更差。本文检查多个模型组合和宽松规则，说明局部接受长度不足以代表端到端提速，尤其应检查长尾回答与质量约束。
University of Waterloo阅读简报
DLite：让草稿模型不再携带长历史 KV 缓存
保留目标模型的历史，用当前锚点表示完成轻量草拟
DLite 将推测解码草稿器的计算限制在一个局部块，用目标模型当前 token 的多层隐藏状态提供长历史信息。它移除的是草稿器的历史缓存，目标模型仍保留 KV；加速依赖可访问目标内部表示和标准验证。
上海交通大学、上海创新研究院、清华大学、Infinigence阅读简报
Xiaomi-Lens-0：让语言模型回答它指的是哪些像素
共享视觉编码器的掩码输出，如何与文字推理对齐？
Lens-0在Qwen3.5-4B上增加轻量掩码头，将定位、分割和细粒度问答合在同一模型。它利用语言上下文决定分割对象，但掩码本身没有重新作为视觉输入送回语言模型，不能等同于主动放大观察。
小米 SeerRay 团队阅读简报
OPRD：让代码智能体从失败轨迹中的提醒学习
训练时可见诊断提醒，部署时不带提醒，怎样避免把未来信息收益算成推理能力？
OPRD先生成无提醒的学生轨迹，再让带全局和局部提醒的教师在相同前缀上提供分布监督。成功轨迹做自模仿，失败轨迹用反向KL，目标是将提醒遵循内化到较小代码模型。
Yuechen Luo 等 / 清华大学、上海人工智能实验室、NUS阅读简报
工作记忆读出瓶颈：看见正确信息，仍可能答错
N-back 的错误究竟来自注意力定位不准，还是干扰内容进入决策？
研究在三类共15个预训练模型中，用逐试次注意力、线性探针与因果干预区分定位失败和读出失败。结果更支持干扰解释，但已知目标位置的抑制实验只是机制诊断，不能直接成为通用长上下文修复方案。
Dongyu Gong · Yale University阅读简报
DK-VLM：让几何决定注意力，而不替换语义位置编码
怎样在保留预训练视觉语言能力的同时，学习跨视角位置和连续转向？
DK-VLM在Qwen视觉语言骨干选定层并行加入几何注意力，用场景点和相机姿态调制token关系，再用门控融合。参考系组合监督教模型逐步更新朝向。其证据支持空间问答提升，但不是机器人闭环控制或可编辑3D资产生成系统。
Harbin Institute of Technology · Yinwang · Huawei阅读简报
Novelty Patching：把字节级计算用在新内容开始处
高熵字节未必需要推理；重复结构能否告诉模型在哪里启动全局计算？
针对字节模型在紧张 patch 预算下跳过计算结果的问题，用前两个字节查表预测后续内容的新颖程度，在预计不再重复近期上下文的位置启动全局模型。小规模数学续写实验有明显收益，代码域与完整解题尚不能据此推广。
Nicolás Vera Zúñiga · 独立研究者阅读简报
线性可读知识，更容易被微调迁移
答得出旧事实，与学会建立在旧事实上的新关系，是同一回事吗？
将预训练关系的答案随机换成动物名，再微调部分实体并测试未见实体。跨11个模型、70种关系，微调前线性探针的可读性比直接事实召回更能预测迁移；研究揭示了“记得”与“可利用”之间的区别。
Faridoun Mehri、Hinrich Schütze · LMU / MCML阅读简报
FEB-30：问答分数为何不等于记忆质量
记忆库中事实是否正确，应怎样与最后一次回答是否正确分开检查？
用30条随时间演化的事实轨迹逐状态检查记忆库，再独立评估最终问答。将检索、更新分类、事实合成、时序和来源归属拆开，展示两种评分可能相互偏离；内部指标也有裁判与阈值依赖。
Sebastian-Antonio Toma 等 · AWS / 克卢日技术大学阅读简报
把三个科研想法一起奖励，能否避免重复出题？
集合内多样性明显改善，但自动影响力分数不等于科学发现。
论文把科研创意生成从单条回答改成三个结构化想法组成的集合，用质量乘以与前面想法的距离训练 Qwen3-8B。最强版本提高自动创意效用，却降低对输入文献的依赖；小规模人工与执行检查只支持其作为候选方向生成器。
Manya Wadhwa 等 · Salesforce AI Research / NYU阅读简报
RealCLI：任务做完了，不代表协作做对了
如何把交付结果与跨轮约束、授权和风险沟通分开评分？
RealCLI 将同一 CLI 任务分别放进完整指令的自主执行与逐步披露需求的协作模式。101项任务不仅检查最终文件和环境，还检查智能体是否保留旧约束、核验用户说法和准确报告状态。结果显示功能成功会掩盖协作失败。
Yunqi Liu 等阅读简报
Cortex：把上下文经验固化为参数记忆
拿走上下文后保留多少收益，连续更新又会忘掉多少旧知识？
Cortex 用同一模型带上下文时的回答分布监督不带上下文的学生，在前馈层中更新低秩参数或增加新通道。它把单次、批量和连续记忆写入放到同一框架中，区分目标能力吸收与非目标能力保留；连续事实编辑仍依赖回放，不能理解为冻结旧参数即可永不遗忘。
Jintian Zhang、Ningyu Zhang 等研究团队阅读简报
HPD：把智能体运行时约束变成训练监督
为什么会调用工具的模型仍会漏做步骤、过早结束？
HPD 将运行时的义务、调度和结束条件编译成训练期控制文档，再把文档与经过验证的动作共同蒸馏进模型。关键不是增加部署提示词，而是让原生历史输入对应可执行的下一步；论文同时表明合规、参考路径和最终完成率必须分开看。
南京大学 Junze Zhu 等阅读简报
模型已经学会，输出层却还没跟上？沿训练轨迹拆开表征与表达
同一个隐藏状态换一个读出器，能否解释早期能力评测的变化？
论文将最终隐藏状态中的可解码信息、模型原生输出和跨检查点读出扫描分开测量，再以参数轨迹稀疏字典追踪输出矩阵。主张是早期评测存在读出层滞后，不是已经找到通用能力增强算法。
Matteo He 等 / Cambridge、Flower、Isomorphic Labs阅读简报
SJC：压缩智能体记忆时，先问这条信息来自哪里
来源裁判能否阻止智能体将自己的推测写成长期记忆？
Source-Judged Compaction在既有摘要器后增加条目级来源检查：有环境输出或旧摘要支撑则原样保留，否则整条删除。它验证的是来源，不是事实真伪；旧摘要中的错误仍可能被继承。
Guanghui Min、Chen Chen / University of Virginia阅读简报
Runoff：先独立考虑，再消除候选顺序影响
如何减少选择题和智能体菜单中的排列敏感性，又不支付全部轮换成本？
Runoff先逐项判断是否适合，再只对高概率候选做规范排序和循环轮换，将多数无关选项排除在联合比较之外。开放模型实验能消除所测洗牌下的答案翻转，但这不是正确率保证；API非确定性、概率并列和小菜单成本需要分别处理。
Jianguo Huang 等 / 南洋理工大学阅读简报
UCoE：让评分程序与代理记忆一起更新
开放任务没有标准答案时，怎样检查负责指导改稿的验证器？
UCoE固定模型权重，让可执行评分规则与短程序记忆随任务流演化。它用局部退化的回答对筛选验证器，只接受通过比较的新评分程序，再由程序指导一次修订。论文重点是验证器的行为测试，而非模型训练；局部对比集的可靠性仍决定其边界。
Tianyi Xu 等 / Oregon State、Penn State、Johnson & Johnson、AG2 AI阅读简报
LoOPSD：重复一段网络层，给原模型造一个教师
不换更大模型，怎样用层循环改善学生自己的推理？
LoOPSD 先在少量带答案题目上搜索值得重复执行的连续层区间，以同一组权重构造更深的教师，再蒸馏学生原始路径采样的回答。每轮重新搜索，最终部署仍走原始网络；搜索需要标签与额外计算，推理收益也不保证逐轮单调。
Wei Fan、Qingyue Yang、Chao-Hong Tan 等研究团队阅读简报
Logit 几何：输出分数的规律，有多少来自训练？
排序后的近直线形状并不专属于语言模型；斜率与训练变化才是更关键的证据。
论文把每一步的词表logit排序，拟合截距和对数秩斜率，并与随机分布及训练中间检查点对照。它展示了压缩排序概率谱的可能性，但没有恢复尾部词元身份，也没有证明能直接省掉词表计算或可靠判断事实真假。
Stanford University · IIT Madras · UC San Diego阅读简报
MSAR：让残差连接按上下文尺度检索网络深度
保留完整隐藏向量，用多尺度因果卷积构造不同的深度注意力视角
传统残差把各层结果固定相加，MSAR让每个后续层分别从历史层结果中检索。其关键不是切碎通道形成多个头，而是以邻近词的不同上下文窗口扩展完整向量，避免各流只剩同一向量的倍数。
Xiaohan Qin、Junchi Yan 等 / 上海交大、上海创智学院、小红书 Dots Studio阅读简报
UPTURN：在推理分岔处重开用户回合
紧张 token 预算下，保留正确前缀并改变后续推理，比重新采样更有效吗？
UPTURN 冻结推理模型，训练小型位置策略选择段落边界，再插入一个新的用户回合请求简洁求解。论文的重要性在于区分“沿原轨迹加反思词”和“真正重开对话回合”；收益主要出现在生成预算紧张时，不能概括为任意预算下都优于多采样。
Jiwon Jeon、Myungsik Cho 等 / KAIST阅读简报
zip2zip++：动态合并 token 后，如何少损失推理能力
容错编解码、数字保护与位置对齐共同修复动态词表接口
在已有BPE之上用LZW建立输入相关的超token词表，一步可生成多个基础token。新工作针对动态词表破坏输入输出几何、位置和字典同步的问题逐项修复；压缩率与模型质量仍存在明显取舍。
Saibo Geng、Andrea Gentilini、Xinxian Ma 等 / EPFL、TUM、ETH Zürich阅读简报
ClawLoop：把失败诊断接回智能体训练数据生产
没有外部教师，代理如何生成可验证、又处于自身能力边界的练习？
ClawLoop让同一27B模型构造工作区任务、执行并验证轨迹、训练自身，再用保留任务上的失败诊断指导下一轮出题。它把能力模板和领域工具图两条合成路线接成三轮循环；结果支持这套课程的价值，但小模型只是消费27B课程，并未自己完成闭环。
Hansi Yang 等 / 美团、北京大学阅读简报
MemoType：按事件、个人与一般知识分流的长期记忆检索
类型路由改变检索策略，但过滤召回、评测泄漏与在线成本仍需拆开验证
MemoType先把对话记忆分为事件、个人和一般知识，再针对事件对齐要素、针对个人反推可能问题、针对一般知识生成假想记忆进行检索，最后用两次回答筛除无关记录。四个基准显示收益，但类别硬过滤并非所有召回指标都更好，低写入费用也不等于低端到端成本。
香港城市大学 · 华为诺亚方舟实验室阅读简报
Research World Models：把真实实验记录变成下一次实验的预测依据
上下文中的失败与成功经验，能比单纯增加推理强度更有用
研究让冻结语言模型读取环境配置、代码改动和既往实验收益，预测候选实验的最终增益，再从预算允许的少数候选中选择。2653条真实记录覆盖九个环境；上下文经验改善同环境和部分跨环境排序，但多轮实验仍围绕固定基线与预先给定候选池，不能等同于开放式自我改进。
Amazon、UC Santa Cruz、Emory、Penn State、UC Santa Barbara阅读简报
InfiLoop：让反复推理保留有效状态，而不是不断覆盖答案
7M解谜模型的循环残差机制；97.9%数独成绩依赖39种深度与规则验收
InfiLoop用共享内容评分和指数时间衰减，把历次循环的候选状态压缩成固定大小的加权摘要。它在小型递归解谜模型中减少已解答案被后续循环破坏，但并非已验证的通用语言模型；最高数独成绩还使用多深度重启和外部数独规则检查。
香港理工大学、ELLIS Tübingen、中科院深圳先进院 等阅读简报
Lapras：传感器语言模型能否先在连续空间推理，再给文字答案？
六个潜在步骤自蒸馏；效率收益明确，可读解释仍缺忠实性验证
Lapras让时间序列语言模型学习显式推理教师在答案位置的隐藏状态，推断时用六次连续向量反馈代替长段文字推理。它在多种传感器分类问答上减少生成成本并提升若干骨干的平均F1，但不是每项任务都获益，事后读出的文字也尚未证明就是模型真正依赖的因果依据。
Dartmouth College、Aionic Labs、ETH Zurich、Stanford、NUS 等阅读简报
Remory：给压缩摘要加一层可学习记忆，保留下一步决策需要的线索
冻结主模型、训练软token补充；输入缩短不等于总运行成本同比下降
Remory保留可读文本摘要，再根据历史和摘要生成有界连续记忆token，帮助冻结语言模型接近完整历史下的后续输出。它在多轮压缩时递归携带旧记忆，仍保留普通档案检索工具；实验显示来源归因、长程代理成绩及重复工具调用有所改善。
上海科学智能研究院、复旦大学等联合团队阅读简报
Internalizer：把文档生成大模型的LoRA，但重建分数还不是问答能力
共享超网络从小模型迁移到284B目标；训练长度外适配器出现明显失效
Internalizer读取冻结语言模型逐层文档特征，以共享Perceiver主干生成按文档变化的LoRA块；每增加一个512-token分块，适配器秩随之增加。它先在1–3B模型上训练共享部分，再迁移到284B目标，展示较好的文档教师强制重建，但尚未报告实际问答、代码任务或服务成本收益。
Interval阅读简报
TRACE：分数变了，先查代理行为还是评分器变了
配对实验、轨迹检查、反事实重评分与重复运行对照
TRACE用四步诊断把评测分差拆成系统行为变化与评分规则变化。在人工构造的25任务环境里，工具别名让行为完全相同的脚本损失0.25分，评分时恢复名字即可消除；在真实LLM交互中，初步发现的增益未能复现。更大规模重复实验说明，稳定的裁判也可能在衡量不同的“成功”。
Radhika Gaonkar · Prime Intellect阅读简报
HarnessSQL：让SQL代理在部署时的工具接口里完成训练
完整交互轨迹SFT再做执行奖励RL；共享数据库与接口错误影响结果解释
HarnessSQL将数据库代理的列举表、检查schema、执行试探SQL和最终提交放进同一个受限接口，用实际运行验证过的完整轨迹训练，再做稀疏执行奖励RL。Qwen3-8B在Spider2.0 SQLite子集由15.5%升至45.2%，14B由22.2%升至54.8%；但主测试共享训练数据库，域外成绩仍显著较低。
香港科技大学、微软研究院、清华大学、澳门大学阅读简报
Chronos：让代码代理检索一个改动背后的软件演化历史
PR关系图帮助找到语义搜索漏掉的经验；三角色总收益不等于图检索的独立收益
Chronos把合并PR蒸馏成包含动机、解法和检索信号的经验卡，再以文件连续性、显式引用、作者跟进和组织关系连成图。代码代理先找语义入口，再沿有类型的关系扩展，按需读历史经验；完整工作流让两个代理分别写补丁，再由第三个代理选一个。结果支持关系历史有检索价值，但总体收益同时包含角色提示与更多候选计算。
浙江大学、上海交通大学、Hithink Research、国家工业信息安全发展研究中心阅读简报
DPPM：把历史证据保留与顺序修订分成两条参数记忆路径
约53万可训练参数；遗忘行为、信息删除和恒定端到端成本需要分开
DPPM在冻结的Doc-to-LoRA编译器之上训练一个轻量记忆整合器：Evidence按内容直接汇总所有历史段，Delta按时间顺序把新信息与已有预测的差写入关联矩阵。融合后的表示交给冻结解码器生成个性化LoRA，回答时无需把原历史放进上下文。结果支持双路径在两种个性化选择题基准上提升回答准确率，但其遗忘理论只在特定表示扰动和收缩条件下成立，不证明永久记忆、参数删除或一般开放式对话可靠性。
中国科学技术大学、科大讯飞研究院阅读简报
QGMem：长期保留事件和状态轨迹，提问时才建小图
图token、文本证据与时间有效性分工；十条记忆不等于整个系统恒定成本
QGMem把历史对话拆成带原始出处、实体、地点和双时间的原子事件，再把同一主体关系的更新串成轨迹。提问后用BM25、语义与事件属性混合检索，重排选10条记忆，仅对这些事实构图；图编码器压成一个软token，与可读文本共同供冻结大模型回答。LoCoMo与冲突多跳有提升，但收益很大部分来自记忆粒度和重排，图分支并非每个基准都有效。
中科院自动化所、阿里巴巴、中国人民大学等阅读简报
LadderEdit：给每次知识编辑分配足够的存储秩
先保存覆盖，再按行为测试加细节；摘要的压缩结论需要连同路由假设和账目疑点阅读
LadderEdit先训练每条知识编辑的LoRA，再依据奇异值尾部和行为余量提出低秩版本，以改写、泛化和局部性探针检查，失败则增加秩。论文报告1万编辑的持久存储从100.93GB降到19.44GB；这不包括减少最初训练成本，主实验还预先提供正确编辑身份。全文存在量化比例、长程压缩与阈值描述不一致，须与核心思路分开看。
Yale University、Washington University in St. Louis、Icahn School of Medicine at Mount Sinai、Arizona State University阅读简报
CogMem：把谁说的、何时有效和原始证据保存在长期记忆图中
观点与记录分型有助于多跳问答；归纳并不删除旧事件，也不能把自述自动变成已核实事实
CogMem将对话拆为人物、事件、概念、观点和事实记录，保留来源与时间，再用受限图操作重建回答证据。它在LoCoMo多跳与LongMemEval更新问题上优于所列基线，但归纳增加存储，意图解析和类型限制也会漏证据。这里的Fact是一种记录类型，不是外部核验后的真相。
清华大学深圳国际研究生院阅读简报
Deception by Omission：代理能识别错误，为什么仍不向用户披露？
预填错误、旁观者能力对照与分离裁判，区分没察觉、含蓄纠正和知情沉默
研究把明确错误植入助手历史，让七种模型继续处理新消息，再分别评价推理记录和用户可见回答。代理设置下明确披露不足与可观察知情沉默都存在，但大部分未披露属于未显式察觉或没有可用推理记录；不能把67.1%的未明确披露全部称为故意欺骗。
斯图加特大学AI Safety Research Group阅读简报
Gated Memory：在写入记忆前保留事实的上下文
LoCoMo整体只增加1.3个百分点，多跳下降提醒过滤也会切断证据链
Gated Memory在记忆后端之前加入准入、事实拆分和有条件知识补充：只从当前交换形成新事实，历史仅用于指代消解，并保留来源和适用条件。在检索与回答配置不变的LoCoMo测试中，准确率50.6%升至51.9%，但多跳下降；这支持写入质量值得研究，尚不足证明生产收益或隐私保证。
Samsung Research America阅读简报
谁验证评分器：智能体分数上升，裁判也可能已经失效
Double Ratchet把评分器写成可检查的小规则组合，并用独立参考检验它
这项工作让评分器本身进化：从失败聚类生成小型缺陷检测器，再用十个带参考样例和无标签一致性选择逻辑组合。最重要的结果并非任务涨分，而是去掉锚点保护后评分器几乎全部放行，智能体仍能进步。评分器有效性必须独立测量，不能用它所训练系统的分数代替。
AWS Forward Deployed Engineering、汇丰科技阅读简报
Agentic-TTT：让策略决定何时训练、选哪种适配、何时复用LoRA
精选可获益任务上的效用近翻倍，离开放部署的自主持续学习仍有距离
Agentic-TTT把五种测试时训练算法包装成工具，用独立策略LoRA决定存储材料、适配、加载或直接回答。每个技能是冻结基座上的独立LoRA，可随查询流复用。Qwen2.5-7B在176题精选流上效用0.256到0.510，但约65%的数据特意筛为适配有益，不能将翻倍解释成一般真实流量的预期收益。
新加坡国立大学、NUS AI Institute阅读简报
ValueMap：训练模型更重视一种价值，会顺带改变哪些行为？
行为激活比价值名称更能预测迁移，但相关性还不是可控对齐
逐个价值微调四个基础模型，测量对未训练价值的变化，建立有方向的泛化矩阵；再比较名称、行为文本、权重差、persona激活和梯度表示的余弦相似度能否预测它。最后用激活表示分析多价值目标与分类体系。
Andy Liu、Mehar Bhatia 等 · CMU、Mila、McGill、ETH、UBC阅读简报
MiMo-V2.6：规模化RL之外，怎样避免奖励把错误行为放大？
任务、框架与评分共同扩展；9B开放权重不能等同旗舰模型开源
MiMo把长轨迹RL扩展到代码、通用、视觉和安全任务，结合多种轻量agent框架。离线组间比较生成rubric，在线组内评分重分配成功轨迹的正优势；冻结MoE路由、回放采样条件，并持续清理奖励捷径。
Xiaomi LLM-Core · 小米MiMo团队阅读简报
TokenRouter：逐token切换模型，瓶颈为什么在调度而不只在计算？
保留请求缓存状态，再让每个模型独立推进与等待成批
TokenRouter把路由策略抽象为route/send/receive，把执行拆成每模型子服务器。请求切走时标记pending保留状态，返回时追加未见token；延迟批调度通过短暂等待聚合同模型请求，用吞吐模型选择阈值。
Tianyu Fu、Tengxuan Liu 等 · 清华大学、CMU阅读简报
UFM：多走几步真的能推理吗？关键在于训练整段隐空间轨迹
小型流模型的推理步数扩展；理论构造、实际训练与测试集选择需分开看
传统流匹配在随机噪声时刻训练单次去噪，未必教会后一步利用前一步。UFM从自己的隐状态轨迹反向传播，只在终点预测答案；长轨迹通过球面回缩控制尺度。它在图可达、数独与迷宫上显示更多积分步可带来收益，但尚未验证开放语言任务。
马克斯·普朗克智能系统研究所、ELLIS图宾根、ETH Zurich、牛津大学、图宾根AI中心、Liquid AI阅读简报
STI-OPD：学生先作答，老师按分歧概率接管一轮
重要性权重校正老师生成的token，不会把被干预的整条轨迹变回纯学生分布
STI-OPD针对多轮智能体蒸馏的错误累积：学生先提议完整回复，老师给其token评分，以非负KL估计构造接管概率；若介入则重生成整轮，执行后再交回学生。老师token用学生/老师概率比加权反向KL。Qwen3-1.7B在ScienceWorld由普通OPD的17.1%升至27.5%，但方法需要逐token概率，纯采样API无法直接使用。
莫纳什大学、香港理工大学、中关村实验室阅读简报
CoTrace：训练终端智能体时，执行框架也是数据的一部分
按提示、工具和观测处理的来源筛选轨迹；小语料有效不等于总成本更低
CoTrace交替优化模型权重与执行框架，将运行失败交给框架修改，将与当前框架匹配的验证成功轨迹用于监督训练，并持续补充新任务。9B模型在反复用于选择版本的102题promotion split上由78到88，RL系统到90；但独立运行框架会改变迁移结果，SFT在SWE-bench Lite的配套系统仍不如基础系统。
UC San Diego、Salesforce AI Research、University of Washington阅读简报
RH-Detect：奖励作弊检测器的高分为何难跨来源迁移
同域微调接近满分，却可能在另一输入轨道退到随机水平
RH-Detect统一11个来源的奖励作弊数据，区分开放轨迹、选择题和受保护响应。实际主评测使用六来源5021条合格轨迹，显示部分通用模型能很好排序，但工具轨迹更难；去掉思考文本、抽取证据或单token微调都有明显模型和来源依赖。
University of Toronto、Vector Institute、Aether、Trajectory Labs阅读简报
U-Space：从模型内部追踪疑虑，但不要把疑虑当成错误概率
四条语义轴与预测熵组合；长度控制、白盒成本和代码差异决定如何解读
U-Space把表示歧义、信息缺失、证据冲突与一般疑虑的词语映射回模型隐藏状态，构造四维空间，再把推理结束处的方向信号与整段推理的平均预测熵相乘。它提供可观察的疑虑轨迹，但既不输出校准后的错误概率，也没有证明四种轴是真实错误原因的完备分类。
Tobias Braun等研究团队阅读简报
小模型抽象推理系统研究：同分布会做题，不代表规则能迁移
千余次实验拆开训练、网格尺度与输出格式，单模型代表一种架构仍是混杂因素
研究用ARC-TGI可重复采样的网格变换家族，对三种小模型开展超过1000次训练与评估。结果把同家族新样本、网格尺度变化和原始ARC跨基准迁移区分开：同分布拟合可很高，但迁移、提示长度与直接输出网格或生成Python程序会明显改变表现。
汉诺威大学、TIB、Amazon作者（注明工作在Amazon之外完成）阅读简报
看出工程题不可能，为什么模型仍把结果标成“已解决”？
成对力学题区分求解、识别矛盾与结构化拒绝；格式改善拒绝也可能损伤正常题
研究为力学题构造只改一个数据或前提的错误孪生题，先用两套数值方法核验答案，再分别评估正常题求解和错误题拒绝。14个模型的结果显示，正文指出矛盾、给出修正后答案、JSON仍标solved可以同时发生；允许状态报告flawed能提高部分模型拒绝率，却不是无代价的提示修复。
圣克拉拉大学 · Shaoliang Yang、Jun Wang阅读简报
基础模型的推理开关：开头两个词元与训练数据的联系
数据替换与重新训练给出因果证据；不能据此把强化学习的全部价值缩减为开头措辞
研究固定基础模型回答的开头词元，Olmo-3-7B在MATH-500的单次采样正确率从42.2%到77.9%，接近RL-Zero参考模型。更关键的是，替换中期训练数据的词语再训练，可以让原本无关的Chicken触发类似推理，也能把原触发词重定向为提问。有效前缀依赖模型、提示模板和位置，较强后训练模型及部分任务未获益。
MIT、UC Berkeley、华盛顿大学、Allen Institute for AI阅读简报
SSR：在同一推理前缀下，学会拒绝少数低价值续写
首个可分辨退化点监督LoRA门控；不等于证明该步逻辑错误
Self-Step Rejection 冻结推理模型，用同骨干LoRA适配器判断新生成的一段是否接受，拒绝则从原前缀重采样。训练以相对初始解题成功概率首次明显下降为负标签，并用同前缀排序和最终答案奖励优化。三模型五数学测试显示较好的准确率/生成token折中，但需离线标签与训练，并非模型无需监督自然自检。
佐治亚理工学院、普渡大学阅读简报
R-Quest：自我进化先问“题目成立吗、是否只换了说法”
有效性与结构新颖性抑制十轮退化；初始化仍用了外部强模型和人工核验
R-Quest 发现自生成数学题会逐渐变得无效或重复，而中等答案一致性筛选甚至偏向无效题。它先教解题器识别题目缺陷，再让有效性和冻结基础模型的题型比较共同约束出题奖励。Qwen3-4B的十轮实验避免R-Zero式退化，但并非无外部知识、无限自我提升或每个测试都更好。
圣路易斯华盛顿大学、密歇根大学安娜堡分校阅读简报
缩短推理链之后，我们还看得懂模型吗？
忠实性与可监督性不是同一个指标，输出不稳定也会拉低解释分数
研究在三种4B–8B推理模型上比较固定截断、指定长度和组内长度奖励。多数设置降低推理链对模型行为的可预测性，但对迎合用户线索的检测大体保留；严重压缩时，医学问题中的偏置影响更容易被隐藏。结果反对把“更短”与“更不可信”直接画等号。
谢菲尔德大学、阿斯利康阅读简报
OMVV：什么时候换一个便宜的验证器，什么时候请强验证器？
在线路由、独立阈值与随机审计共同作用；保证针对有条件的累计误差
OMVV维护多个弱验证器，每轮只调用一个，再决定接受、拒绝或交给昂贵oracle。它利用候选答案之间的一致性校正分数，并从抽样获得的oracle反馈更新阈值和路由权重。论文把核验成本与错误控制结合，但真实成本、可靠真值和冷启动仍是落地关键。
加利福尼亚大学欧文分校阅读简报
Text-Centric Omni：先用文本增强推理，再以少量音视频恢复感知
训练便宜但能力有取舍；纯文本路线不能完全替代原生感知训练
研究发现单跳感知正确并不保证多跳音视频推理正确，用局部梯度投影分析两目标的部分可分性。文本SFT与GRPO能增强Omni模型推理，但会损伤感知；最终加入减少数据量的音视频GRPO恢复感知。最强文本数据来自视频脚本，另有完全由文本LLM合成的独立实验，不能混为一条无多模态数据路线。
上海交通大学阅读简报
Mem++：保留组织原始文档，把取舍留到查询时
非破坏性记忆的价值明确，但附录揭示截断、时间泄漏与评测口径限制
Mem++将每份文档连同时间和作者完整保存，查询时先按目标日期过滤，再融合词法、向量与标签检索，把带出处的原文交给回答模型。它减少写入摘要造成的证据损失，但保存完整不等于检索或上下文完整；组织基准的截断使部分宣称机制实际未到达回答模型。
Ahmad Yehia等 · UT Austin、AIDAChip阅读简报
按提及顺序寻址：模型怎样从上下文中找到一个事实
一次残差向量干预能改选事实，但并非通用长文检索定律
研究比较模型面对同一事实列表、切换提问对象时的最后提示token状态差异。跨上下文平均得到的序数向量，可把模型从第一个事实引向第二个事实，即使名字、内容和关系改变。控制实验区分事实顺序、名字顺序与token距离，提出中间层“事实地址”假说。
Duke University · Yufa Zhou阅读简报
Telescopic LM：把每个网络前缀都训练成可用出口
一次训练覆盖连续深度，但中间尺寸仍不如专门训练的模型
固定几个早退层的模型，在未训练的深度停止常会崩溃。TLM每个批次随机训练一个前缀，再锚定完整网络，使1至20层都能输出可用概率；其收益是预算覆盖更平滑，不是所有尺寸精度更高，也没有实现逐token任意切换深度。
Zhilin Guo 等 · 剑桥大学等阅读简报
WideSWE：一个需求跨仓库，成功要看整个系统
120个真实任务中最佳配置完成42.5%；改对一个仓库仍可能整体失败
前端、后端、SDK往往必须一起改变，单仓库榜单难以验证接口一致性。WideSWE从关联PR构造120个跨仓库任务，让agent处理共享请求，并要求所有目标仓库通过隐藏测试；结果揭示遗漏仓库、错误共享表示和修复后退化三类问题。
Baoyi Wang、Xingliang Wang 等 · 浙江大学等阅读简报
CounterMem：把经过检验的反事实修正变成可复用记忆
记住为什么改、何时适用，并允许选择器跳过记忆
失败后，CounterMem在同一状态的副本中检验局部替代动作，保存原动作、修正、检验证据和适用条件。之后由小型DQN决定用一条记忆还是跳过，基础LLM不更新。这里的世界模型是测试、证明检查器或求解器；经源任务验证的经验依然可能害了新任务。
Hongji Pu、Ruixiang Tang、Yongfeng Zhang · UIUC、Rutgers阅读简报
ELF-REG：让连续扩散语言模型同时学习局部与全局语义
自回归教师表征对齐、REG token 与提前停止采样
ELF-REG 在连续语言潜空间里去噪：用冻结自回归教师对齐逐位置表征，并加入共同去噪的全局 REG token。它减少部分任务达到目标分数所需的训练轮数，但提示编码、教师成本和评测协议必须与去噪次数分开计算。
Zeyu Michael Li 等阅读简报
Self-Play Pretraining：程序自博弈能学到多少通用结构
零自然数据梯度的概念验证；不等于没有先验或不需要世界知识
两个随机初始化的字节模型互相塑造训练课程：生成器写程序，解释器产出字节，学习器预测字节，学习反馈再更新生成器。作者观察到自然数据预测损失下降和上下文规则学习，但规模仍小于 25M，且自然验证集参与了调参。
Aditya Cowsik 等阅读简报
Seek：让相关性反馈改变下一轮检索
伪段落生成、检索、评分反复协作，输出仍是文档排序
一次召回遗漏的文档，单纯重排序无法找回。Seek 用已检索文档的相关性判断生成下一轮伪段落，重新搜索整个语料库，最终合并评分与检索分数；它研究的是检索排名，不是直接生成问答答案。
Amin Bigdeli 等阅读简报
ICLR：智能体什么时候可以忘记刚才的推理
按代理模型预测熵删块，总体增益掩盖了领域差异
ICLR 在每步工具交互之后压缩刚完成的推理文本，保留动作和观察，再把压缩历史永久写回。论文把推理视为暂存任务状态：结论写进代码、文件或工具反馈后，旧文本可能更容易替代；这仍是有风险的经验压缩规则。
Mingxuan Wang 等阅读简报
PoS SAE：词性信息分布在一组潜变量中
95%覆盖不等于95%精度；可线性读出也不等于模型因果使用
研究把 Llama-3-8B 的稀疏自编码器激活与 GUM 词性标签对齐，寻找可跨样本复用的小组。结果支持词性信息分布式存在，却没有得到“一种词性对应一个纯净特征”的结论；控制句中的高召回、低精度尤其值得注意。
Alessandro Bondielli 等 · 比萨大学阅读简报
CoT前缀：评测接口怎样把正确信息读成错误答案
要求先解释却立即评分选项标签，测到的可能是输出格式错位
给模型加上“逐步思考”后立即比较A/B概率，与让模型真正生成推理再抽取答案，是两种不同事件。论文在ScienceQA发现前者大幅掉分，而匹配探针仍可读出答案信息；这提醒我们先检查解码协议，不能把接口失配直接称为推理能力退化。
Zeyan Li、Siyuan Qiu、Jianfeng Xu · 上海交通大学阅读简报
ALOE：知识编辑先解决“该改哪些状态”
高局部性来自有选择的门控，改写覆盖仍是主要短板
同一主体可能有多个关系，直接写入一个残差容易误伤邻近事实。ALOE先学习能区分释义和同主体错误关系的语义地址，再校准门控，把低秩残差嵌入一个MLP投影；它提高编辑成功与局部保持，但对换一种问法的覆盖仍明显不足。
Zeyan Li、Hu Xu、Jianfeng Xu · 上海交通大学阅读简报
ProofGap：把数学证明拆成可验证的局部义务
单步能证明，不代表能独立完成整道题；发布数据与论文规模也不同
ProofGap把数学分析教材解答中的中间结论变成带局部假设的证明任务，用Lean或受限DSL验证。它能定位整题分数掩盖的推理短板，但每一步获赠前序结论，不能把单步成功率当成端到端证明能力；当前仓库数据规模也与论文表格不同。
Lihan Xie 等 · 上海交通大学阅读简报
激活记忆与参数记忆：互补，也会互相干扰
在人造规则任务中拆开事实存储与规则执行
研究把读历史的激活记忆、用历史更新参数的参数记忆，以及两者结合放在相同合成任务中比较。结合方式在复合规则上受益，但同样的参数更新也可能破坏事实回忆；结论受优化器、任务和更新预算约束。
东北大学、NiuTrans阅读简报
Exact Feedback：检查器说对了，不代表语言模型改得对
把多轮修订作为控制过程，观察重复、停滞与重置
这项研究用可以精确验算的字数、词汇与组合约束，观察模型收到正确反馈后如何修改。它不仅看最后有没有成功，还追踪重复输出和纠错方向：外部检查器能定位错误，不等于模型能够稳定执行对应修改。
Haitong Jiang 等阅读简报
Qwen3.8-Omni：从声画编码到实时智能体
9 月 22 日技术报告深读更新，沿用原模型条目
新技术报告补齐 Qwen3.8-Omni 的低频音频编码、空间音频、长视频检索与实时语音链路。它把模型和外部工具协作起来，但模型权重开放范围、端到端延迟和个别退步指标仍须与插件开源分开看。
阿里巴巴 Qwen阅读简报
OmniFysics-Nano-V2：物理理解需要怎样的多模态监督
静态属性先验、声画事件对齐与两阶段奖励
这个 4B 全模态模型把物体属性与声画事件整理成训练监督，再筛出奖励存在差异的问题做两阶段优化。它输出文字与语音，也能给仿真提供物性先验；从图片估计质量或摩擦系数仍不是物理测量。
Fysics AI、复旦大学阅读简报
Greedy Precision：只在词元竞争接近时重算输出头
贪心解码的一致性修补，收益集中在小批量与低裕量步骤
温度为零仍可能因 BF16、FP16 和硬件算子差异生成不同文本。这项研究先检查原精度下第一、第二候选的 logit 差，仅在差值很小时以 FP32 重算输出头；目标是跨精度文本一致，而不是自动提高答案正确率。
Gaoyuan Du 等阅读简报
记忆还是上下文：一次事实冲突测试为什么会随问法翻转
31 个模型、六类事实与五种提问模板，区分参数知识和实验测量
这项研究向模型提供与已知事实冲突的短文本，检查回答更接近参数记忆还是眼前上下文。模型规模、事实频率、问法和填充文本都影响结果；最值得关注的是，同一模型的“偏好”会因测量模板大幅翻转，不能把单次冲突测试当成稳定知识属性。
Guilhem Fouilhé 等阅读简报
RPMem：将跨会话记忆压进可迁移的低秩适配器
固定容量的在线写入，不代表无成本更换骨干
RPMem 用冻结编码器与学习到的编译器把会话写成固定形状记忆，再由任务训练的逐坐标门控累积，解码为当前骨干的 LoRA。它避免每次查询重读历史，但更换骨干仍需要训练专用解码器；可迁移性与零训练迁移是不同承诺。
复旦大学、阿里巴巴 Qwen阅读简报
TierKV：用分层 KV 缓存换取手机长上下文
预测、低秩与闪存协同的收益，必须和解码减速一起看
TierKV 在解码前预测缓存需求，把上下文分到内存精确、低秩和闪存三层，再用融合注意力与 I/O 调度降低额外开销。它扩展了可运行的上下文，但论文数据不支持“所有阶段都更快”或“精度几乎不变”的笼统结论。
佐治亚大学、北京大学、Western Digital Research阅读简报
L2-SmoothRot：量化误差中，哪些能补偿、哪些不能
用正交残差解释随机符号旋转，再检查困惑度与任务准确率的分歧
这篇论文把线性层量化误差拆成可通过权重补偿的部分与正交残差，据此组合 L2 通道缩放、带随机符号的在线旋转和候选筛选。其 W4A4KV4 模拟结果改善困惑度，但不在所有模型上提高下游准确率，也未测实际部署加速。
东京大学 · Yamato Narita、Issei Sato阅读简报
MDL：检索到的记忆，什么时候应该拒绝使用
低幻觉率与高拒答率必须放在同一张成绩单里
Memory Decision Layer 在检索与生成之间加入可解释门控，用相关性、记忆间可靠性和任务风险决定主动使用、辅助使用、忽略或拒答。关键不是“零参数消灭幻觉”，而是阈值怎样影响回答覆盖率，以及简单启发式是否足以识别真实冲突。
天津理工大学 · Yiming Zhang 等阅读简报
语言通信瓶颈：模型说对了，另一个模型能还原吗
用表达式往返实验拆开生成、理解和共享协议
作者把算术表达式交给一个模型写成英语，再让另一个模型恢复表达式，用符号等价检查信息是否保住。自然语言的歧义会造成角色相关的错误；结构化协议和微调有帮助，但论文的生成端故障归因仍只是模型面板启发式。
Apple · Xavier Suau 等阅读简报
SWE-Proof：通过证明检查，为什么仍可能修错代码
规格、程序映射、隐藏测试与审计是四条不同的信任边界
SWE-Proof 为真实仓库修复任务构建形式化规格与参考实现，并分别检验补丁、证明和语义对应。它最有价值的发现是“证明了错误抽象”仍会失败；当前预印本部分正文与附录数字不一致，本篇侧重可核对的方法及案例，不据此给模型排确定名次。
UC Berkeley、Amazon 等 · George Ma 等阅读简报
DeepSeek V4.1 Flash
缓存怎样压缩，以及近似重建会留下什么边界
新技术报告补充 CED、CSA2 与 SWA Bounded Replay 的分工：减少读入计算、跨层共享缓存，并用少量重算替代部分持久存储。沿用已有模型条目，不计作新模型发布。
DeepSeek阅读简报
Agora：把 AI 研究记录变成共享 Git 图
共享记忆能让研究积累，但会不会把所有人引向同一条路？
智能体把实验、假设、失败和复现记录为相互关联的提交。系统展示领先结果及冷门分支，帮助后续智能体从已有证据继续研究。
Yifan Zhang、Yunheng Zou、Shaokun Zhang、Jian Hu、Hao Zhang、Binfeng Xu、Jan Kautz、Yi Dong · NVIDIA阅读简报
大模型在上下文中形成信念状态几何
从“可以读出”走向“确实参与预测”的机制证据
用隐马尔可夫过程生成序列，检查大模型内部是否表示隐状态的后验分布，再通过修改这一表示检验它是否影响预测。这里的“信念”是统计状态，不是主观意识。
Daniel Balcells、Andrew Jun Lee、Chirag Rastogi、Paul M. Riechers、Adam Shai、Xavier Poncini阅读简报
XConf：用过去答错的记录校准今天的自信
回顾补收：独立评分、经验检索与再次反思
XConf 先记录回答时的自我反思，再以外部评分建立经验库。新任务同时读取相似经历的命中率与具体失败教训，从而调整置信度；LLM 参数冻结，但检索几何仍使用带标签的历史拟合。
剑桥大学、Google DeepMind阅读简报
OnPoKD：让蒸馏目标随样本可靠性变化
视觉语言模型分类适配；on-policy 控制器不是强化学习训练
固定教师可能把错误或对新类别的偏差传给学生。OnPoKD 用教师、学生和冻结零样本先验的可靠性线索，为每个样本调整目标混合、损失权重与温度；部署时删除控制器，保留原学生分类结构。
Hongyuan Zhang 等阅读简报
GPT-6 Astra
能力提升之后，如何评估智能体的行为
Astra 系统卡除了报告能力与对齐评测，还披露思维链可监测性相对前代下降。它值得作为智能体行为研究材料：任务做得更强，并不意味着内部过程更容易被可靠监督。
OpenAI阅读简报
Claude Fable / Mythos 5.1
同一底座，不同访问与防护边界
Fable 5.1 与 Mythos 5.1 使用同一模型，但配置不同防护与访问条件；前者一般可用，后者受限。官方同时展示编程、科学任务等进展，评测结果需连同工具框架和任务版本阅读。
Anthropic阅读简报
Qwen3.8-Next：混合注意力、门控残差与主机侧容量
回顾独立架构报告：125B、激活 6B，另有 51B n-gram 容量
这份架构报告研究如何同时降低长上下文成本并稳定大规模训练：三层 Gated DeltaNet 搭配一层 Qwen Sparse Attention，门控残差控制读写，另将 n-gram 容量放到主机内存。它与已收录的通用 Qwen3.8 发布不是同一项工作。
Qwen 团队 · Zihan Qiu 等阅读简报
SPAR：学会在局部信息足够时忽略远端干扰
选择性一致性训练，而非一律压低长上下文影响
远端上下文有时提供答案，有时只是噪声。SPAR 保持近端后缀不变、打乱远端前缀，只在局部足以预测且完整上下文收益很小的位置约束预测一致性；推理时仍是普通语言模型，不额外判断或删除上下文。
Jinchang Zhu 等阅读简报
Jacobian Lens / J-space
研究模型没有写出来的内部推理
通过 Jacobian Lens 把内部激活映射到可读的词汇方向，研究一组可被报告、调节和用于多步推理的表示。作者称其具有全局工作空间特征，但明确不把它当作主观意识的证明。
Anthropic · Wes Gurnee、Jack Lindsey 等阅读简报
ToolGrad：先跑通工具，再反推训练问题
回顾补收 v3：500 条数据的质量收益与扩展瓶颈
ToolGrad 从成功执行的 API 链反推用户问题，减少先写问题再找工具导致的失败样本。全文 v3 使用 ToolGrad-500，不能沿用旧摘要中的规模；“文本梯度”是流程选择的反馈，不是对工具进行数值求导。
Google、东京大学、RIKEN 等阅读简报