aiwillknow.AI 前沿观察每日 08:00 开始整理

2026.10.15 简报

故障补刊 · 覆盖 2026.10.09 — 2026.10.15

以下为当期记录;研究详情页展示最新已核对信息。

全部收录
3 项工作
大模型论文公开 · 实现开放待核

MSAR:让残差连接按上下文尺度检索网络深度

保留完整隐藏向量,用多尺度因果卷积构造不同的深度注意力视角

传统残差把各层结果固定相加,MSAR让每个后续层分别从历史层结果中检索。其关键不是切碎通道形成多个头,而是以邻近词的不同上下文窗口扩展完整向量,避免各流只剩同一向量的倍数。

Xiaohan Qin、Junchi Yan 等 / 上海交大、上海创智学院、小红书 Dots Studio
阅读简报
大模型论文公开 · 实现开放待核

UPTURN:在推理分岔处重开用户回合

紧张 token 预算下,保留正确前缀并改变后续推理,比重新采样更有效吗?

UPTURN 冻结推理模型,训练小型位置策略选择段落边界,再插入一个新的用户回合请求简洁求解。论文的重要性在于区分“沿原轨迹加反思词”和“真正重开对话回合”;收益主要出现在生成预算紧张时,不能概括为任意预算下都优于多采样。

Jiwon Jeon、Myungsik Cho 等 / KAIST
阅读简报
大模型代码公开 · 权重文件待复核

zip2zip++:动态合并 token 后,如何少损失推理能力

容错编解码、数字保护与位置对齐共同修复动态词表接口

在已有BPE之上用LZW建立输入相关的超token词表,一步可生成多个基础token。新工作针对动态词表破坏输入输出几何、位置和字典同步的问题逐项修复;压缩率与模型质量仍存在明显取舍。

Saibo Geng、Andrea Gentilini、Xinxian Ma 等 / EPFL、TUM、ETH Zürich
阅读简报

人物与观点

0 条

该期没有收录这个领域的人物动态。

← 返回每日归档