MSAR:让残差连接按上下文尺度检索网络深度
保留完整隐藏向量,用多尺度因果卷积构造不同的深度注意力视角
传统残差把各层结果固定相加,MSAR让每个后续层分别从历史层结果中检索。其关键不是切碎通道形成多个头,而是以邻近词的不同上下文窗口扩展完整向量,避免各流只剩同一向量的倍数。
Xiaohan Qin、Junchi Yan 等 / 上海交大、上海创智学院、小红书 Dots Studio阅读简报
故障补刊 · 覆盖 2026.10.09 — 2026.10.15
以下为当期记录;研究详情页展示最新已核对信息。
保留完整隐藏向量,用多尺度因果卷积构造不同的深度注意力视角
传统残差把各层结果固定相加,MSAR让每个后续层分别从历史层结果中检索。其关键不是切碎通道形成多个头,而是以邻近词的不同上下文窗口扩展完整向量,避免各流只剩同一向量的倍数。
紧张 token 预算下,保留正确前缀并改变后续推理,比重新采样更有效吗?
UPTURN 冻结推理模型,训练小型位置策略选择段落边界,再插入一个新的用户回合请求简洁求解。论文的重要性在于区分“沿原轨迹加反思词”和“真正重开对话回合”;收益主要出现在生成预算紧张时,不能概括为任意预算下都优于多采样。
容错编解码、数字保护与位置对齐共同修复动态词表接口
在已有BPE之上用LZW建立输入相关的超token词表,一步可生成多个基础token。新工作针对动态词表破坏输入输出几何、位置和字典同步的问题逐项修复;压缩率与模型质量仍存在明显取舍。
该期没有收录这个领域的人物动态。