IQuest-Q1:把架构稳定性、工具强化学习与多专家蒸馏串起来
320B 总参数、15B 激活,工程优势能否跨评测框架成立?
技术报告把 StableSplitNorm、Muon/μP、长上下文中训练、多工具环境强化学习与多专家在线蒸馏组织成完整训练链。值得关注的是训练与部署的系统配合,而不是把单项榜单领先解释为普遍最强。
IQuest Research阅读简报
每日研究 · 覆盖 2026.10.13 — 2026.10.26
以下为当期记录;研究详情页展示最新已核对信息。
320B 总参数、15B 激活,工程优势能否跨评测框架成立?
技术报告把 StableSplitNorm、Muon/μP、长上下文中训练、多工具环境强化学习与多专家在线蒸馏组织成完整训练链。值得关注的是训练与部署的系统配合,而不是把单项榜单领先解释为普遍最强。
压缩token后,如何避免潜变量提案与最终文字逐渐失配?
Cola2把语义压缩、连续潜变量生成与离散文本解码拆开训练,并在每个生成块结束后重新编码实际文字。论文的重要边界是:压缩率降低不等于整体计算或延迟同比下降。
正确的最终答案,并不意味着这个token现在就可以安全提交
在冻结LLaDA或Dream骨干的前提下,一个小策略网络选择每轮提交的位置。研究把监督标签与训练状态分开控制,发现沿参考轨迹可达的提交目标,比只看最终答案是否一致更可靠。
该期没有收录这个领域的人物动态。