Telescopic LM：把每个网络前缀都训练成可用出口

图1中的连续出口来自哪些训练约束，为何不能把覆盖面积直接等同模型准确率？

1. 1

   保持嵌套宽度结构不变

   20层依次为11层宽320、5层宽576、4层宽960，沿用分阶段输出头。改变的是哪些深度获得监督，而非为每个预算重新训练独立网络；浅前缀天然缺少深层表达能力。

2. 2

   对同一批次做随机前缀监督

   从1至20均匀抽k，以前k层预测完整语言建模目标。第j层只有在k≥j时收到这部分梯度；随机覆盖让非预设出口也学习输出，而不是推理时临时截断未经训练的层。

3. 3

   再用完整网络目标作锚

   每批额外计算20层的交叉熵，和前缀损失共同更新共享参数。去掉全深锚会使完整模型困惑度显著恶化；浅层覆盖与全深质量存在取舍，不是免费的多模型压缩。

4. 4

   按完整预算曲线评估部署

   推理为每次请求选定一个深度，论文未解决生成途中变更深度后的KV缓存一致性。AULB、LODA积分衡量多个预算点的覆盖，容易突出固定出口基线未训练的区间，应同时查看指定深度与独立模型的绝对困惑度。

以下为作者报告；已读v1完整正文，并检查arXiv源包。作者引用的独立补充PDF未公开取得，未声称读过附录；本站未执行研究实验。实验条件与编辑解读分别列出。

已读公开正文；作者称另有独立补充PDF，已检查arXiv源包和公开链接，源包未含该补充PDF；因此未核实独立附录，本文只依据可取得的完整正文。论文承诺后续发布代码，尚未核实专属实现及权重。

LICENSE代码与权重许可未确认；论文仅arXiv非独占分发，必要原图引用见图注。