DreamFormer：把多视角压成一个时间词元，在世界模型内学习模仿

每时间步只保留一个Transformer位置，还能否用想象轨迹学到可迁移的语言操控策略？

1. 1

   从两个原始分辨率视角形成一个时间位置

   静态200×200、夹爪84×84图像分别经从零训练的ResNet-18和空间softmax，拼接后预测64组各32类的离散变量。展平为2048维、64个激活位，再与动作融合映射成一个Transformer输入；单词元不等于一个类别或保留全部像素信息。

2. 2

   用重建和动作条件预测训练世界模型

   5层12头、宽768的因果Transformer预测下一潜变量。训练含图像重建、归一化后验熵奖励和双向停止梯度KL；前250K步调节KL系数，整条轨迹使用一致像素平移以避免破坏相对运动。世界模型不预测任务奖励。

3. 3

   以专家潜在轨迹作为想象模仿目标

   从专家状态初始化16步真实上下文缓存，在冻结世界模型中展开32步策略轨迹；奖励用两状态点积除以较大范数平方，鼓励同时间位置的想象状态接近专家。演员通过可微动态最大化lambda回报，评论家回归目标。

4. 4

   把语言和高层计划接入控制

   目标可为终点潜状态或MiniLM语言特征；计划识别器训练时看完整专家轨迹，计划提议器只看当前状态和目标，以KL对齐。对比损失让语言与轨迹关联；推理只能使用提议器，不能偷看未来专家状态。

5. 5

   执行时用真实历史更新而不做想象搜索

   缓存以最近真实观测的固定窗口滑动，演员依据当前潜状态、语言目标和所提计划直接动作。训练期想象缓存会增长，执行期缓存有界，二者计算行为应分开描述。

完整67665字符正文及实现细节已读，当前公开版本无另附附录；图2核验；arXiv日期许可与官方发布入口检索。未复现训练或时延测试。

论文公开架构、超参数和实现说明；本轮未找到论文链接的官方实现仓库、检查点或模型卡，不将方法公开称为开源。检索到的同名或相似项目未作为发布证据。

LICENSE论文为arXiv非独占托管许可；图2保留来源用于方法评论。实现与权重许可未确认。