激活记忆与参数记忆：互补，也会互相干扰

图 2 的三条路径究竟把历史放在哪里？

1. 1

   激活路径保留历史 token

   Act 使用初始参数读取完整历史，让历史信息留在上下文激活中，不做参数更新。新造词与规则由当前历史定义，减少单靠预训练知识答题的可能。

2. 2

   参数路径写入后移除历史

   Para 用历史做全参数 SGD 更新，随后不保留历史的 KV 激活，只让适配后的模型回答。默认 Nesterov 动量 0.9、学习率 0.01、梯度裁剪 1，每个样本重新初始化，比较 2 次与 20 次更新。

3. 3

   组合路径重新编码历史

   Combo 先更新参数，再用更新后的参数重读同一历史。它同时拥有参数变化和上下文，但这不是把 Act 原有 KV 原样接到 Para 上；重编码本身改变了激活分布。

4. 4

   从单一事实逐步走向复合规则

   六类任务涵盖事实、单运算、条件与组合算术，主设置每类 300 个实例、50 条历史示例，在 Qwen3 与 Llama 基础模型上测试。事实检索和执行条件规则的难点不同，不能只汇总为一个记忆分数。

5. 5

   神经元分析提供相关证据

   作者用配对任务的响应差异选择神经元，在六个层各取前 20 个，并按各设置的标准差归一化。选择和测量使用同一批任务，且没有针对这些神经元的因果干预；活动差异说明相关机制，尚不证明唯一分工。

以下为作者报告；已阅读 v1 全文及可用附录，本站未独立执行研究实验。实验条件与编辑解读分别列出。

全文及附录未给出本研究可核实的独立代码或数据仓库；基础模型引用不等于实验实现开放。

LICENSE实现与数据许可未确认；论文许可见图注。