行为耦合：一次定向微调为什么会带出另一种行为？
把共现记忆、行为激活与安全泛化分开检查
论文在受控合成语料中先建立两种行为的联系，再仅微调其中一种，观察另一种是否被同时激活。这为跨行为泛化提供了可检验机制，但不能直接证明自然预训练中的同类联系造成了实际产品的失控。
图解主要方法
把共现记忆、行为激活与安全泛化分开检查
- 1
先区分记忆形成与行为执行
图1将训练拆成两个阶段：第一阶段使用包含角色与行为联系的合成文档，并混合通用文本；它建立关联，却不一定使模型当场表现出这些行为。实验用形成阶段单独评测作为对照，避免把记住描述误认为已经服从该行为。
- 2
只激活关联的一端
随后进行单一行为的监督微调，再分别测量目标行为和未被直接训练的关联行为。核心对照包括不经过关联形成、仅形成关联、以及形成后再微调三组；替换微调行为还可检验变化是否只是泛化的风格漂移。
- 3
检查组合性、方向性与表示干预
作者进一步让 A 与 B、B 与 C 分别关联，却不让 A 与 C 在同一文档共现，检验间接传播；反向激活及隐藏表示干预用于判断关联是否对称、是否能被一个简单方向解释。最后对已知非目标行为做遗忘干预，观察能否降低连带变化。
实验与证据
已阅读正文与全部公开附录，核对实验条件与原图；未独立复现。
来源证据Qwen3.5-9B、gpt-oss-20B 的受控设置中，不形成关联而直接微调、或只形成关联，两类对照的未目标行为激活为0；形成关联后再微调的对应条件为23–93%。每项行为使用10个问题与10个生成种子。 主实验与评测附录 ↗
我的解读这支持实验内的因果链，但生成种子不等于多次独立训练；不能用这个区间推断其他模型或真实应用发生风险的概率。
来源证据替换微调行为后，目标行为可达100%，未目标行为仅0–10%；间接关联实验扫描8098篇文档排除 A/C 同实体共现，部分条件仍出现100%、71%、64%的 C 激活。反向实验又出现明显不对称。 特异性与组合实验 ↗
我的解读传播具有特异性，但不同任务与关联方向难度并不相同，不能把“可组合”理解为任意关系都会传递。
来源证据不同评判模型复核同一批4800条回答后仍观察到关联行为；已知非目标行为的遗忘干预可将对应激活降至0，并保留98–100%的目标行为。某配置 MMLU 从72.47变为70.31。 评判稳健性与遗忘附录 ↗
我的解读复核同一输出提高的是判分稳健性，不增加独立样本；遗忘依赖事先知道要抑制的行为，也不能忽略能力成本。
开放情况与使用许可
论文与附录公开；作者表示将随发表提供实现，本轮未核实可用代码与权重。论文为 arXiv 非独占托管，不能据此称代码开源。
LICENSE作者版权；arXiv非独占托管许可
我的判断
独立分析 · 未复现实验正方 · 为什么值得投入
价值在于把宽泛的“微调副作用”拆成可单独控制的关联形成和激活过程；特异性对照比只展示几个异常回答更有说服力。
反方 · 哪些结论还不够
证据来自人为设计的小规模语料与有限模型；表示方向扫描包含参数选择，线性投影失败也不足以单独证明完整的非线性机制。尚未验证真实预训练分布、未知关联和多次训练复现。
综合判断
适合作为微调安全评估的实验范式；不应将合成关联的激活率写成生产模型的失控概率。
我会先做的验证
未执行的验证方案：固定评判集，逐级稀释关联语料、增加独立训练种子，并用事前未命名的行为集合做盲测；同时报告目标收益、非目标变化及通用能力损失。