ValueMap:训练模型更重视一种价值,会顺带改变哪些行为?
行为激活比价值名称更能预测迁移,但相关性还不是可控对齐
逐个价值微调四个基础模型,测量对未训练价值的变化,建立有方向的泛化矩阵;再比较名称、行为文本、权重差、persona激活和梯度表示的余弦相似度能否预测它。最后用激活表示分析多价值目标与分类体系。
Andy Liu、Mehar Bhatia 等 · CMU、Mila、McGill、ETH、UBC阅读简报
每日研究 · 覆盖 2026.10.03 — 2026.10.12
以下为当期记录;研究详情页展示最新已核对信息。
行为激活比价值名称更能预测迁移,但相关性还不是可控对齐
逐个价值微调四个基础模型,测量对未训练价值的变化,建立有方向的泛化矩阵;再比较名称、行为文本、权重差、persona激活和梯度表示的余弦相似度能否预测它。最后用激活表示分析多价值目标与分类体系。
任务、框架与评分共同扩展;9B开放权重不能等同旗舰模型开源
MiMo把长轨迹RL扩展到代码、通用、视觉和安全任务,结合多种轻量agent框架。离线组间比较生成rubric,在线组内评分重分配成功轨迹的正优势;冻结MoE路由、回放采样条件,并持续清理奖励捷径。
保留请求缓存状态,再让每个模型独立推进与等待成批
TokenRouter把路由策略抽象为route/send/receive,把执行拆成每模型子服务器。请求切走时标记pending保留状态,返回时追加未见token;延迟批调度通过短暂等待聚合同模型请求,用吞吐模型选择阈值。
该期没有收录这个领域的人物动态。