aiwillknow.AI 前沿观察每日 08:00 开始整理

人物与观点

Andrew Fasano · Marius Fleischer 等Anthropic 红队与政策研究作者
2026.09.29署名研究报告

评估网络能力时,应同时看可达模型与防护条件

作者在署名报告中认为,GLM-5.3已表现出值得重视的端到端网络能力,评估风险还须考虑模型实际开放方式和防护条件。其隔离环境测试中,V8基准410次尝试有50次成功,对照Mythos Preview为56次;这不是对真实网络攻击成功率的估计。

中文转述09-29官方全文,无直接引语。报告由另一模型开发商撰写,部分Claude能力测试关闭防护,内部二进制基准未完全公开;能力分数、防护测试和真实可访问版本必须分开理解。本站未执行攻击或复现实验,不把作者的政策判断写成领域共识。

Marina Favaro · Phillie WrightAnthropic Institute 文章作者;Jack Clark 提供研究方向指导
2026.09.17署名文章

不能只看模型跑分,还要看 AI 如何参与研发

两位作者提出追踪研发自动化程度、代理监督和算力分配,并公布 Anthropic 的内部测量快照。他们强调跨机构比较需要共同方法和第三方核验。

依据官方署名文章转述,不是对 Jack Clark 的直接引语。文章报告的是内部流程及测量提案;监控覆盖率不能直接视为风险检出率,算力占比也不是安全工作成效的充分指标。

Yifan Zhang、Yi Dong 等NVIDIA · Agora 作者团队
团队研究发布 · 09-16团队研究动态

研究记录可共享,不代表发现效率已被证明

Agora 团队记录多智能体协作的进展,也明确指出尚未完成相同模型和算力下的受控比较。

这是团队论文中的研究判断,并非某位作者的个人引语。实验实际在 4—5 月运行,9 月发布论文;不能说成 9 月刚完成的实验。我的判断:保留这一证据边界,比只传播“自动科研取得突破”更有价值。

Adam Shai · Xavier PonciniSimplex 研究者;相关论文共同作者
2026.09.15团队研究动态

用可证伪的生成过程预测内部表示

两人参与的作者团队将计算力学用于大模型的上下文学习研究:先计算受控序列应有的后验结构,再寻找内部对应表示并进行干预。团队同时指出,对任意隐状态过程和自然语言任务的推广尚未建立。

这是根据共同署名论文整理的团队研究动态,不是个人采访或直接引语。所述“信念状态”指统计后验;论文并未声称模型具有主观意识。

Dario AmodeiAnthropic 联合创始人
2026 年 9 月 · 原文仅标月份观点转述

为安全评估留出追赶能力的时间

Amodei 主张让前沿模型的能力增长与安全评估保持相称,而非只在发布前补做测试。他提出三个层次:允许常驻第三方评估团队检查训练与部署过程;在行业内协调标准;再寻求可核验的国际合作。文章把操作流程、对齐、可解释性和评测列为争取时间后应投入的具体方向。

这是作者的政策主张。常驻评估是 Anthropic 宣布的承诺,行业与国际协调仍属倡议,不能写成已经落实的机制。值得继续观察的是外部团队实际获得的访问权限、能否独立发布不利发现,以及“能力达到什么阈值才需额外评估”能否被明确。

Demis HassabisGoogle DeepMind 联合创始人
2026.07.14观点转述

为前沿 AI 建立动态、严格的评估机制

Hassabis 提议设立有政府监督、行业参与的前沿 AI 标准机构,以定期更新的能力门槛确定哪些模型需要接受审查。设想中的流程从自愿提交发布前评估开始,再逐步正式化;评测应淘汰饱和题目,并发展独立的保留测试,减少实验室针对公开基准优化的空间。

这是署名文章中的制度提案,并非已通过的监管要求。与单次发布模型卡相比,其关键在于持续更新的测试和独立评估能力。对于 AGI 的时间与影响,文章表达的是作者判断;机构独立性、资金安排和跨国执行仍需进一步论证。

Jack Lindsey · Wes Gurnee 等Anthropic 可解释性研究团队
2026.07.06研究动态

可读的内部表示,不等于完整读心

团队用 Jacobian Lens 研究语言模型内部可被报告、调节和用于推理的表示,并通过干预测试其作用。它提醒读者:模型输出的解释只是观察计算过程的一种线索。

依据共同署名论文与官方研究介绍转述。作者明确不据此判断主观体验;本站也不把“全局工作空间”的功能类比写成意识结论。