The Decoder ↗ · 2026-11-18 22:36 · UTC+8
OpenAI 首次向四家独立现场审计机构开放其 AI 系统
媒体报道 The Decoder 原文语言:英文
OpenAI 首次向包括 Apollo Research 和 METR 在内的四家独立审计机构直接开放未发布模型、源代码和训练数据。
全文
简讯
OpenAI首次向四个独立的现场审计机构开放其AI系统
Manuel Uth
2026年11月18日
OpenAI正授予四个外部审计组织直接访问其内部AI系统的权限,以便在现场调查安全风险和模型行为。该公司宣布,正与Apollo Research、METR、Transluce和Goodfire合作。该项目建立在先前对其监控系统的现场审查基础之上,并履行了“超级智能白宫协议”中的承诺。
根据各自的任务,这些组织将在OpenAI的办公室获得对未发布模型、源代码、训练数据和监控系统的访问权限。他们还可以与开发人员进行保密对话。Apollo Research正在检查模型是否暗中违背开发人员的意图。METR正在审查最大规模强化学习训练运行中的AI异常行为,这是一种模型通过奖励进行学习的方法。Goodfire正在分析内部模型过程,Transluce则在评估训练后的安全检查。OpenAI和Transluce还计划在2027年初进行为期八周的后续审查。
一个独立的安全委员会负责监督整个过程,接收未经编辑的报告并调解争议。审计人员独立发布其调查结果,但OpenAI可以修订机密材料并推迟报告发布以便优先修复风险。该公司预计早期会产生一些摩擦,但已经在考虑进行更多的审查,包括侧重于企业文化和内部流程的审查。
正文为 AI 译文。