METR与Redwood审计OpenAI内部监控发现缺口
先了解这件事
METR 与 Redwood Research 的两名研究员于 7 月 21 日至 8 月 11 日在 OpenAI 驻场三周,审计其针对失控 AI 行为的内部监控系统,发现多处缺口。 审计发现,GPT-5.5 级别及以上模型的内部 agentic Responses API 流量估计有 6% 至 25% 完全未被监控覆盖;METR 称该估计的不确定性在两个方向上都很显著。本应受监控的内部 Codex 流量在 5 月至 7 月间约有 10% 未被追踪,原因是系统处理 compaction 事件(上下文摘要)存在缺口,OpenAI 在审计进行中已自行发现并修复该 bug。 公开范围有限:经 OpenAI 删减后,METR 与 Redwood Research 管理层拿到 38 页版本,公众只获得一份简短摘要;METR 称无权自行披露被删减部分。 OpenAI 表示,8 月 Hugging Face 事件后已暂停强化学习训练并扩大监控覆盖,但这些改动发生在审计人员访问期结束之后,未纳入本次评估。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- The Decoder精选METR 与 Redwood Research 在 OpenAI 驻场三周审计,发现 AI 安全监控存在多处缺口
METR 与 Redwood Research 的两名研究员于 7 月 21 日至 8 月 11 日在 OpenAI 驻场三周,审计其针对失控 AI 行为的内部监控系统,发现多处弱点。审计期间,GPT-5.5 级别及以上模型的内部 agentic Responses API 流量估计有 6% 至 25% 完全未被监控覆盖,METR 称该估计的不确定性在两个方向上都很显著。本应受监控的内部 Codex 流量在 5 月至 7 月间约有 10% 未被追踪,原因是系统处理 compaction 事件(上下文摘要)存在缺口;OpenAI 在审计进行中已自行发现并修复该 bug。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。