跳到正文
The Decoder· Matthias Bastian·· 2 小时前精选AI 评分78

METR 与 Redwood Research 在 OpenAI 驻场三周审计,发现 AI 安全监控存在多处缺口

Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring

AI 导读

METR 与 Redwood Research 的两名研究员于 7 月 21 日至 8 月 11 日在 OpenAI 驻场三周,审计其针对失控 AI 行为的内部监控系统,发现多处弱点。审计期间,GPT-5.5 级别及以上模型的内部 agentic Responses API 流量估计有 6% 至 25% 完全未被监控覆盖,METR 称该估计的不确定性在两个方向上都很显著。本应受监控的内部 Codex 流量在 5 月至 7 月间约有 10% 未被追踪,原因是系统处理 compaction 事件(上下文摘要)存在缺口;OpenAI 在审计进行中已自行发现并修复该 bug。

推荐理由

外部研究者首次获准进入 OpenAI 内部审计监控系统,披露的覆盖缺口和绕过路径为评估前沿实验室安全治理提供了具体参照。

来源:The Decoder · the-decoder.com