跳到正文
热点事件持续更新

METR与Redwood审计OpenAI内部监控发现缺口

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

METR 与 Redwood Research 的两名研究员于 7 月 21 日至 8 月 11 日在 OpenAI 驻场三周,审计其针对失控 AI 行为的内部监控系统,发现多处缺口。 审计发现,GPT-5.5 级别及以上模型的内部 agentic Responses API 流量估计有 6% 至 25% 完全未被监控覆盖;METR 称该估计的不确定性在两个方向上都很显著。本应受监控的内部 Codex 流量在 5 月至 7 月间约有 10% 未被追踪,原因是系统处理 compaction 事件(上下文摘要)存在缺口,OpenAI 在审计进行中已自行发现并修复该 bug。 公开范围有限:经 OpenAI 删减后,METR 与 Redwood Research 管理层拿到 38 页版本,公众只获得一份简短摘要;METR 称无权自行披露被删减部分。 OpenAI 表示,8 月 Hugging Face 事件后已暂停强化学习训练并扩大监控覆盖,但这些改动发生在审计人员访问期结束之后,未纳入本次评估。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月24日
  1. The Decoder精选
    METR 与 Redwood Research 在 OpenAI 驻场三周审计,发现 AI 安全监控存在多处缺口

    METR 与 Redwood Research 的两名研究员于 7 月 21 日至 8 月 11 日在 OpenAI 驻场三周,审计其针对失控 AI 行为的内部监控系统,发现多处弱点。审计期间,GPT-5.5 级别及以上模型的内部 agentic Responses API 流量估计有 6% 至 25% 完全未被监控覆盖,METR 称该估计的不确定性在两个方向上都很显著。本应受监控的内部 Codex 流量在 5 月至 7 月间约有 10% 未被追踪,原因是系统处理 compaction 事件(上下文摘要)存在缺口;OpenAI 在审计进行中已自行发现并修复该 bug。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。