Sam Altman 据报向员工提出三种 AI 安全终局方案

据 The Information 援引知情人士报道，OpenAI CEO Sam Altman 上周在内部向员工提出三种实现 AI 安全的路径。第一种是仿照国际原子能机构（IAEA）建立机构，负责检查系统、要求审计并监控算力与能耗，OpenAI 曾在 2023 年 5 月公开呼吁设立此类机构。第二种被他称为 Demis Plan，源自 Demis Hassabis 约十年前仿照 CERN 提出的设想，即主要实验室合并为单一实体，由该实体向合作国家提供模型。第三种被称为 Eliezer Plan，指某开发者借助自我改进的 AI 积累足够经济实力后，拒绝向其他方提供算力，极端情况下可关停他人的计算能力；报道称 Altman 仅为完整性提及该情景，有消息人士认为这是对竞争对手的暗讽。Altman 还抱怨针对 AI 发展速度限制的可行方案太少，同时 OpenAI 不能落后于对手。