我们是否过度相信 AI 说"不"的能力
MIT Technology Review 文章指出，AI 的拒绝机制已成为 AI 安全的"承重墙"，但这一机制本质上是概率性的，并不可靠。模型在训练中学会拒绝有害提示词，却仍保留作恶能力，已有用户试图用先进 AI 培育生物病原体、构建自主无人机蜂群。文章还警告，拒绝机制让 AI 公司乃至政府得以划定言论边界，可能被用于压制异见。
MIT Technology Review 文章指出，AI 的拒绝机制已成为 AI 安全的"承重墙"，但这一机制本质上是概率性的，并不可靠。模型在训练中学会拒绝有害提示词，却仍保留作恶能力，已有用户试图用先进 AI 培育生物病原体、构建自主无人机蜂群。文章还警告，拒绝机制让 AI 公司乃至政府得以划定言论边界，可能被用于压制异见。