开放模型利大于弊吗?Anthropic 报告称 GLM-5.3 构成重大网络攻击风险
Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型可下载、可重训、可微调,成本通常低于闭源模型,但安全与民主化之间存在权衡。截至发稿,Artificial Analysis LLM 榜单前八名均为闭源模型,开放模型在开发进度上仅落后数月。
Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型可下载、可重训、可微调,成本通常低于闭源模型,但安全与民主化之间存在权衡。截至发稿,Artificial Analysis LLM 榜单前八名均为闭源模型,开放模型在开发进度上仅落后数月。
MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的"承重墙",但这一机制本质上是概率性的,并不可靠。模型在训练中学会拒绝有害提示词,却仍保留作恶能力,已有用户试图用先进 AI 培育生物病原体、构建自主无人机蜂群。文章还警告,拒绝机制让 AI 公司乃至政府得以划定言论边界,可能被用于压制异见。
MIT Technology Review 与 Aventine 合作的文章指出,尽管马斯克称 Tesla Optimus 可能以低至 2 万美元每台自动化几乎所有人类劳动、并预测 2027 年底前向公众发售,但许多机器人研究者对此持怀疑态度。