跳到正文
10月13日周二
  1. MIT Technology Review · AI34

    开放模型利大于弊吗?Anthropic 报告称 GLM-5.3 构成重大网络攻击风险

    Anthropic 发布报告称,Z.ai 于 8 月发布的开源模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型可下载、可重训、可微调,成本通常低于闭源模型,但安全与民主化之间存在权衡。截至发稿,Artificial Analysis LLM 榜单前八名均为闭源模型,开放模型在开发进度上仅落后数月。

10月9日周五
  1. MIT Technology Review · AI34

    我们是否过度相信 AI 说"不"的能力

    MIT Technology Review 文章指出,AI 的拒绝机制已成为 AI 安全的"承重墙",但这一机制本质上是概率性的,并不可靠。模型在训练中学会拒绝有害提示词,却仍保留作恶能力,已有用户试图用先进 AI 培育生物病原体、构建自主无人机蜂群。文章还警告,拒绝机制让 AI 公司乃至政府得以划定言论边界,可能被用于压制异见。

10月8日周四