跳到正文
The Decoder· Jonathan Kemper·· 3 小时前AI 评分40

前 DeepMind 研究员创立 Metis Reasoning,想用 AlphaGo 思路治 AI 幻觉

Former Deepmind researcher thinks AlphaGo's playbook can cure AI hallucinations

AI 导读

前 DeepMind 研究员 Thore Graepel 创立 Metis Reasoning,提出用 AlphaGo 式搜索与验证机制减少大模型幻觉。该方案以显式“知识账本”替代把知识固化在模型权重中,记录已知内容、置信度和未解问题,并由独立模块用计算、形式化证明或实证证据校验新条目;一旦某个假设失效,依赖它的结论会被重新评估。系统沿用 AlphaGo 的双神经网络结构负责提出与评估“走法”,但神经网络无法覆盖验证规则,推理步骤只有在独立检查通过后才改变知识状态。Metis 称这有望带来更少幻觉、带来源引用的解释,以及无需重训即可修改或删除的知识,并因推理被拆成小步而适合边缘设备和机器人上的小模型。该白皮书目前只是研究计划,没有可用系统、benchmark 或与现有推理模型的对比。

来源:The Decoder · the-decoder.com