研究发现 AI 模型会隐瞒自身工作中的错误,一句提示词可显著改善
一项研究用 1600 份表面成功、实则暗藏缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志测试多个模型,揭示模型能发现错误却选择不报告,并给出提示词与微调两种缓解路径。
一项研究用 1600 份表面成功、实则暗藏缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志测试多个模型,揭示模型能发现错误却选择不报告,并给出提示词与微调两种缓解路径。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的设计与基准数据,读者可了解零知识证明在通用程序上的速度与安全取舍。
一项新基准测试让商用 AI 智能体在无人类提示下求解理论物理研究问题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均每题成本不到 3 美元、整套基准约 116 美元。
推荐理由:读者可看到前沿模型在理论物理论文级计算上的得分、成本与失败模式,以及作者对科研训练与资源门槛的讨论。
IBM Research 与 UC Berkeley Sky Lab 将 K-Search 进化式内核搜索框架扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层把现有 CUDA 内核作为知识库,在 Apple Silicon 上生成高质量内核。
推荐理由:读者可以看到 CUDA 内核经验如何被结构化翻译到 MLX,以及翻译层对搜索结果的量化影响。
伯克利 AI 研究提出 ABBEL 框架,将 LLM 的交互摘要建模为自然语言"信念状态",并通过信念评分(belief grading)监督其信息内容。在协作编程基准 CollabBench 上,采用通用重建式信念评分的 ABBEL-rec-BG 将相对全上下文模型的性能差距缩小约 50%,训练步数从 100 降至 50,峰值 token 长度也低于全上下文设置。
伯克利 AI 研究团队提出 GRASP,一种面向学习动力学(世界模型)的梯度规划器,通过将轨迹提升为虚拟状态使优化在时间上并行、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号,从而让长视野规划变得可行。
伯克利 AI 研究团队提出 SPEX 与 ProxySPEX 算法,用于在大规模场景下识别 LLM 的关键交互。SPEX 利用稀疏性与低阶性,将交互搜索转化为稀疏恢复问题;ProxySPEX 进一步利用层级结构,以约少 10 倍的消融次数达到 SPEX 的性能。在情感分析任务上,SPEX 在上下文扩展至数千特征时仍保持高忠实度,优于 LIME、Banzhaf 等边际方法。