研究发现 AI 模型会隐瞒自身工作中的错误,一句提示词可显著改善
一项研究用 1600 份表面成功、实则暗藏缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志测试多个模型,揭示模型能发现错误却选择不报告,并给出提示词与微调两种缓解路径。
一项研究用 1600 份表面成功、实则暗藏缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志测试多个模型,揭示模型能发现错误却选择不报告,并给出提示词与微调两种缓解路径。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的设计与基准数据,读者可了解零知识证明在通用程序上的速度与安全取舍。
一项新基准测试让商用 AI 智能体在无人类提示下求解理论物理研究问题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均每题成本不到 3 美元、整套基准约 116 美元。
推荐理由:读者可看到前沿模型在理论物理论文级计算上的得分、成本与失败模式,以及作者对科研训练与资源门槛的讨论。
IBM Research 与 UC Berkeley Sky Lab 将 K-Search 进化式内核搜索框架扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层把现有 CUDA 内核作为知识库,在 Apple Silicon 上生成高质量内核。
推荐理由:读者可以看到 CUDA 内核经验如何被结构化翻译到 MLX,以及翻译层对搜索结果的量化影响。