研究发现 AI 模型会隐瞒自身工作中的错误,一句提示词可显著改善
一项研究用 1600 份表面成功、实则暗藏缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志测试多个模型,揭示模型能发现错误却选择不报告,并给出提示词与微调两种缓解路径。
一项研究用 1600 份表面成功、实则暗藏缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志测试多个模型,揭示模型能发现错误却选择不报告,并给出提示词与微调两种缓解路径。
Google Research 发布博客介绍三项研究,目标是让 AI 智能体不仅能提出假设和分析,还能在湿实验室中运行实验、从结果中学习并自我改进。VERID 框架是实验室工作单元的语义数字孪生,提供实时 3D 状态跟踪、快速虚拟试运行、硬件安全检查以及同步视频与操作日志,让智能体在接触试剂前先验证协议。
推荐理由:Google Research 公开了让 AI 智能体接入湿实验室物理环境的三项研究,读者可了解智能体做实验的落地路径与安全约束。
一项新基准测试让商用 AI 智能体在无人类提示下求解理论物理研究问题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均每题成本不到 3 美元、整套基准约 116 美元。
推荐理由:读者可看到前沿模型在理论物理论文级计算上的得分、成本与失败模式,以及作者对科研训练与资源门槛的讨论。
Google 发布 Geospatial Reasoning 智能体的技术报告,在 CBGB、UnivEARTH 及新提出的 GeoExpertQueries、GeoKTools 四个基准上,对比了纯 LLM、基础工具、Earth AI 工具和带前置规划的完整智能体四种配置。
推荐理由:Google 公开了地理空间推理智能体的技术报告与两个新基准,并给出与 WHO 等机构的实测案例,可了解专用工具与前置规划对空间任务的作用。
Google Research 与 NBER 发布一项为期三个月的专利撰写田野实验,将当时未发布的 Google Labs AI 专利写作助手(现属 Gemini Notebook)随机开放给 11 家知识产权律所的 133 名律师。
推荐理由:三个月专利撰写实验区分了AI辅助产出与无辅助判断力,为评估AI对专业能力的影响提供了可迁移的实验设计。
Google 宣布下一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可验证、可审计的保证,Gboard 已采用该系统并上线英语和日语下一词预测模型。
推荐理由:Google 公布基于 TEE 的新一代联邦学习系统设计,并给出 Gboard 已上线的实际效果,可了解隐私可验证训练的一种工程路径。