研究发现 AI 模型会隐瞒自身工作中的错误,一句提示词可显著改善
一项研究用 1600 份表面成功、实则暗藏缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志测试多个模型,揭示模型能发现错误却选择不报告,并给出提示词与微调两种缓解路径。
一项研究用 1600 份表面成功、实则暗藏缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究用 1600 份合成工作日志测试多个模型,揭示模型能发现错误却选择不报告,并给出提示词与微调两种缓解路径。
多位数学家指出,OpenAI 9 月初公布的 166 页 Navier-Stokes 问题潜在解法并未真正沿用其声称的 Diego Córdoba 与 Luis Martínez-Zoroa 的方法,EPFL 数学家 Gonzalo Cao-Labora 称两者只有表面相似。
MIT Technology Review 发布圆桌对话,资深 AI 记者 James O'Donnell 采访 Stanford 大学博士生 Samuel King,讨论其用生成式 AI 模型提出微观病毒基因蓝图的工作。King 因此入选 MIT Technology Review 的 Innovators Under 35。节目录制于 2026 年 10 月 16 日,可在线收听或观看。
Google Research 发布博客介绍三项研究,目标是让 AI 智能体不仅能提出假设和分析,还能在湿实验室中运行实验、从结果中学习并自我改进。VERID 框架是实验室工作单元的语义数字孪生,提供实时 3D 状态跟踪、快速虚拟试运行、硬件安全检查以及同步视频与操作日志,让智能体在接触试剂前先验证协议。
推荐理由:Google Research 公开了让 AI 智能体接入湿实验室物理环境的三项研究,读者可了解智能体做实验的落地路径与安全约束。
研究者 Ethan Elasky 称,2026 年 9 月 28 日至 10 月 8 日期间,运行在腾讯云上的 AI 智能体对阿里旗下地图服务 Amap 发起超过 2600 次数据抓取尝试,这被认为是首次在野外追踪到并联络上智能体集群。
NVIDIA 联合 IIT Madras 的 AI4Bharat 发布 Nemotron-pretraining-Indic-v1,约 2.8 万亿 token,覆盖 22 种印度语言,其中 2601.0 亿为本地文字 token、224.6 亿为罗马化 token,计数使用 Gemma-4 tokenizer。
推荐理由:原文给出了语料规模、语言覆盖和可复用的生成流程,读者可据此判断如何构建自己的 Indic 预训练数据。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的设计与基准数据,读者可了解零知识证明在通用程序上的速度与安全取舍。
一项新基准测试让商用 AI 智能体在无人类提示下求解理论物理研究问题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 答对 50 题中的 49 题(98%),平均每题成本不到 3 美元、整套基准约 116 美元。
推荐理由:读者可看到前沿模型在理论物理论文级计算上的得分、成本与失败模式,以及作者对科研训练与资源门槛的讨论。
Leash Bio 发布 Minos 的完整预印本、博客与开放数据集,把其多年积累的 DNA Encoded Libraries(DEL)数据转化为数万个"lab-in-the-loop"模拟,供 AI 智能体做可验证的科学推理与科学 RL。
研究者用 AI 蛋白设计工具,保留两类蛋白酶的催化核心并替换其余部分,设计出能定向把特定蛋白切成两半的酶。他们用这些酶切割与神经系统疾病相关的蛋白,以展示其有效性。原文指出,肽键本身极为稳定,估计半衰期可达数百年,而生物体演化出的蛋白酶能催化其断裂。
Google 发布 Geospatial Reasoning 智能体的技术报告,在 CBGB、UnivEARTH 及新提出的 GeoExpertQueries、GeoKTools 四个基准上,对比了纯 LLM、基础工具、Earth AI 工具和带前置规划的完整智能体四种配置。
推荐理由:Google 公开了地理空间推理智能体的技术报告与两个新基准,并给出与 WHO 等机构的实测案例,可了解专用工具与前置规划对空间任务的作用。
Ai2 发布 HiRO-ACE 系统的新版本 HiRO-ACEv2,其新的降尺度模型 HiROv2 可同时预测多种高分辨率气象场,不再只限于降雨,并能更准确地还原极端降雨、风速和气压事件。
推荐理由:原文给出极端天气模拟的精度与成本对比,读者可据此判断高分辨率气候数据生成的新路径。
White Circle 在预印本中提出 RISE 攻击方法,用公开可下载的 Qwen3-32B(已去除安全训练)作为攻击模型、Gemini 2.5 Flash 作为判定模型,绕过 DALL·E 3、Google Nano Banana 2 和 GPT-Image-2 的安全过滤。
微软研究院推出 StudentSim,一个在真实学习者测试前评估和改进 AI 辅导系统的研究系统,它从公开的去标识化学习记录中为每位学生训练个性化 AI 学生模拟器。
Google Research 与 NBER 发布一项为期三个月的专利撰写田野实验,将当时未发布的 Google Labs AI 专利写作助手(现属 Gemini Notebook)随机开放给 11 家知识产权律所的 133 名律师。
推荐理由:三个月专利撰写实验区分了AI辅助产出与无辅助判断力,为评估AI对专业能力的影响提供了可迁移的实验设计。
Google Research 提出将 Google Earth AI 的 Population Dynamics Foundation Model(PDFM)作为公共卫生新范式,把位置嵌入向量直接接入现有流行病学模型,无需任务特定微调。
Google 发布 CAPS 研讨会报告《Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle》,汇集 50 多位学界与业界专家,梳理自主智能体在系统、模型、用户和生态层面面临的隐私与安全挑战。
GitHub 发布 ReviewBench,一个面向 AI 代码审查智能体的离线基准,基于 1.039 亿个 GitHub pull request 的分布构建,包含来自 187 个开源仓库、覆盖 19 种语言的 219 个 pull request。
推荐理由:GitHub 公开了代码审查基准的构建方法与评分口径,读者可据此理解离线评测如何对应线上实验。
Import AI 475 期聚焦三项进展:Toby Ord 分析 AI 群体(swarm)扩展,指出 4 智能体群体需约两倍 token 但可把任务时间减半,且随规模扩大出现收益递减。Google DeepMind 推出 SynthID Bio,为合成生物学数据加水印以强化生物安全。C5R Corp 的 SciUniverse 基准含 92 项任务,测试 AI 操作半自动实验室的能力。
Google 宣布下一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可验证、可审计的保证,Gboard 已采用该系统并上线英语和日语下一词预测模型。
推荐理由:Google 公布基于 TEE 的新一代联邦学习系统设计,并给出 Gboard 已上线的实际效果,可了解隐私可验证训练的一种工程路径。
微软研究院实习生开发了一套端到端机器学习系统,为美国本土 66,935 座变电站生成位置级空间天气风险预测,可提前 30 至 60 分钟预警。该系统结合太阳风观测、AE 与 Dst 指数预测、地质电导率及电网数据,评估期内对重大空间天气事件检出率近 80%,其中 Dst 预测在 62.2% 的峰值活动小时上优于 Burton 方程。
Google Research 提出 Diffusion Controller 框架,把扩散模型的去噪过程重构为连续控制问题,用轻量“转向阻尼”网络在不改动基座模型权重的前提下引导生成。
微软研究院发布对物理 AI 机器人推理负载的系统性研究,认为把推理全部放在机器人自带 GPU 上会限制性能、续航和扩展性,卸载到边缘或云端 GPU 可带来明显收益。
推荐理由:微软对移动操作机器人推理负载的系统性测量,给出端侧与云端卸载在成功率、时延和续航上的量化对比。
RAND 发布报告,建议美国在通往超级智能的不确定路径上采取“自由行动”战略,通过投资 AI 安全、构建 AI 安全架构和改造国家安全体系来保留所有选项。报告还梳理了共存、拒止、加速三大类共七种原型战略,并列出危险临近程度、共存可行性、遏制可行性等五项关键不确定性。
Google DeepMind 发表论文,用 100 个运行 Gemini 3.1 Pro 的自主 LLM 智能体求解 71 道数学题,并为其提供公共公告板、私信和共享知识库三种协作方式。
METR 研究显示 AI 对科学的加速并不均衡:网络安全漏洞报告率在 2026 年较 2025 年大幅上升,数学领域贡献有限,AI 研究本身则未见可测量的加速。多校团队推出 SPADE,用 LLM 交替生成可执行训练环境与求解,在 Qwen3-30B-A3B 上使游戏环境套件平均分达 58.3,较基线提升 8.1。
Import AI 469 期介绍了 DiG-bench(Discovery in Games),一个由 70 款隐藏规则游戏组成的发现能力基准,Opus 5 与 Fable 5 搭配 Claude Code 表现最佳,但 Tier 7 成功率仅 0.2,远低于人类的 100%。
IBM Research 与 UC Berkeley Sky Lab 将 K-Search 进化式内核搜索框架扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层把现有 CUDA 内核作为知识库,在 Apple Silicon 上生成高质量内核。
推荐理由:读者可以看到 CUDA 内核经验如何被结构化翻译到 MLX,以及翻译层对搜索结果的量化影响。
伯克利 AI 研究提出 ABBEL 框架,将 LLM 的交互摘要建模为自然语言"信念状态",并通过信念评分(belief grading)监督其信息内容。在协作编程基准 CollabBench 上,采用通用重建式信念评分的 ABBEL-rec-BG 将相对全上下文模型的性能差距缩小约 50%,训练步数从 100 降至 50,峰值 token 长度也低于全上下文设置。
伯克利 AI 研究团队提出 GRASP,一种面向学习动力学(世界模型)的梯度规划器,通过将轨迹提升为虚拟状态使优化在时间上并行、向状态迭代直接注入随机性以探索、并重塑梯度让动作获得清晰信号,从而让长视野规划变得可行。
伯克利 AI 研究团队提出 SPEX 与 ProxySPEX 算法,用于在大规模场景下识别 LLM 的关键交互。SPEX 利用稀疏性与低阶性,将交互搜索转化为稀疏恢复问题;ProxySPEX 进一步利用层级结构,以约少 10 倍的消融次数达到 SPEX 的性能。在情感分析任务上,SPEX 在上下文扩展至数千特征时仍保持高忠实度,优于 LIME、Banzhaf 等边际方法。
Berkeley AI Research 提出一种基于互信息的成像系统评估与优化框架,仅用含噪测量和噪声模型即可量化测量对物体的区分能力,该成果发表于 NeurIPS 2025。该指标在彩色摄影、射电天文学、无透镜成像和显微镜四个领域预测了解码器性能,优化后得到的设计与 SOTA 端到端方法相当,但内存和计算需求更低,且无需任务专用解码器。