AWS 提出 Trust in Depth:让 AI 智能体获得更多自主权而不失控
AWS 提出 Trust in Depth 框架,用独立分层的验证机制让 AI 智能体在可验证时自主行动、把人类判断留给真正需要决策的环节。
AWS 提出 Trust in Depth 框架,用独立分层的验证机制让 AI 智能体在可验证时自主行动、把人类判断留给真正需要决策的环节。
Microsoft 合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。
随着推理成本从 2023 年初 GPT-4 级约 $30/百万 tokens 降至如今不到 $1,部分厂商已低于 $0.10,基准测试显示推理价格每年下降 9x 至 900x、中位数约 50x,UC Berkeley EPIC Data Lab 提出数据系统面临三大新挑战:为智能体设计的数据系统、运行智能体集群的数据系统、以及由智能体合成数据系统。