研究:编码智能体框架通过率相近,成本差三倍
先了解这件事
Liu 与 Han 发布研究,比较 Claude Code、OpenCode、mini-SWE-agent 三种编码智能体框架(harness)在 SWE-bench Verified 上的通过率与成本。研究发现,框架选择对通过率的影响基本落在重跑噪声范围内,但成本差异明显,最重与最轻的框架成本可相差三倍。 研究用 Qwen3.6、Qwen3.8、Deepseek-V4-Flash、GLM-5.3-Flash 和 HY4-Preview 五个模型,在三种框架的已发布版本上运行。测试使用 SWE-bench Verified 中最难的 45 个任务,另加 447 个任务的任务池;所有运行均离线进行。Claude Opus 5 仅在 Claude Code 中作为参照运行。 在通过率上,最重与最轻的框架差距不到两点,而同一设置重跑本身就有最多六点波动,因此框架间差异基本处于噪声范围。研究的数据与分析脚本已在 GitHub 公开。
AI 根据报道生成 · 7 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- The Decoder研究:编码智能体的 harness 差异多在噪声范围内,成本却可差三倍
Liu 与 Han 的研究发现,编码智能体的 harness 选择对通过率的影响基本落在重跑噪声范围内,但成本差异明显。研究用 Qwen3.6、Qwen3.8、Deepseek-V4-Flash、GLM-5.3-Flash 和 HY4-Preview 五个模型跑 Claude Code、OpenCode、mini-SWE-agent 三种 harness,在 SWE-bench Verified 的 447 个任务上,最重与最轻的 harness 差距不到两点,而同一设置重跑本身就有最多六点波动。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 1010月24日 18:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。