物界前沿 · 资讯情报卡(Hacker News · 2026/10/13)
Cognition 发布 FrontierCode 1.1 基准,顶尖模型失败率超四成
核心事实
- Cognition 推出 FrontierCode 1.1,评估 AI 对真实开源仓库的修改能否被维护者合并。
- 该基准包含 150 个任务,主集 100 个任务,每个任务运行三次。
- Claude Opus 5.5 平均得分 52%,通过率 58%,为当前最高。
- GPT-6.1 Sol 每任务成本 0.81 美元,得分 49%,性价比最高。
- 100 个任务中有 9 个无任何模型能通过,无任务被所有模型全通过。
关键数据
52%最高平均得分
58%最高通过率
$0.09最低每任务成本
$12.00最高每任务成本
物界观察
FrontierCode 把评估标准从“测试通过”提升到“维护者愿意合并”,更贴近真实工程需求。顶尖模型失败率仍超四成,说明 AI 写代码离直接可用还有距离。成本相差百倍,选型时性价比比绝对分数更值得关注。
物界前沿