Epoch AI:研究、数据与评测·· 2026-09-01精选AI 评分67
Epoch AI 评审 SWE-Bench Pro:超 20% 任务存在评分缺陷,判定为 Flawed
SWE-Bench Pro - Benchmark Review
AI 导读
Epoch AI 对 SWE-Bench Pro 的基准评审判定其为 Flawed,认为很可能超过 20% 的任务存在评分缺陷。
推荐理由
Epoch AI 汇总多方审计数据并给出 Flawed 判定,读者可据此决定是否还把 SWE-Bench Pro 当作可信的编码评测依据。
整理与数据来源:AIHOT
来源:Epoch AI:研究、数据与评测 · epoch.ai