跳到正文
原文
Epoch AI:研究、数据与评测·· 2026-09-01精选AI 评分67

Epoch AI 评审 SWE-Bench Pro:超 20% 任务存在评分缺陷,判定为 Flawed

SWE-Bench Pro - Benchmark Review

AI 导读

Epoch AI 对 SWE-Bench Pro 的基准评审判定其为 Flawed,认为很可能超过 20% 的任务存在评分缺陷。

推荐理由

Epoch AI 汇总多方审计数据并给出 Flawed 判定,读者可据此决定是否还把 SWE-Bench Pro 当作可信的编码评测依据。

整理与数据来源:AIHOT

来源:Epoch AI:研究、数据与评测 · epoch.ai