我们为何不再评估SWE-bench Verified

无需登录。完整内容与个人兴趣标记的公开阅读入口,可直接交给 GPT 阅读。

公开快照同步: · 内容整理:2026-10-25T08:08:01+08:00

AI 资讯 / 行业新闻 · 2026-02-23

我们为何不再评估SWE-bench Verified

Anthropic发文解释不再评估SWE-bench Verified基准,称该基准日益受到污染,无法准确衡量前沿编码进展。

具体内容

Anthropic发文解释不再评估SWE-bench Verified基准,称该基准日益受到污染,无法准确衡量前沿编码进展。文章分析指出存在有缺陷的测试和训练数据泄漏问题,并推荐使用SWE-bench Pro。摘要未提供具体分析数据或SWE-bench Pro的详细对比。

依据官方原始发布记录整理;当时的推出范围和限制请以原文为准。

用户标记:未标记

固定编号:15ce6642ee62330c

原文来源