跳到正文

#评测/基准

今日 0 条
10月7日周三
  1. Microsoft Research22

    微软研究员 Jennifer Neville:AI 评测的意外失败能教会我们什么

    微软研究院合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中与首席应用科学家 Chad Atalla 对谈,讨论评测如何推动 AI 系统性能边界、以及模型在传统 benchmark 之外测试时出现的「意外失败」。她分享了使用当前 AI 系统的实用建议,并强调当结果与预期不符时应仔细审视数据。

10月2日周五
9月29日周二
9月24日周四
9月21日周一
9月15日周二
  1. Trail of Bits:AI安全研究61

    Trail of Bits 批评 1Password 的 AI 补丁基准存在误导,并发布两个补丁验证 Agent 技能

    Trail of Bits 发文批评 1Password 8月6日发布的 FLAWED 报告,称其 26% 的 AI 干净修复率受四项实验设计选择影响而失真,包括刻意指示智能体应用错误修复的提示词占 22% 数据、36% 的试验禁止编译测试,以及不同推理档位设置。

    推荐理由:原文针对1Password基准的26%头条数字给出逐项方法学批评,并补充自身人类修复失败率与开源合并数据作对照。

9月12日周六
9月11日周五
9月10日周四
9月9日周三
9月7日周一
9月5日周六
9月4日周五
9月2日周三