Trail of Bits：AI安全研究· Anish Naik·· 23 天前精选AI 评分61
Trail of Bits 批评 1Password 的 AI 补丁基准存在误导，并发布两个补丁验证 Agent 技能
1Password's AI patching benchmark is misleading
AI 导读
Trail of Bits 发文批评 1Password 8月6日发布的 FLAWED 报告，称其 26% 的 AI 干净修复率受四项实验设计选择影响而失真，包括刻意指示智能体应用错误修复的提示词占 22% 数据、36% 的试验禁止编译测试，以及不同推理档位设置。
推荐理由
原文针对1Password基准的26%头条数字给出逐项方法学批评，并补充自身人类修复失败率与开源合并数据作对照。
整理与数据来源：AIHOT
来源：Trail of Bits：AI安全研究 · blog.trailofbits.com