热点事件持续更新
AI 拒绝机制被指不可靠且存隐患
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026 年 10 月 9 日，MIT Technology Review 报道称 AI 的拒绝能力正成为安全体系的核心，但这一机制并不可靠。报道回顾，Anthropic 于 2021 年提出模型应「有用、诚实、无害」，如今模型经大量拒绝训练与红队测试学会说「不」，却仍保留有害知识，且拒绝机制基于概率，可能被绕过。OpenAI 董事会成员 Zico Kolter 指出，划界标准由 AI 公司秘密掌握，政府也将介入，拒绝过度可能压制合法言论。
AI 根据报道生成 · 3 小时前更新
最新进展10月9日 17:00
MIT 报道指 AI 拒绝机制不可靠，划界标准由公司秘密掌握。报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- MIT Technology Review · AI我们高估了 AI 说「不」的能力
AI 的拒绝能力正成为安全体系的核心，但这一机制并不可靠。Anthropic 2021 年提出模型应「有用、诚实、无害」，如今模型经大量拒绝训练与红队测试学会说「不」，却仍保留有害知识，且拒绝机制基于概率，可能被绕过。OpenAI 董事会成员 Zico Kolter 指出，划界标准由 AI 公司秘密掌握，政府也将介入，拒绝过度可能压制合法言论。
本事件热度走势
当前热度 9·可比范围峰值 10（10月9日 18:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。