Goodfire 推出内部激活监控拦截失控智能体

2026年10月9日，TechCrunch 报道 Goodfire 发布了一套基于模型内部激活的监控方案，用于拦截失控 AI 智能体。该方案通过探针读取模型计算过程中的中间信号，仅在触发时调用另一个 AI 模型进行复核，从而在风险行为发生时介入。方案已向 Baseten 客户开放，可监控攻击性黑客、生化武器滥用和 reward hacking 等风险，并支持记录、人工复核或直接拒绝等处置方式。目前该方案处于向客户开放阶段，尚无更多部署效果或后续进展的报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。