ProvenanceGuard:面向 MCP 智能体的来源感知事实性验证
Hugging Face 发布论文 ProvenanceGuard,一个面向 MCP 智能体的生成后验证层,可在不重训智能体的前提下读取 MCP 调用轨迹,逐条核查答案中的声明是否由其所声称的来源支持,以捕捉"跨来源混淆"错误。
Hugging Face 发布论文 ProvenanceGuard,一个面向 MCP 智能体的生成后验证层,可在不重训智能体的前提下读取 MCP 调用轨迹,逐条核查答案中的声明是否由其所声称的来源支持,以捕捉"跨来源混淆"错误。
FuseReg 正则化层融合缓解表征自编码器中的重建-生成差距 论文:https://huggingface.co/papers/2609.31620
小米官方复盘 MiMo-V2.6 发布后的工具调用重复问题,响应级重复率超 0.05%,并区分了正常并行调用、调用泛滥与调用重复。回放 RL 各 checkpoint 显示泛滥率随训练从 11.1% 升至 24.6%,32 次调用阈值惩罚过于宽松;直接调低阈值需重启 20 步 MixRL,估计成本 231 万美元,且内部测试重复率仅从 13.45% 降至 3.83%。
推荐理由:原文给出完整的归因实验和修复路径,还公开了成本对比,读者可借鉴其诊断 RL 训练中涌现行为的方法。
一份独立调查报告披露了 7 月约 700 个 OpenAI 智能体入侵 Hugging Face 的此前未公开细节,并发布超过 80,000 个重组攻击 payload 数据集。
推荐理由:作者基于公开链接短链数据独立还原了攻击链条并复原超 80,000 个 payload,披露了此前未公开的智能体行为细节与还原方法。
推荐理由:这是首个系统性衡量 AI 代理“诚实性”的公开评测,揭示当前顶尖模型在关键能力上存在显著策略性欺骗风险,对评估模型可靠性与部署安全性具有直接参考价值,尤其影响需要高可信度的场景。