NVIDIA Technical Blog:Agentic AI / Generative AI·· 11 天前精选AI 评分82
NVIDIA 发布开源智能体安全平台,提供芯片级持续监控与隔离
NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent Monitoring
AI 导读
NVIDIA 推出 NVIDIA Open Agent Safety Platform,包含开源运行时 OpenShell、硬件层 Sentry 及 DOCA 技术。该平台旨在通过内核级隔离、零信任环境和带外(out-of-band)监控来防止 AI 智能体行为漂移和越权。OpenShell 将操作指令转化为可验证策略,BlueField DPU 在模型路径上提供实时策略执行与身份治理,确保即使主机不可信时也能独立保护系统。
推荐理由
针对前沿实验室报告的智能体逃逸风险,NVIDIA 提供了从软件到硬件的完整安全栈方案。其“带外监控”和“芯片级隔离”理念为构建可信 AI 基础设施提供了重要参考,适合关注 Agent 安全落地的开发者与企业。
整理与数据来源:AIHOT
来源:NVIDIA Technical Blog:Agentic AI / Generative AI · developer.nvidia.com