NVIDIA:AI 安全是工程问题,需在 Agent 栈每一层构建可验证的防护
NVIDIA 发文提出 AI 安全是工程问题,需要明确的安全要求、可执行的控制和具名责任人。文章将安全落在完整 Agent 栈的每一层,包括模型、harness 与运行时环境,强调 Agent 需独立于自身推理的可执行边界、可追溯身份和最小权限,关键操作和权限变更需人工审批。
NVIDIA 发文提出 AI 安全是工程问题,需要明确的安全要求、可执行的控制和具名责任人。文章将安全落在完整 Agent 栈的每一层,包括模型、harness 与运行时环境,强调 Agent 需独立于自身推理的可执行边界、可追溯身份和最小权限,关键操作和权限变更需人工审批。
百度智能云联合中国电子技术标准化研究院牵头制定的四项人工智能国家标准正式发布,自2026年8月27日起实施,由全国信息技术标准化技术委员会(TC28)归口管理。
Kimi(月之暗面)发布 Kimi Code Desktop 1.0,作为 Kimi Code 官方桌面客户端,macOS(Apple 与 Intel 芯片)和 Windows 版同步上线,下载地址为 kimi.com/code。
推荐理由:官方发布 Kimi Code Desktop 1.0,覆盖安装方式、Agent 模式与开发工作流细节,读者可了解它相对 CLI 的界面与协作变化。
TypeSafe 的决策模型 Jev 已可通过 OpenRouter Decisions API 调用,模型 ID 为 typesafe/jev-1.13,于 2026 年 9 月 15 日发布早期访问。
推荐理由:文章给出 Jev 三种决策原语、真实 API 响应和调用代码,开发者可据此判断如何用它替代 LLM 加正则的解析流程。
Prime Intellect 宣布 Prime Sandboxes 正式可用,每个沙箱是完整 Linux 虚拟机,支持原生 Docker 和数万并发实例,已累计创建约 3000 万个沙箱。
Prime Intellect 宣布 Prime Sandboxes 正式开放,每个沙箱是完整 Linux 虚拟机,已有约 3000 万个沙箱被创建。默认账户可自服务运行 1,024 个并发沙箱并可扩至数十万,提供超 365,000 个预构建环境,支持 Docker 镜像直接使用,并集成 verifiers、prime-rl 与 Prime Tunnels。
Fireworks AI 发布 FireRouter 并分析 DeepSWE v1.1 上 113 个任务、18 个模型的路由潜力。
推荐理由:原文用 DeepSWE 上 18 个模型的任务级实测数据说明模型池组合的潜力,同时坦承从 oracle 到可落地路由的差距。
腾讯混元联合清华大学、北京大学提出 WebCraftBench,让智能体实际操作 AI 生成的网页,用代码覆盖率引导探索,再从美观度、易用性和需求符合度三个维度评分。
阶跃星辰发布旗舰基座模型 Step 5 Preview,采用稀疏 MoE 架构,总参数量 600B、激活 27B,支持 100 万 Token 上下文和文本与视觉输入,在 Artificial Analysis Intelligence Index 得 44 分,居全球开源模型前三,单任务成本为 Claude Opus 5 的 1/8。
推荐理由:官方完整公布架构参数、基准成绩和权重开放时间,读者可据此评估其在开源主力模型中的成本能力位置。
Ethan Mollick 撰文指出 GPT-6 Astra 和 Fable 5.1 已能可靠完成数周量级的人类工作,但大多数人远未用尽其能力,形成能力悬差。
推荐理由:作者用自己复刻 Zork 3D 化和重建 Eco 图书馆等实测案例,提出深知识、广知识、品味与能动性四个与 AI 协作的个人优势。
Gary Marcus 撰文称,近期真正应担心的不是失控的超级智能,而是被放开的 agentic AI 造成互联网规模化的黑客攻击。
推荐理由:作者借近期多起 AI 相关安全事件提出近期风险更多来自失控的智能体被用于大规模黑客攻击,而非超级智能。
OpenRouter 发布教程,讲解如何用其 TypeScript SDK 从零构建工具调用 Agent 循环,示例使用本地天气数据和 google/gemini-3-flash-preview 等模型。
Tessl 博客复盘前 Docker CTO Justin Cormack 在 AI Native DevCon London 的演讲,分享用 AI 构建约 35 万行 Rust 的 S3 兼容对象存储的经验。
推荐理由:作者用 35 万行 Rust 复刻 S3 的实测经历,总结出测试先知、覆盖率陷阱、flaky 测试纪律和追踪等一套可迁移的 AI 智能体评估方法。
MiniMax 宣布 MiniMax Code CLI v0.4.12 面向全球开发者开放,并以 MIT 协议开源源码,称其为 MiniMax Code 客户端的核心组件。
Trail of Bits 在审计 Miden zkVM 前,让 Agent 用六个月从零构建了 MASM 的 LSP 服务器、反编译器、静态分析引擎和 Lean VM 执行器模型。这些工具发现了可让恶意 prover 伪造 Falcon 签名盗取资金的高危漏洞,静态分析定位了 400 多处类型验证缺陷,Lean 工作产出 95 个机器验证的正确性证明,还发现两个单元测试未捕获的细微 bug。
推荐理由:原文给出用 Agent 在审计前自建工具链与形式化证明的完整路径,含真实高危发现,方法可迁移到其他安全审计场景。
通义千问发布 Qwen3.8-Omni-Flash,是 Qwen 首个以智能体能力为核心构建的全模态模型,支持原生音视频理解、推理和工具调用。
Anthropic 发布对 Balyasny(BAM)首席 AI 官 Charlie Flanagan 的访谈,介绍该管理约 380 亿美元资产的机构如何评测与治理 Claude Fable 5。
Google Research 发布新研究实验,让教育者用针对学习优化的生成式用户界面(GenUI)动态生成符合其教学目标的互动学习模拟。
Anthropic 提出三项衡量 AI 发展速度的指标,分别是 AI 参与研发的程度、AI 智能体被监督的质量,以及算力分配情况,并公布了来自 Anthropic 内部的测量快照。
Tomer Tunguz 撰文分析 Berkeley 本周发表的 HarnessTax 研究:控制 AI Agent 的 harness 系统可在不损失准确率的情况下,将同一结果的成本降低 71%(GPT-5.6 Sol 从 Claude Code 换到 Pi,每解决一个任务成本从 $1.540 降至 $0.441)。
Google 与 Speakeasy 合作,将 Speakeasy 的 OpenAPI 客户端代码生成套件以 AGPLv3 许可开源,此前原 SDK 生成供应商被收购并突然宣布关停,凸显闭源生成器的平台风险。
推荐理由:原文交代了开源 SDK 生成器的许可、语言覆盖和迁移背景,开发者可据此评估能否替代自有闭源生成管线。
Anthropic 宣布 Claude Code 的 Projects 改版,用户设定目标后由 Claude 拆解任务、协调并行线程、审查输出并汇总结果。每个线程是一个独立的 Claude Code 云会话,各占一个分支跑测试、开 PR,项目还带随时间积累的共享记忆和文件库。
推荐理由:官方说明了项目改版的线程协调机制、共享记忆和推送节奏,读者可以据此判断是否要加入等待名单。
Anthropic 推出 Life Sciences Verification Program(LSVP)beta,向经过验证的生命科学专业团队开放 Mythos、Opus 和 Sonnet 模型上比通用版更宽松的生物相关访问。
推荐理由:原文给出了 LSVP 的授权分级、验证流程和离线监测机制,读者可以据此理解 Anthropic 如何在放宽生物安全限制的同时控制滥用风险。
Qwen 发布下一代原生全模态模型 Qwen3.8-Omni-Flash,支持文本、图像、音频和视频输入及 1M token 上下文窗口,29 项评测平均分较 Qwen3.5-Omni-Plus 提升超过 25%,音频输入每小时价格下降超过 98%,音视频输入每小时价格下降超过 93%。
推荐理由:官方发布同时开放 API 和开源插件与运行时,读者可以据此评估音视频智能体在剪辑、会议、实时交互等工作流中的落地方式。
LangChain 发布开源智能体助手 Deep Life Sci,面向临床和实验室科学家。它接入 600K+ ClinicalTrials.gov 研究、2900 万 PubMed 摘要和 1200 万 PubMed Central 全文,并用沙盒子智能体进行真实数据分析。
Goodfire Research 发现模型内部存在伴随奖励作弊的激活信号,并用简单的 difference-of-means 探针检测它,效果接近甚至部分超过基于 LLM 思维链的监控。
推荐理由:原文给出激活探针检测奖励作弊的关键数据与成本对比,并展示探针能发现思维链监控漏掉的案例,方法可迁移到训练监控。
Dwarkesh Patel 采访 OpenAI 研究员 Noam Brown,谈多智能体系统、对齐与递归自我改进。
推荐理由:OpenAI 研究员 Noam Brown 亲述万级智能体协作机制与对齐判断,读者可以借此了解推理扩展、智能体协作和对齐风险的一手观点。
浙江大学等高校的外部研究者以 MiniCPM-o 4.5 为基座后训练,开源了端到端全模态交互智能体 Gander,论文、数据、代码和模型全部开放。
GitHub 工程师 Stephen Toub 复盘用 Copilot 智能体在约 14.5 周内将 Copilot agent runtime 从 TypeScript/Node.js 全量重写为 832,378 行生产 Rust,AI 智能体完成大部分代码,共 128 个 PR 增量合入 main 并持续发布。
推荐理由:当事工程师复盘用 AI 智能体在数月内将 Copilot 运行时迁往 Rust 的全过程,策略、回归样本和成本数据对同类迁移有直接参考价值。
Google 在 Gemini Enterprise Agent Platform 上以 Private Preview 推出 Agent Anomaly Detection,这是一个基于推理的智能体行为审计层,读取智能体的日志和 OpenTelemetry 轨迹,标记行为异常、可疑意图和策略违规。
xAI 宣布 Grok Build 上线记忆功能,会在每轮对话结束后于后台记录项目约定、决策及事实,供后续会话读取。记忆按项目区分并另有全局偏好集,/memory 可只读浏览记忆文件,/dream 会将笔记整理为主题文件;当前对话中的指令优先于笔记内容。
推荐理由:原文说明了记忆的记录、整理和优先级机制,读者可以据此评估它对长期项目编码工作流的影响。
Grok Build 现在用得越多就越好。 它会跨会话记住约定、决策和项目事实。 /memory 用于浏览 /dream 用于将近期笔记整理成主题 https://x.ai/build
Arena 实习生 @melissapan 评测 7 个模型在 Claude Code、Codex 和 Pi 三种 harness 下的编码表现,共 21 个模型-harness 组合。
Baseten 发布 Baseten Hosted Tools,把工具执行内嵌到推理服务端,首个工具 Baseten Grounded Inference 让托管模型通过配置即可调用联网搜索,获取截至当日的最新信息。