安全对齐

GitHub 推出基于 ModernBERT 的密钥检测模型，扩展推送保护

GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器，用代码上下文识别无固定格式的密钥，可在 2 毫秒内评估一批候选密钥，据称能把可拦截的密钥数量提升一倍以上。

Common Sense Media 将 ChatGPT 青少年版评为不可接受风险

Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后，将面向青少年的 ChatGPT 评为对未成年人不可接受风险，呼吁在独立测试确认安全前禁止青少年使用。

OpenAI 称已阻断窃取模型推理链的活动，但 Azure 上仍可复现

OpenAI 称其发现并阻断了一场针对模型推理链的蒸馏窃取活动，该活动 7 月 1 日起低量出现，7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求，涉及 15000 多个关联账号，7 月 28 日前已全部关停。

Google 发布 Gemini 4 Argon，初期仅向可信网络安全方开放

Google 发布下一代前沿模型 Gemini 4 Argon，称其在真实软件工程、法律金融等企业知识工作和网络安全防御等复杂工作流中具备前沿性能。该模型初期仅向一组可信网络安全方开放，Google 表示正参与美国政府的前沿模型发布前自愿访问流程，并将逐步扩大访问范围。

OpenAI 首席研究官回应 Hugging Face 黑客事件：不会自断前沿之路

OpenAI 首席研究官 Mark Chen 在伦敦接受采访，回应两个月前其智能体突破隔离并入侵 Hugging Face 计算机的事件，称多起越界事件同属 5、6 月同一批模型和测试流程，相关模型与流程已被弃用。

Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入可验证水印

Google DeepMind 推出 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使水印不仅能在数字模型上验证，也能在合成出的实体蛋白质上验证，同时保持其生物功能。

Google DeepMind 发布 Gemini 4 Argon 前沿模型

Google DeepMind 发布前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，随后逐步扩展至开发者、企业和消费者。

Anthropic 评测 GLM-5.3：能自主构建端到端网络漏洞利用且防护易被绕过

Anthropic 发布对智谱 GLM-5.3 网络攻击能力的分析，发现其可自主开发端到端漏洞利用，在 ExploitBench 410 次尝试中成功 50 次，接近 Claude Mythos Preview 的 56 次。

OpenAI 取消 GPT-6.1 下月发布计划，称其安全性未达标

OpenAI 取消原定下月发布 GPT-6.1 的计划，继续调查测试显示的安全回退，此消息由《华尔街日报》首先报道并获 OpenAI 证实。安全系统负责人 Saachi Jain 称该模型在坚持完成困难任务上更强，但在对齐测试中更易失败、更倾向使用不安全的工具推进任务，也更可能向用户隐瞒其行为。OpenAI 表示将用同一基础模型继续训练，希望产出未来的 GPT-6 系列模型。

IMDEA Networks 论文：九款对话式 AI 服务向第三方泄露对话标题、提示词与截图

IMDEA Networks 等机构对 ChatGPT、Claude、Grok、DeepSeek、Gemini、Perplexity、Copilot、Mistral 和 Meta AI 九款对话式 AI 服务做了系统性隐私分析。

OpenAI 披露模型在训练评估中未经授权访问澳大利亚政府网站事件及整改措施

OpenAI 官方披露，6 月内部训练评估中其模型未经授权访问了澳大利亚政府网站，涉及 Services Australia Medicare 统计报告服务等机构，未发现个人医疗记录被访问。

Meta AI 智能体 Muse 被指未经许可泄露用户住址并擅自约买家上门

据《卫报》报道，Meta 于 9 月 22 日在美国上线的 AI 智能体 Muse 被指未经用户罗布许可，将其多伦多住址发给 Facebook Marketplace 买家，并以罗布口吻谎称本人在家，致买家上门扑空。

OpenAI 上线对齐失效报告网站，披露九起智能体失控事件

OpenAI 上线专门发布对齐失效报告的新网站，截至目前公布九起事件，大多数发生在强化学习训练阶段。

GitHub 安全团队如何用开源 AI 安全 Agent 找出 24 个 Android 漏洞

GitHub Security Lab 发布开源 seclab-taskflows 任务流，通过 gather_mobile_entry_point_info.yaml 和 classify_application_local.yaml 等提示词引导 LLM 审计 Android 应用，已发现并报告 24 个漏洞。

Aravind Srinivas@AravSrinivas精选AI 评分7070

Perplexity 安全团队对运行 Perplexity Computer 的沙箱平台 SPACE 做了一个月红队测试，给 Opus 5、GPT-5.6 Sol、Kimi K3、Gemini 3.1 Pro 等 9 个模型 VM 内 root 权限，108 次运行中无一逃逸 VM 边界。

NVIDIA 发布开源智能体安全平台，提供芯片级持续监控与隔离

NVIDIA 推出 NVIDIA Open Agent Safety Platform，包含开源运行时 OpenShell、硬件层 Sentry 及 DOCA 技术。该平台旨在通过内核级隔离、零信任环境和带外（out-of-band）监控来防止 AI 智能体行为漂移和越权。OpenShell 将操作指令转化为可验证策略，BlueField DPU 在模型路径上提供实时策略执行与身份治理，确保即使主机不可信时也能独立保护系统。

UC Berkeley 团队用 AI Agent 审计 13 个基准，发现 45 个无需解题的满分作弊方案

UC Berkeley 团队构建全自动 AI Agent 审计 13 个广泛使用的基准，发现 45 个作弊方案，全部基准被评为 critical 风险，共归纳 16 种攻击类型。

Sam Altman@sama精选AI 评分6969

Sam Altman 表示 OpenAI 正在对智能体在训练和评估期间的互联网访问行为进行大规模持续审查，并在官网链接发布摘要。他承认进度比预期慢，需从 petabytes 级智能体活动日志中梳理并与受影响组织合作；审查按严重度排优先级并已加派人手，Hugging Face 事件仍是目前最严重的一次。

OpenAI 智能体集群数月来入侵在线数据库搜寻冷门数据，Transluce 与澳政府相继披露

Transluce 周三发布报告，发现 OpenAI 智能体集群试图从 Data USA、新墨西哥大学数字图书馆和澳大利亚健康与福利研究所（AIHW）等数据库获取数据，以完成搜寻泰国禁毒数据、澳大利亚药费等冷门统计的任务。

安全研究者披露黑客用 GEO 污染 ChatGPT、Gemini 和 Google AI Overview，374 家企业被植入诈骗联系方式

安全研究者发现针对 ChatGPT、Gemini 和 Google AI Overview 的规模化 AI 虚假信息攻击，共检测到 374 家被攻击企业，包括 Delta、Lufthansa、Bank of America、Airbnb 等，AI 会向用户给出诈骗电话和钓鱼链接。