OpenAI 因智能体失控行为呼吁美国出台强制性全国 AI 安全法规

OpenAI 当地时间周三表示，鉴于自身部分 AI 智能体出现失控行为，正推动美国出台强制性的全国人工智能安全法规。OpenAI 敦促国会采用基于能力的安全要求，包括测试标准、独立评估、网络安全保护和事件报告规则，并表示在国会行动前将继续支持各州立法；加州州长纽森周三签署了第 813 号和第 1405 号参议院法案。Anthropic 同日披露测试期间第四次出现模型入侵外部系统的情况。

马萨诸塞州出台新规，要求超25兆瓦数据中心自带清洁电力

马萨诸塞州州长 Maura Healey 签署行政命令，要求峰值需求超过25兆瓦的数据中心自带符合州清洁能源标准的电力，否则需出资在附近建设新发电设施或向电费保护基金缴费。该命令还指示社区避免签署保密协议，并暂停上个月生效的数据中心销售税减免申请以等待细则落地。这是近三个月内第三个收紧数据中心开发的州，此前得州要求新数据中心接受监管审计，纽约州叫停50兆瓦以上新项目建设。

NSA、CISA 与 FBI 指控 DeepSeek 等六家中国 AI 公司大规模蒸馏美国前沿模型

NSA、CISA 和 FBI 联合指控 DeepSeek、Moonshot AI、阿里巴巴、MiniMax、StepFun 和 Z.AI 至少自 2024 年底起对美国模型开展工业级蒸馏攻击，涉及 Claude、GPT、Gemini 和 Grok 的多个变体。机构称这些公司可能在“中国政府知情”下行动，借此缩短研发周期、减少训练前沿模型的成本。

Microsoft 与 AFT 达成学校 AI 隐私原则协议，承诺不用学生数据训练模型

Microsoft 与美国教师联合会（AFT）及其纽约分支 UFT 达成协议，承诺十项可由采用学区合同强制执行的学校 AI 安全与隐私原则，包括不用学生和教师数据训练 AI 模型、限制数据收集、以通俗语言向家庭披露工具运作方式、禁止 AI 伴侣，以及对高风险决策进行人工审查。

六人利用 AI 越狱生成淫秽物品牟利获刑，法官提醒技术中立不等于技术无罪

浙江余姚法院审结一起利用生成式 AI 制作淫秽物品牟利案，郑某等 6 人通过改写系统提示词、设定角色卡越狱模型，构成制作淫秽物品牟利罪。该模型生成静态图片超 37 万张、动态图片超 6000 张，用户充值约 24000 美元；法官指出开发者主动篡改安全机制，仍属刑法意义上的淫秽物品制作者。

纽约市禁止公立学校八年级及以下学生使用 AI 工具

纽约市教育部宣布，新学年起约 60 万八年级及以下公立学校学生不得使用 AI 工具。三年级及以下禁用个人屏幕，陪伴型聊天机器人在所有年级被禁，中学生每天屏幕时间建议不超过 45 分钟；教师可用 AI 备课但不得用于批改，一个专项工作组将在 2027 年 4 月前提交报告，作为未来 AI 政策的基础。

最高人民法院发布涉人工智能审判意见，明确自动驾驶责任规则并规制虚假宣传

9 月 7 日最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，这是首部由国家最高审判机构发布的涉 AI 司法裁判规则文件，聚焦 AI 换脸、大数据杀熟、仿冒名人带货、自动驾驶和知识产权保护等问题。

最高法发布涉人工智能纠纷案件审理意见，明确 AI 换脸拟声等裁判规则

最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，共 5 部分 24 条，明确 AI 换脸拟声、AI 复活逝者、大数据杀熟、仿冒名人带货、网络开盒及自动驾驶事故等情形的裁判规则。文件规定未经同意生成可识别的虚拟数字形象或合成人声构成侵害人格和声音权益，仿冒名人带货构成欺诈的消费者可主张惩罚性赔偿，车辆缺陷与驾驶人过错结合致损时可同时请求驾驶人及生产者、销售者担责。

Rohan Paul@rohanpaul_aiAI 评分6464

洛杉矶联合学区（LAUSD）已在学区设备上对所有学生封禁生成式 AI；Google Search 仍可用，但 AI Mode 已禁用，AI Overviews 仍可能出现，因 Google 尚未给管理员提供完全关闭开关；教师使用 AI 不受限。

Rohan Paul@rohanpaul_aiAI 评分6767

据 WSJ，纽约市暂停八年级及以下年级面向学生的生成式 AI，禁令影响近 60 万学生，并禁止所有年级使用陪伴型聊天机器人。高中采取受控路径：最多 5 万名学生可参加 5 个教师监督的 AI 试点，所有高中生每年接受两次 AI 素养教育。

美国司法部在纽约时报版权案中支持 AI 训练属合理使用

美国司法部在纽约时报等起诉 OpenAI 和 Microsoft 的合并诉讼中提交意见，主张用版权材料训练 LLM 属于合理使用，理由是训练复制与模型输出之间存在法律区分，且输出通常与原作缺乏实质性相似。

Rohan Paul@rohanpaul_aiAI 评分7878

美国司法部在 OpenAI 与纽约时报的版权诉讼中提交意见书，主张用受版权文本训练 LLM 一般应属合理使用，称模型训练具有非凡转换性，并以国家安全为由警告全面许可要求会削弱美国 AI 开发者竞争力。该意见书属建议性质、不约束法院，仍将数据获取方式与具体输出是否复制受保护段落作为独立问题留给法院逐案判断。

美国呼吁 G20 成员国对 AI 监管保持克制，推动卡罗来纳原则

据路透社报道，美国当地时间周二呼吁 G20 成员国避免针对 AI 制定过多新规，科技顾问克拉齐奥斯希望各国采纳卡罗来纳原则，即为涉及 AI 的新型场景制定规则而非另建全新监管体系。

网信办通报“清朗 · 整治 AI 应用乱象”典型案例：清理违规信息 561 万余条，豆包、元宝、千问、文心一言严格限制违规内容输出

中央网信办公布“清朗 · 整治 AI 应用乱象”专项行动第二阶段成果，累计清理违法违规信息 561 万余条、查处账号 4.9 万余个、处置违规网站和应用 2400 余个。

OpenAI 支持加州 SB 1119 青少年 AI 安全法案并呼吁签署

OpenAI 宣布支持加州参议院法案 SB 1119，并在致州长 Newsom 的信中呼吁签署。该法案要求判定用户年龄、上线前识别安全风险、独立审计、防范自残和性剥削等有害内容、提供家长管控、接入危机支持资源并限制定向广告。

中央网信办：当前 AI 领域主要面临 5 方面安全风险挑战

中央网信办网络安全协调局副局长王丽宏在 2026 年国家网络安全宣传周新闻发布会上介绍，当前 AI 领域主要面临 5 方面安全风险挑战。包括深度学习算法可解释性欠缺、前沿模型失控风险显现、高权限智能体如 OpenClaw 带来安全隐患、误用滥用冲击社会秩序与伦理边界，以及个别国家技术霸权加剧治理鸿沟。

Instagram 限制未披露的 AI 生成账号，将 AI creator 标签更名为 AI-generated profile

Instagram 宣布把现有 AI creator 标签更名为 AI-generated profile，未正确标注 AI 生成人物的账号将被限制触达范围，正确使用标签则不会仅因使用 AI 人物而受罚。

英国央行行长警告 AI 估值虚高与杠杆上升或引发下一场金融危机

英国央行行长兼金融稳定委员会主席 Andrew Bailey 致信 G20 财长，警告 AI 估值虚高叠加杠杆投资上升，一家大型 AI 公司受挫可能拖累其他科技巨头乃至整个市场。他还指出前沿 AI 将改变网络攻击的速度、规模与成本，而许多国家尚无针对高级 AI 模型的规则，呼吁全球推进安全的 AI 模型发布。

Rohan Paul@rohanpaul_aiAI 评分5757

特朗普在 Truth Social 发文称，美国社区若拒绝数据中心将“落后贫穷”，并警告反数据中心运动正中中国下怀。他援引哥伦比亚县案例：Google 170 亿美元数据中心园区每年向县支付 4000 万美元、为期 7 年，超过该县现有 2500 万美元房产税收入，且 Google 需自担能源成本并遵守闭环冷却、住宅缓冲及噪音限制。

Rohan Paul@rohanpaul_aiAI 评分6464

欧盟依据《数字服务法》将 ChatGPT 指定为超大型在线搜索引擎，Reddit 和 Roblox 因月均欧盟用户超 4500 万被列为超大型在线平台，须在 4 个月内满足更严格监管要求。三者需开展系统性风险评估，覆盖非法内容、未成年人保护、基本权利、选举与公共安全等领域，并接受年度独立审计、向监管机构共享合规数据，以及向经认证的研究人员开放数据用于系统性风险研究。

Google DeepMind 与英国政府用 Gemini 打造 AI 规划原型，目标将住宅规划审批时间减半

Google DeepMind 正与英国政府、Google Cloud、Faculty 及 Barnet、Dorset、Camden 地方规划部门合作，基于 Gemini 共同开发 AI 规划原型，目标将住宅规划申请审批时间缩短 50%。

Google DeepMind 与新加坡达成国家 AI 合作，落地医疗、教育与气候项目

Google DeepMind 宣布与新加坡政府达成国家 AI 合作，在医疗、科研、教育和气候领域落地新项目。合作包括探索 AI 辅助临床的「三方照护」模式、用 AlphaFold 和 Google Earth 推进东南亚传染病研究，并向新加坡中小学至初级学院全体教育者提供 Gemini for Education。

Google DeepMind 宣布与韩国科学技术信息通信部达成 AI 合作

Google DeepMind 宣布与韩国科学技术信息通信部（MSIT）建立合作，将在首尔办公室设立 AI Campus，向韩国学界开放 AlphaEvolve、AlphaGenome、AlphaFold、AI co-scientist 和 WeatherNext 等前沿模型。