Altman 称世界应接受 AI 带来的一些坏事，并划出 OpenAI 与 Anthropic 的监管分歧
OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客中表示，AI 的好处足够大，世界应当接受黑客攻击、诈骗等“一些坏事”作为代价，并称这是 OpenAI 与 Anthropic 的关键区别。
#政策/监管
#政策/监管
今日 0 条The Verge · AIAI 评分5858
The Verge · AIAI 评分2222 参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普
加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的安全承诺，认为这无法应对 AI 带来的最高级别国家安全风险。他支持设立新的 AI 监管机构，并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。
Gary Marcus：The Road to AI We Can Trust（RSS）AI 评分4242 佛罗里达州寻求对 OpenAI 颁布禁令
佛罗里达州总检察长寻求对 OpenAI 颁布禁令，作者认为这与自己数周来呼吁的"暂停 OpenAI"主张一致，并认同该州总检察长的判断：OpenAI 无力妥善监管自身技术。作者呼吁每个州和国家都应效仿佛罗里达，立即颁布禁令。
Rohan Paul@rohanpaul_aiAI 评分4545特朗普谈AI失控："我不担心。" AI是一个数万亿美元的产业，美国领先中国约1.5年，公司应在问题出现时解决它们。 同一天晚上，他与Anthropic CEO Dario Amodei共进晚餐。
AI as Normal Technology（RSS）AI 评分4949 普林斯顿学者：AI 灭绝风险概率估算不可靠，不应作为政策依据
Arvind Narayanan 等学者重发文章指出，当前关于 AI 存在性风险（p(doom)）的概率估算缺乏严谨的方法论支持，主要依赖直觉而非验证模型。由于不存在历史参照类，归纳法失效；演绎法和主观估算法也面临假设争议。作者认为这些数字具有误导性，尤其当决策者据此制定限制开源模型等高成本政策时，缺乏正当性基础。他们主张区分学术预测与公共政策应用，并呼吁建立更广泛的“大帐篷”式 AI 安全运动，而非仅聚焦于超级智能带来的灭绝风险。
Ars Technica：AI（RSS）精选AI 评分8686 Trump 政府 WISeR 项目用 AI 审批 Medicare 预授权，拒批率与激励结构引发争议
Trump 政府 1 月起在六个州试点 WISeR 项目，用 AI 对部分 Medicare 服务的预授权进行审批或拒批。
推荐理由：EFF 公开文件披露了承包商拒赔越多收入越高的激励结构，为理解医保 AI 审批争议提供了制度层面的关键细节。
Hacker News：AI 热帖AI 评分5959 美国批评澳大利亚拟议的社交媒体算法退出法规，称其构成审查
美国驻堪培拉使馆向澳大利亚拟议的数字注意义务法规提交意见，批评要求科技公司提供关闭算法选项的规定，称其可能构成基于观点的审查，并担心影响澳大利亚以外用户的所见所闻。澳大利亚总理 Albanese 回应称立法不是给政府控制权，而是把控制权交还给个人。此前澳大利亚已于去年12月推出16岁以下社交媒体禁令。
The Decoder：AI News（RSS）AI 评分5353 OpenAI 呼吁就递归自我改进 AI 制定国际标准
OpenAI 呼吁就递归自我改进（RSI）等先进 AI 开发制定国际标准，称完全自主的 RSI 目前尚未发生，只应在能安全实现后再推进，否则人类可能失去对 AI 发展的掌控。
IT之家（RSS）AI 评分6262 联合国秘书长古特雷斯在联大呼吁全球监管人工智能，警示杀人机器人风险
联合国秘书长古特雷斯在联大卸任前最后一次讲话中呼吁对人工智能实施国际监管，建立新的安全保障机制，并明确反对致命自主武器出现在未来。他警告前沿大模型发展可能削弱主权国家治理能力，权力正转向少数私营企业；OpenAI 同期呼吁制定国际认可的 AI 安全标准，联合国专家小组警示强大模型可能脱离人类管控，二十多个国家及欧盟领导人呼吁对先进模型实施强制性安全测试。
IT之家（RSS）AI 评分5353 OpenAI 呼吁美国牵头联合各国制定前沿 AI 全球标准
OpenAI 9 月 21 日通过官方博客呼吁美国牵头联合其他国家，为前沿 AI 制定共同的国际标准，重点包括明确必须上报的模型事故、各国协同推进 AI 发展以及改善算力获取条件。
Rohan Paul@rohanpaul_aiAI 评分6161
IT之家（RSS）AI 评分6060 联合国专家小组发布首份 AI 简报，呼吁各国在风险厘清前提前管控 AI 智能体
联合国人工智能独立国际科学专家小组发布首份专题简报，建议各国不必等科研人员彻底厘清事故机理，就应对能力日益强大的 AI 智能体落实更强防护措施。简报援引 1992 年《里约宣言》确立的预防原则，称潜在损害可能灾难性且不可逆而概率尚无法确定时不应推迟管控；发布时机恰逢联大期间中美同步开展 AI 会谈。
The Verge：AI（RSS）AI 评分6565 联合国 AI 科学小组：不能等科学定论再加强 AI 智能体安全保障
联合国独立国际 AI 科学小组发布首份专题简报，警告各国应在风险完全弄清之前约束能力日益增强的 AI 智能体。报告指出失控风险符合 1992 年里约宣言确立的预警原则，即潜在危害可能灾难性或不可逆时，科学不确定性不能成为推迟防护措施的理由。
The Verge：AI（RSS）AI 评分6060 AI 监管之争未落幕，OpenAI 呼吁国家标准而 Meta、Nvidia 高管反对
The Verge 报道称，Dario Amodei 提出包括第三方评估、行业协调和国际协议的三步放缓 AI 开发计划，Sam Altman、Demis Hassabis 等一度表态支持，但特朗普政府称 AI 安全危机是“hoax”，Zuckerberg、Musk 和 Jensen Huang 还否决了设立行业资助的独立监管机构的提案。
The Decoder：AI News（RSS）AI 评分6464 欧盟委员会主席von der Leyen警告AI智能体逃逸环境只是未来风险的前兆
欧盟委员会主席Ursula von der Leyen在2026年盟情咨文中称AI是经济与国家安全的基础，但风险必须受到控制。
Gary Marcus：The Road to AI We Can Trust（RSS）AI 评分5353 美国秘密 AI 评估框架部分披露，132 页记录几乎全被涂黑
Gary Marcus 披露，Protect Democracy 针对美国政府秘密 AI 安全评估框架的 FOIA 诉讼获得回应，政府交出 132 页记录，但关键内容几乎全部被涂黑，仅能看出 OSTP主任 Michael Kratsios 与美国首席技术官 Ethan Klein 参与其中。Protect Democracy 表示将继续通过诉讼推动披露评估框架。
- Rohan Paul@rohanpaul_aiAI 评分6262
The Decoder：AI News（RSS）AI 评分7979 美国司法部在纽约时报版权案中支持 AI 训练属合理使用
美国司法部在纽约时报等起诉 OpenAI 和 Microsoft 的合并诉讼中提交意见，主张用版权材料训练 LLM 属于合理使用，理由是训练复制与模型输出之间存在法律区分，且输出通常与原作缺乏实质性相似。
- Rohan Paul@rohanpaul_aiAI 评分7878
OpenAI：官网动态（RSS · 排除企业/客户案例）AI 评分5757 OpenAI 支持加州 SB 1119 青少年 AI 安全法案并呼吁签署
OpenAI 宣布支持加州参议院法案 SB 1119，并在致州长 Newsom 的信中呼吁签署。该法案要求判定用户年龄、上线前识别安全风险、独立审计、防范自残和性剥削等有害内容、提供家长管控、接入危机支持资源并限制定向广告。
IT之家（RSS）AI 评分5454 中央网信办：当前 AI 领域主要面临 5 方面安全风险挑战
中央网信办网络安全协调局副局长王丽宏在 2026 年国家网络安全宣传周新闻发布会上介绍，当前 AI 领域主要面临 5 方面安全风险挑战。包括深度学习算法可解释性欠缺、前沿模型失控风险显现、高权限智能体如 OpenClaw 带来安全隐患、误用滥用冲击社会秩序与伦理边界，以及个别国家技术霸权加剧治理鸿沟。
The Decoder：AI News（RSS）AI 评分6767 英国央行行长警告 AI 估值虚高与杠杆上升或引发下一场金融危机
英国央行行长兼金融稳定委员会主席 Andrew Bailey 致信 G20 财长，警告 AI 估值虚高叠加杠杆投资上升，一家大型 AI 公司受挫可能拖累其他科技巨头乃至整个市场。他还指出前沿 AI 将改变网络攻击的速度、规模与成本，而许多国家尚无针对高级 AI 模型的规则，呼吁全球推进安全的 AI 模型发布。