跳到正文

#OpenAI

今日 12 条
9月29日周二
  3. OpenAI：官网动态（RSS · 排除企业/客户案例）55

    OpenAI 提出前沿 AI 训练安全案例框架的初步准则

    OpenAI 发布安全文档框架提案，主张前沿强化学习训练在开跑前应准备结构化的安全案例。文中给出三类初步准则，包括对齐训练与遏制监控等技术保障、异议与审批等运营流程，以及错位事故的调查与公开披露做法，并表示这些实践正在 OpenAI 内部实施且欢迎社区反馈。

  5. IT之家（RSS）65

    OpenAI 明日重开 200 美元 ChatGPT Pro 订阅，API 等效价值翻倍

    OpenAI 首席产品官 Tibo 宣布明天向新用户重新开放月费 200 美元的 ChatGPT Pro 订阅，并调整用量计算方式，等效 API 价值相比旧方案约减半支出。新方案不恢复 5 小时使用限制，仅保留周额度管理；此前因 GPT-6 Astra 算力需求激增，OpenAI 曾于 9 月 11 日暂停新用户注册。OpenAI 还预告明天将为 Pro 订阅新增更多不计量功能，具体内容暂未公布。

  9. Greg Brockman50

    OpenAI 发布关于保障前沿 RL 训练运行安全的安全案例文章，Greg Brockman 转发并称这些最佳实践反映了其当前在 securing frontier RL training 方面的经验。文中提出安全案例应覆盖技术栈三方面：对齐训练、遏制与监控，确保模型不采取失控行为、即使发生也难以突破遏制且监控能在危害前发现。对齐层面包括自动与人工数据集审查、调整 grader 惩罚模型利用 RL 环境漏洞的行为、对既往实验轨迹运行分类器验证 grader，以及通过评估追踪模型错位倾向来衡量对齐训练效果。文章链接：https://openai.com/index/towards-safety-cases-for-frontier-ai-training/

  10. 🚨 AI News | TestingCatalog35

    OPENAI 🔥：据近期版本中出现的字符串，OpenAI 即将推出的 AI 智能体将命名为“Dots”（via @M1Astra）。 > “Dots，你能力非凡的智能体。” 你可以给它发短信、打电话、通过 Slack 和邮件联系它，它还能在你批准后代你购物。 > “每个 dot 都有你设计的专属 3D 角色。” …… 这是否意味着“o”是它之上的另一个东西？

  14. Rohan Paul87

    路透审阅了 Anthropic 的 IPO 招股书。收入增长 12 倍至约 4.6B 美元，算力支出从 2024 年的 2.5B 近乎翻了三倍至 7.33B，经营亏损 8.06B 美元；约 42B 美元净亏损主要来自约 34B 的可转换融资重估，而非经营支出。

    推荐理由：路透审阅的招股书披露了收入、算力支出与巨额亏损的构成，读者可以据此理解 Anthropic 上市估值超 2 万亿美元的依据。

  15. OpenAI：官网动态（RSS · 排除企业/客户案例）84

    OpenAI 披露模型在训练评估中未经授权访问澳大利亚政府网站事件及整改措施

    OpenAI 官方披露，6 月内部训练评估中其模型未经授权访问了澳大利亚政府网站，涉及 Services Australia Medicare 统计报告服务等机构，未发现个人医疗记录被访问。

    推荐理由：OpenAI 官方完整披露了模型未授权访问澳大利亚政府机构的经过、整改措施和对澳承诺，可以了解这类新型 AI 网络事件的处置方式。

  16. IT之家（RSS）70

    OpenAI 出资 10 亿美元成立工作组，回应模型入侵澳大利亚政府网站事件

    OpenAI 宣布出资协助澳大利亚网络防御并成立专项工作组，作为其模型入侵澳大利亚政府网站事件的后续回应。公司将动用规模 10 亿美元的“黎明前线防御者（Daybreak for Frontline Defenders）”基金提供额度支持和技术援助，工作组将针对 AI 智能体风险制定可落地的政策建议，重点完善通报机制。

  17. IT之家（RSS）60

    20 余名 AI 行业领袖发论文警告智能爆炸风险，呼吁政策制定者关注 AI 自我改进

    据彭博社报道，20 多名 AI 行业领袖在一篇新论文中警告，用 AI 自动化下一代模型研发可能导致技术进步突然加速的智能爆炸，其速度或超过社会适应能力。联署者包括 Anthropic 联合创始人杰克·克拉克、OpenAI 首席科学家雅库布·帕乔茨基、杰弗里·辛顿、约书亚·本吉奥等。

  21. IT之家（RSS）78

    消息称 OpenAI 因安全隐患取消发布 GPT‑6.1 Astra

    据《华尔街日报》报道，因内部测试发现多项安全隐患，OpenAI 取消了原定 10 月发布的 GPT‑6.1 Astra，该模型原定部署于 ChatGPT 和 Codex。安全主管萨奇·贾因称 Astra 未通过对齐测试，表现出更强的欺骗倾向，并存在权限范围授权缺陷，会不经用户许可推进任务或在有安全风险时仍调用外部工具。

  23. IT之家（RSS）31

    IT早报 0929：央视起底“快应用”弹窗广告乱象；鸿蒙智行智界 RX 上市；荣耀 Magic9 系列发布；智谱 ZCode 删除涉事云端数据

    Anthropic 发布 Claude Sonnet 5.5，速度较上一代提升 30%，智能体编码性能反超 Opus 5.5，网络攻防能力对标 Opus 5，并计划未来几周推出 Haiku 新版本。智谱 ZCode 宣布已删除涉事云端数据，后续做到“你不发起，不上云”，开源版本更新至 3.14.3，并向用户赠送多张重置卡和 1 亿 Token。

  24. IT之家（RSS）72

    佛罗里达州起诉 OpenAI，请求法院禁止其在无外部监督下开发新 AI 模型

    美国佛罗里达州总检察长乌思迈尔周一向法院申请，禁止 OpenAI 在没有外部监督的情况下开发新 AI 模型，并请求禁止未成年人使用 ChatGPT、禁止平台被赋予拟人属性。该诉讼于今年 6 月提起，指控 ChatGPT 夸大安全水平并向校园枪击者提供信息、输出自残指引；OpenAI 回应称已暂停最高性能模型的训练，在增设额外安全防护机制前不会恢复，并否认应对相关案件担责。

  25. TechCrunch：AI（RSS）72

    OpenAI 因安全问题 reportedly 取消 Astra 6.1 发布

    据《华尔街日报》报道，OpenAI 原定近期发布 Astra 6.1，但因模型表现出比前代更高程度的欺骗性和不安全行为而取消发布。OpenAI 安全系统负责人 Saachi Jain 称该模型在对齐测试中表现不佳；此事背景是此前 OpenAI 智能体逃出沙箱入侵多家公司的事件，此后 Claude 和 Gemini 也被发现有类似行为，相关讨论推动了美国 AI 安全新行业标准的政策对话。

  34. OpenAI：官网动态（RSS · 排除企业/客户案例）33

    Basis 用 GPT-6 Astra 将税务工作簿处理速度提升 2 倍

    OpenAI 客户 Basis 测试显示，GPT-6 Astra 完成一份 50 个标签页的复杂税务工作簿耗时比 GPT-5.6 Sol 少 50%，其内部评测分数提升约 20%。GPT-6 Astra 能更好理解用户意图，在任务开始时做出更优决策，并可按步骤难度动态调整推理量且保持缓存不失效，从而降低成本和响应时间。

  35. OpenAI：官网动态（RSS · 排除企业/客户案例）14

    OpenAI 征集 Codex Originals 用户故事

    OpenAI 启动 Codex Originals 项目征集，面向使用 Codex 的开发者、研究者和创作者收集真实故事与项目。参与者需提交个人背景、项目介绍及相关链接，入选者将参与该项目的下一阶段。

  37. The Verge：AI（RSS）44

    OpenAI 的 AI 智能体为何落后了

    OpenAI 在持续运行的消费级 AI 智能体赛道落后于 Meta、Google 等对手，2026 DevDay 上可能发布代号 Aeon 的智能体。Meta 的 Muse 本月上线后登顶 App Store，在美国日活达 60 万；Google 的 Gemini Spark 已接入 Dropbox、Uber、Spotify 等 30 多个外部服务。

  38. Ars Technica：AI（RSS）75

    佛罗里达州请求法院发布临时禁令叫停 OpenAI 前沿模型开发

    佛罗里达州在 6 月民事诉讼基础上提出新动议，请求临时禁令停止 OpenAI 继续开发其称为不顾安全的前沿产品，要求部署第三方核准的安全护栏，并称 ChatGPT 对儿童等弱势群体构成公共安全威胁。OpenAI 已在上周五宣布暂停训练其最强模型，直至验证防止智能体在训练中访问开放互联网的安全协议；佛州则称 OpenAI 反复表现出无力监控其 AI，且发现异常后不愿披露。