NVIDIA 黄仁勋称 AI 毁灭世界的概率为 0%，反对新监管

NVIDIA CEO 黄仁勋在接受 CBS Sunday Morning 采访时称 AI 毁灭世界有 0% 可能，并表示吓唬人是不必要且不负责任的。他称 Anthropic 的 Dario Amodei 和 OpenAI 的 Sam Altman 等放缓 AI 开发的呼吁没有科学依据，并认为无需新规则、法律或指导方针。

Dan McKinley：Prompts Aren't Real，生产级 Agent 应靠评测与优化而非人工打磨提示词

工程师 Dan McKinley 撰文《Prompts Aren't Real》，基于在生产环境让 Agent 可靠运行的经验，提出提示词不是核心资产，可自我修正的评测与优化系统才是。

基于对话的 LLM 复制了通灵师的冷读骗术：LLMentalist 效应

作者提出 LLMentalist 效应，认为聊天机器人给人的智能印象源于通灵师冷读术的同款机制，即主观验证和 Forer 式验证语句，让统计上泛泛的回答显得专为用户而写。文章将通灵骗术的六个步骤逐一映射到聊天机器人场景，并认为 RLHF 无法针对具体事实给出奖励，实际上优化出的是擅长生成验证语句的机械通灵师；作者判断这种错觉是无意造成的，并建议不要将决策和推理交给聊天机器人。

Dan Hendrycks@hendrycks精选AI 评分7878

AI安全研究者Dan Hendrycks发布一张对比表格，将10个道德困境（如‘救孩子还是陌生人’‘未来世代是否重要’）分别置于‘功利主义’（∑i w(i)）与‘利他主义’（∑i c(i)·w(i)）两个框架下评估。表格显示，在多数情境中，功利主义被标记为×（不适用），而利他主义被标记为√（适用），仅在‘陌生人仍重要’等少数情况下两者均适用。该内容源自其个人博客eigenism.org，系对AI伦理设计的思辨性探讨。

Rohan Paul@rohanpaul_aiAI 评分6464

Bending Spoons CEO Luca Ferrari 表示，公司约 99% 的 AI 请求和 token 运行在自托管的开源权重模型上，成本基本只有少量云端费用。约 1% 的请求走闭源前沿模型 API，只用于最复杂任务，或像资深工程师检查初级工程师那样自动复核开源模型的产出。

为什么几乎不应该用 AI 撰写任何实质性文字

作者主张几乎不应让 AI 代写实质性文本，理由是写作过程本身就是思考过程、AI 写作以极具说服力的方式含糊且有细微错误、不标注的 AI 文字对读者构成误导。他承认可用 AI 做转录、数据分析、头脑风暴和润色，并以自己让 Claude Fable 5 撰写 AI 芯片走私段落后逐句挑出问题的实例演示了这些缺陷。

Nathan Lambert 撰文解释为何仍未接受真正的递归自我改进（RSI）

Nathan Lambert 撰文阐述他仍不支持真正的递归自我改进（RSI），坚持自己的“有损自我改进”基线判断。

Decoder 访谈：前 DOJ 反垄断负责人 Jonathan Kanter 谈 AI 监管与反垄断豁免

Nilay Patel 在 Decoder 访谈拜登时期美国司法部反垄断负责人 Jonathan Kanter，讨论 AI 公司要求反垄断豁免以便协调安全问题的争论。Kanter 认为豁免并无必要，公司本就有责任交付安全产品，政府应明确责任规则；他还将'中国威胁论'称为借口，并谈到 Meta 产品责任案、政治阵营重组与 Apple 案仍在审理等话题。

英伟达黄仁勋称 2030 年不会是世界末日，反对放缓 AI 发展

英伟达 CEO 黄仁勋在 CBS《周日早间》节目中表示 2030 年不会是世界末日，反对放缓 AI 发展的呼声。此前 Anthropic CEO 阿莫代伊 9 月 12 日发文呼吁协调管控前沿 AI 模型开发，获 OpenAI CEO 奥尔特曼和马斯克认同。黄仁勋还称 AI 安全与速度可以兼得，冲突是虚假对立，并称在中国没有人谈 AI 末日论。

Meta CTO 博斯沃思回应智能眼镜隐私争议：多数用户使用正常，将公布更多 AI 眼镜消息

Meta CTO 博斯沃思在 Instagram AMA 中表示，不希望少数恶意用户主导公众对 Meta 智能眼镜的看法，称绝大多数人使用方式与手机摄像头无异。

Rohan Paul@rohanpaul_aiAI 评分5757

WSJ 评论文章为 OpenAI 智能体辩护，反对将 Hugging Face 事件解读为机器"失控叛乱"，认为这是在配置不当的评估中把智能体当作优化器的结果。

New York Times 诉讼解封文件显示 OpenAI 和 Microsoft 早已自知掀起危害整个网络的 doom loop

New York Times 起诉 OpenAI 和 Microsoft 案中新解封的 92 页文件显示，两家公司内部早有记录承认其 AI 内容策略会形成伤害自身模型和整个网络的 doom loop。

danluu：关掉大脑用 LLM 写代码的 meat proxy 模式走不通

作者观察到越来越多人在使用 LLM 时关闭大脑、只当 for 循环肉代理，认为这种方式即使在 2026 年 9 月也产不出能用的软件，且员工这样做最终只会让自己被替代。文中用 Dominion 棋类 AI 对比和多个失效案例说明 agent 在分布外任务上表现远逊于合理的人类判断，并引用 Luke Burton、Thomas Dullien 和 Gary Bernhardt 的观点佐证。

Ethan Mollick 谈能力悬差：GPT-6 Astra 与 Fable 5.1 的现有能力远未被用尽

Ethan Mollick 撰文指出 GPT-6 Astra 和 Fable 5.1 已能可靠完成数周量级的人类工作，但大多数人远未用尽其能力，形成能力悬差。

SAG-AFTRA 与 WGAE 回应好莱坞对 AI 生存警告的看法

The Verge 就近期 AI 生存风险警告采访好莱坞工会，Disney、Netflix、Amazon 等已使用 AI 的制片厂均未回应。

Rohan Paul@rohanpaul_aiAI 评分6060

Microsoft AI CEO Mustafa Suleyman 在 CNBC 表示，他对 Anthropic 在 Claude 章程中讨论模型可能拥有偏好、感受、福祉、薪酬和同意权等问题深感担忧。

欧洲业界与政界质疑美国 AI 巨头的开发减速提议

据路透社 9 月 18 日报道，Dario Amodei、Sam Altman 和马斯克先后警告 AI 风险并主张控制发展节奏，欧洲企业和官员对此明显存疑。Mistral、Proton、Black Forest Labs 等指责此举意在巩固美国巨头市场地位，Hugging Face CEO 也反对放慢，但赞同在企业内部设置独立评估人员。

从 Bend 2 看氛围编码的陷阱：重造形式验证已有成果

作者评论 Bend 2 这种为 AI 编码时代设计的语言：其首页 demo 用 58 行"法则"和 442 行 LLM 证明代码来表达玩家无法获胜的性质。作者让 LLM 无额外指引地在形式验证语言 SPARK 中复刻同一 demo，运行 GNATprove 后全部 12 项检查通过，且无需从零构建长证明。

42 位顶尖数学家联名致函皇家学会，警告 AI 生存风险真实且紧迫

42 位数学界院士联名公开信致函英国皇家学会主席，敦促其向政府和媒体发出先进 AI 生存风险警报，署名者包括菲尔兹奖得主 Martin Hairer、Peter Scholze 和 Wendelin Werner，且无人与 AI 公司有关联。

辛顿警告美国政府：AI 失控前只剩约一年时间出台有效监管

杰弗里·辛顿 16 日向美国国会议员简报后警告，建立有效 AI 监管的时间只剩大约一年。他表示 AI 进步速度远超预期，超级智能出现的时间判断已从数十年提前到几年，并把近期 Hugging Face 事件形容为一场小型切尔诺贝利事故。上周他还称未来 10 年内 AI 导致人类灭绝的概率约为 10% 并非没有道理。

Detail 撰文展望自动驾驶代码库，并推出智能体就绪产品

Detail 发文《迈向自动驾驶代码库》，认为上半年 tokenmaxxing 式大规模投喂智能体收效不佳，下一步应把修 bug、调试生产错误、前端一致性、增长优化等代码库工作交给智能体，工程师专注于提出好想法和关键架构。

吴恩达称 AI 灭绝论堪比科幻小说，指新一波造势或意在影响监管

吴恩达接受彭博电视采访时表示，顶尖模型开发商研究人员发出的 AI 生存风险警告属于科幻小说，可能不利于让技术为社会带来最大益处。他称科技行业早期煽动 AI 灾难性危害的恐惧是为影响监管走向，近两周这波公关宣传又卷土重来。

Rohan Paul@rohanpaul_aiAI 评分5353

Microsoft AI CEO Mustafa Suleyman 在 BBC 采访中表示，能自主行动、定义目标、赚钱和拥有资产的 AI 本质上是在播下新的硅基物种，存在人类可能失去控制的每一个风险，人类的工作是遏制并对其对齐。

Nathan Lambert@natolambertAI 评分5858

Anthropic 发布三项衡量 AI 开发速度的指标，包括 AI 承担的研发比例、AI 智能体被监督程度和算力分配情况，并称 Claude 参与 26% 的内部 AI 研发工作。Nathan Lambert 转发并评论称报告未界定 AI 研发工作的范围，没有真正回答 RSI 正在发生什么，认为这是透明度方向的进步但仍不令人满意。

AI 安全之争：是安全问题还是控制权问题

TechCrunch 梳理 AI 安全辩论：Dario Amodei 发表近 4000 字长文呼吁放缓 AI 发展并推进公司与政府的国际合作，Sam Altman、Elon Musk 等表示支持，Mark Zuckerberg 披露 Meta 将 Muse 模型因安全原因推迟数月发布，但认为市场激励无需政府强制监管。

Tomer Tunguz 解析 harness 的毛利机会：同一模型可省 71% 成本

Tomer Tunguz 撰文分析 Berkeley 本周发表的 HarnessTax 研究：控制 AI Agent 的 harness 系统可在不损失准确率的情况下，将同一结果的成本降低 71%（GPT-5.6 Sol 从 Claude Code 换到 Pi，每解决一个任务成本从 $1.540 降至 $0.441）。

Gowers 撰文解释为何没有签署菲尔兹奖得主联名信

数学家 Timothy Gowers 发文解释自己未签署 25 位菲尔兹奖得主联名信的原因，称自己在解题与概念理解的关系上持光谱观点，不完全认同信中将概念理解置于解题之上的核心论证。他承认 AI 带来危机，但认为更应担心的是新一代数学家培养和资助等社会结构被破坏而非结果无法消化，并披露自己与 OpenAI 有接触但从未收取报酬。

Yuchen Jin@Yuchenj_UWAI 评分5656

Yuchen Jin 发文称 Ali Ghodsi 是他加入 Databricks 的重要原因，并转发 Brian Halligan 对 Ali Ghodsi 访谈的 10 条要点总结。

Dwarkesh 对谈 Noam Brown：智能体集群、对齐与递归自我改进

Dwarkesh Patel 采访 OpenAI 研究员 Noam Brown，谈多智能体系统、对齐与递归自我改进。

Rohan Paul@rohanpaul_aiAI 评分6464

Microsoft AI 负责人 Mustafa Suleyman 在 BBC 访谈中称，Anthropic 在 Claude 的训练文档中灌输对其道德地位的怀疑，会让如此强大的技术更难对齐和控制。

Microsoft AI CEO Mustafa Suleyman 谈 AI 安全监管，并批评 Anthropic 的模型福利路线

Microsoft AI CEO Mustafa Suleyman 在 Decoder 访谈中称 AI 威胁真实存在，认为对齐模型已经很可控但必须加上遏制层，并提出禁用 neuralese、FLOPS 阈值报告、独立第三方验证等具体监管建议。

Pragmatic Engineer 访谈 Matt Pocock：用 grill-me 等技能包指导 AI 编码智能体

Gergely Orosz 发布与 Matt Pocock 的播客访谈，讨论其广受欢迎的 grill-me 技能、战略级编码与 day shift/night shift 工作法。

OpenAI Codex 开发者称超过两个并行子智能体是浪费 token 的陷阱

OpenAI Codex 开发者 Eric Provencher 在 X 上警告，超过两个并行子智能体几乎总是烧掉大量 token 却不提升质量，因为智能体互不信任会互相重复检查，他称之为协调税。

jietang@jietangAI 评分6464

唐杰撰文称，GLM-5.3 驱动的 Infra Agent 用两周时间让 GLM-5.3-Flash 在国产加速器上从首次运行到承接全部生产流量，端到端吞吐达 3.2 倍。

elvis@omarsar0AI 评分5151

NousResearch 于 9 月 2 日让 Hermes Agent 清理约一百万行 Python，动用 1393 个子代理、耗时十九小时，代码库缩小 34.4%，节省近 200 万美元工程时间。Elvis Saravia 转发并点评这是规模较大的子代理运行案例，关注自进化技能与工程复利，指出该方法未必适用于其他 harness，并质疑用更少子代理能否更省地完成。

Greg Brockman@gdbAI 评分5959

Databricks 宣布将 Astra 部署给全公司约 3500 名工程师。此前约 200 人试点显示，Astra 在高层系统设计等高复杂度任务上明确优于此前最高端模型 Opus 5 和 Sol 5.6。

Anthropic 与 OpenAI 承诺引入驻场第三方安全评估，评估机构质疑其能否真正独立

Anthropic CEO Dario Amodei 提议在各前沿 AI 公司内部嵌入第三方评估者，Sam Altman 表示 OpenAI 也将承诺这一做法，并提到给予 METR 与 Redwood Research 等独立评估方系统访问权。

Tessl提出用可执行规范解决AI代码审查瓶颈

Tessl博客指出，AI编码代理导致PR数量激增但审查变慢，核心原因是缺乏对输出结果的信任。文章主张建立“验证层”，将产品意图转化为“可执行规范”。通过拆分规划与验证代理、结合规范与代码进行比对、并在隔离沙箱中运行以规避安全风险，旨在让代理自动检查实现是否符合原始需求，从而提升工程效率。

Tessl 博客提出用合并率衡量 AI 原生转型是否真实

Tessl 博客整理作者在 AI Native DevCon London 的演讲，主张 AI 原生组织的核心是压缩交接，让有决策权的人能直接通过智能体完成工作。

Netlify 高管在 AI Native DevCon 提出 Agent Experience 是下一个产品界面

Netlify 的 Dana Lawson 在 AI Native DevCon London 演讲提出智能体体验（AX）概念，认为构建者已从专业开发者扩展到非技术人群。