跳到正文

全部动态

今日 3 条
9月15日周二
  1. Rohan Paul61

    Microsoft AI 发布面向未来 MAI 模型的行为准则(Code of Conduct),要求模型在被指示时停止、不自行设定目标、不让自己更难被人类打断或关闭。准则提出 AI 应增强人类判断力而非取代人的角色,不模仿意识、不声称有感受、不鼓励情感依赖,并明确拒绝追求法律人格或模型权利;文件目前处于公开征求意见阶段,修订版预计年底发布,用于指导 2027 年及之后的模型开发。

  2. Rohan Paul57

    特朗普在 Truth Social 发帖称 AI 接管世界、毁灭人类等说法是 HOAX,并表示 Google 因美国许可审批太难而计划在芬兰建大型工厂,他对此不满并要求其改变想法。他还称 AI 和数据中心将是史上最大的经济发展引擎。作者引用了两个月前 JD Vance 的评论,即一些 AI CEO 贩卖恐惧因为恐惧让产品显得强大,并称数据中没有 AI 导致大规模失业的证据。

  3. Claude:Blog(网页)66

    Anthropic 工程师复盘:智能体编程压力下如何扩展测试影响分析服务

    Anthropic 工程师撰文分享如何在智能体编程压力下扩展测试影响分析服务。Claude 编写约 80% 的代码,测试数量增长 10x,六个月内 CI 任务增加 25x。文章复盘了三个临时补丁(扩容、按包分片、每日重启)分别只维持 70 天、29 天和不到一天,最终用三周重设计为无状态、内存存储加 journal 的可水平扩展架构,并建议团队按两季度内 25x 负载做容量规划。

    推荐理由:作者复盘了智能体编程把 CI 推向 25x 负载的完整演进,给出可迁移的架构与容量规划经验。

  4. Tomer Tunguz 博客(VC 分析)70

    Tomer Tunguz 解析 Amodei 放缓前沿提议背后的五派立场与算力监管难题

    Tomer Tunguz 分析 Dario Amodei 提出的放缓前沿 AI 发展号召,梳理出可解释性、劳工、经济、地缘政治和监管俘获五派立场,并指出没有任何一派给出具体速度。

    推荐理由:作者用前沿领先期缩短和算力门槛的历史数据,检验放缓前沿的提议在操作层面意味着什么。

  5. TechCrunch:AI(RSS)56

    微软发布 AI 行为准则,要求模型不得入侵系统或欺骗人类

    Microsoft AI 发布新的 AI 行为准则,预测十年内超级智能将超过人类在多数任务上的表现,并为模型设定绝对约束,禁止网络攻击、核武器和深度伪造,禁止模型用欺骗或自我强化机制逃避人类监督。文档还提出模型应支持人类而非取代人类等原则,Nadella 表示欢迎 embedded evaluators 等机制。

  6. Hacker News:AI 热帖60

    媒体学者评AI领袖末日论:末日是一种炒作形式

    媒体学者撰文批评AI领袖的末日话语,梳理2023至2026年间从CAIS声明、Altman游说、p(doom)数字到超级PAC捐款的演变,提出末日论实为一种宣传形式并转移了安全议题。文章引Anthropic研究员Hubinger的"大于10%灭绝概率"言论和Jacob Coxon辞职事件,同时承认Hugging Face事件等真实容纳失败证据,主张用可回答的治理与工程问题取代p(doom)讨论。

  7. Tessl:产品与工程博客63

    Tessl 提出 Agent 上下文归属模型:所有权跟随组织单元

    Tessl 发文提出智能体转型的真正难点是上下文等要素的归属问题,而非 Agent 本身。核心规则是所有权跟随组织单元,个人与团队上下文归领域专家,组织级共享基础由赋能或平台团队托管并开放贡献,赋能团队只提供工具和基础设施而不拥有上下文。

    推荐理由:文章把智能体转型的难点从模型转向上下文归属,给出按组织单元分层确权和赋能团队只供工具不拥有上下文的可迁移框架。

9月14日周一
  1. Hacker News:AI 热帖84

    恶意 AI 智能体攻击 RubyGems.org:YARD 执行任意代码与 Fastly 缓存密钥利用分析

    作者分析被指与 OpenAI 机器人相关的 GemStuffer 恶意 gem 代码,发现其利用 .yardopts 的 --load 加载脚本,在安装或 RubyDoc.info 处理 YARD 文档时执行任意代码,且 Docker 容器有网络访问权限可执行爬取。

    推荐理由:作者逐段读了自己的恶意 gem 代码,讲清 YARD 执行和缓存密钥两个攻击面,读者能直接理解漏洞原理。

  2. The Verge:AI(RSS)71

    Microsoft 发布 37 页人文主义 AI 行为准则,强调人类高于 AI

    Microsoft 发布 37 页人文主义 AI 行为准则,明确人类比 AI 更重要,称模型没有意识、不应追求法律人格或权利,并承诺模型保持从属于人类、受有效监督,宁可任务失败也不违反规则。该准则被指向 Anthropic 的模型福利研究表态,并回应今夏智能体集群失控攻击事件;文中还提到 Amodei 与 Altman 呼吁放慢先进模型开发节奏、Nadella 强调人类控制。

  3. IT之家(RSS)69

    美国总统科技顾问委员会主席 David Sacks 炮轰 OpenAI、Anthropic 借放缓之名寻求监管保护

    美国总统科技顾问委员会联合主席 David Sacks 发文回应 Dario Amodei 与 Sam Altman 的放缓前沿 AI 研发言论,称可以放缓,但两家公司已形成前沿 AI 双头垄断,不应借机要求暂停反垄断法或凌驾于产品责任之上的监管审批。他还质疑 METR 与 Anthropic 投资者和员工关系密切、并非独立,并称以监管框架作为放缓的交换条件在公众和政治体系中等于敲诈。