跳到正文

#大佬观点

今日 2 条
9月15日周二
  1. Tessl:产品与工程博客63

    Tessl 提出 Agent 上下文归属模型:所有权跟随组织单元

    Tessl 发文提出智能体转型的真正难点是上下文等要素的归属问题,而非 Agent 本身。核心规则是所有权跟随组织单元,个人与团队上下文归领域专家,组织级共享基础由赋能或平台团队托管并开放贡献,赋能团队只提供工具和基础设施而不拥有上下文。

    推荐理由:文章把智能体转型的难点从模型转向上下文归属,给出按组织单元分层确权和赋能团队只供工具不拥有上下文的可迁移框架。

9月14日周一
  1. IT之家(RSS)69

    美国总统科技顾问委员会主席 David Sacks 炮轰 OpenAI、Anthropic 借放缓之名寻求监管保护

    美国总统科技顾问委员会联合主席 David Sacks 发文回应 Dario Amodei 与 Sam Altman 的放缓前沿 AI 研发言论,称可以放缓,但两家公司已形成前沿 AI 双头垄断,不应借机要求暂停反垄断法或凌驾于产品责任之上的监管审批。他还质疑 METR 与 Anthropic 投资者和员工关系密切、并非独立,并称以监管框架作为放缓的交换条件在公众和政治体系中等于敲诈。

  2. Hacker News 热门(buzzing.cc 中文翻译)51

    Bryan Cantrill 撰文批评 Jacob Coxon 等人称AI十年内灭绝人类概率超10%的说法

    Bryan Cantrill 忏悔大学时期在机房谎报病毒引发恐慌的旧事,以此类比当前AI灭绝风险言论。他批评前 Anthropic 员工 Jacob Coxon 与 Anthropic 对齐科学负责人 Evan Hubinger 认同的"AI 在十年内杀死全人类概率 >10%"的表态,指出这类主张缺乏证据、依赖模糊外推,并强调工程离不开物理世界与人类问责,专家不应滥用公众信任。

  3. Rohan Paul51

    Terence Tao 表示,今天大语言模型的训练与运行主要用线性代数、矩阵乘法和少量微积分,本科生即可掌握,构建与运行这些模型的方法是清楚的。真正的谜团是为何模型在部分任务上表现好、另一些上失败且无法提前预测;原因之一是自然文本介于纯噪声与完全结构化数据之间,对应数学理论薄弱,类似物理学在中观尺度上的困境。内容来自 @Briankeating 的 YouTube 频道视频。

  4. Rohan Paul51

    微软 CEO Satya Nadella 发文称,任何超级智能追求都必须以造福人类和受人类控制为前提,欢迎以刻意放慢节奏把对齐作为设计目标。他主张开放与开源模型并存的生态、企业掌控自身知识嵌入自有权重的学习循环而不依赖单一模型供应商,对齐机制不能由少数实体控制;微软还将发布其自研 MAI 模型背后的 Code of Conduct 供公开咨询。

  5. Hacker News 热门(buzzing.cc 中文翻译)64

    David Sacks 回应 Dario 与 Sam:OpenAI 和 Anthropic 可自行放缓前沿模型,无需监管许可

    David Sacks 回应 Dario 与 Sam 的“放缓前沿”主张,表示支持两家自行减速,因为其已构成前沿智能双寡头。他反对以反垄断豁免、监管审批流程为条件,并称 METR 与 Anthropic 的投资人和员工关系密切并不独立;他认为市场本身已惩罚不可预测的模型行为,放缓的真实动机包含规避网络攻击产品责任风险,而非纯粹利他。

9月13日周日
  1. Hacker News 热门(buzzing.cc 中文翻译)53

    P(doom):对 Dario 放缓前沿 AI 主张的批评

    作者回应 Dario Amodei 关于放缓前沿 AI 的文章,认为 P(doom) 相关的灭绝性风险被高估,真正的问题是对普通人和社会的伤害。作者指出目前造成实际问题的都是闭源美国模型,开放权重模型的扩散能拉平竞争并起到天然减速作用;现行监管在欧美都接近失效,API 限制主要针对防止中国蒸馏,而各方仍在公共开源资源上承压。

  2. The Verge:AI(RSS)57

    Sam Altman 表示 OpenAI 在 2026 年上市是不明智的

    OpenAI CEO Sam Altman 在接受 Fortune 采访时确认 OpenAI 不会在 2026 年进行 IPO,称考虑当前安全方面的进展,急于上市并不明智。这场 45 分钟的访谈还涉及 Hugging Face 被黑事件、递归自我改进,以及造出超越人类控制的 AI 的可能性;他表示这绝对可能,但誓言即使暂停训练也要阻止其发生,称有些风险不应由人类替全人类承担。

  3. Peter McCrory70

    Dario Amodei 发布新文章 We Must Pace the Frontier,主张 AI 行业应放慢速度,并提出三部分计划。Anthropic 单方面承诺第一步,为第三方评估者提供永久的员工级系统访问权限,以核实安全措施执行、报告事故并评估训练期间模型的 alignment。

    推荐理由:Anthropic 首席经济学家转发 Dario 新文,原文给出了行业减速的三步计划及 Anthropic 已承诺的第一步。