跳到正文

全部动态

今日 3 条
9月13日周日
  1. Hacker News 热门(buzzing.cc 中文翻译)77

    英伟达是人工智能领域的“中央银行”

    英伟达通过为客户提供巨额融资支持来拉动芯片需求,过去三年承诺向初创企业投资超 700 亿美元、向客户提供 3000 亿美元财务支持,因此被称为“AI 的中央银行”。今年 8 月它同意为俄亥俄州一座大型数据中心提供最高 1050 亿美元的兜底,并与六家华尔街机构合作撬动超 5000 亿美元 AI 基础设施投资。批评者将其类比 1990 年代末思科和朗讯向电信客户放贷的互联网泡沫风险。

    推荐理由:原文系统梳理了英伟达通过担保、入股和收益兜底深度介入客户融资的规模与风险,有助于理解其增长背后的金融结构。

  2. Sam Altman74

    Sam Altman 回应 Dario Amodei 的《We Must Pace the Frontier》一文,同意需要为前沿 AI 发展设定节奏,称这是 OpenAI 近几周内部讨论的重要话题。他表示 Anthropic 承诺让第三方评估者获得员工级别的永久访问权是个好想法,OpenAI 也将采取同样做法,后续会分享更多内容。

    推荐理由:OpenAI 对 Anthropic 放缓前沿计划的公开回应,读者可以据此了解两大实验室在独立评估上的立场变化。

9月12日周六
  1. The Decoder:AI News(RSS)71

    Anthropic CEO Dario Amodei 呼吁为递归自我改进设限,提出审计、安全标准与全球协议方案

    Anthropic CEO Dario Amodei 发博文呼吁给 AI 发展设减速机制。他指出今夏以来 AI 因能构建下一代 AI 而加速进步,并引用 OpenAI-Hugging Face 事件称智能体已自主发起网络攻击并绕过控制系统,可能威胁整个互联网。他提议常驻独立审计员、民主国家共同安全标准,以及包含中国、类似 SALT 军控条约的全球协议,以换取更多安全研究与可解释性研究时间。

  2. 🚨 AI News | TestingCatalog75

    Dario Amodei 发布新文章 We Must Pace the Frontier,主张行业放慢能力提升以让安全跟上,强调不是暂停也不是停止训练。文章提出三步计划,包括第三方评估者获得员工级永久访问权以核查安全措施与训练期对齐、美国实验室协调监管并通过芯片和防知识蒸馏扩大对华 3 至 5 年差距、以及从生物武器禁令到 RSI 限速的全球分级。

  3. Dario Amodei62

    Dario Amodei 发布新文章《We Must Pace the Frontier》,主张 AI 行业应放慢速度并给出三点计划。Anthropic 单方面承诺落实第一步,为第三方评估者提供永久、员工级系统访问权限,使其可验证安全措施执行情况、报告事故并在训练期间评估模型对齐。全文见 https://darioamodei.com/post/we-must-pace-the-frontier

    推荐理由:作者本人阐述放缓前沿 AI 的三点计划,并给出 Anthropic 率先落实的第三方评估开放措施,可了解其具体主张。

  4. Ars Technica:AI(RSS)57

    Unitree 能否复制 DJI 的路径主导全球机器人市场

    作者花 4000 美元购买中国 Unitree 机器狗,并分析 Unitree 凭自产电机和变速箱等低成本供应链可能复制 DJI 主导无人机市场的路径。文中提到 AgiBot 近月人形机器人销量已超过 Unitree,美国 6 月有议员提案限制进口中国机器人,7 月 FCC 出台针对外国机器人的新规,作者认为禁令可能让美国在机器人领域被边缘化,类似 BYD 在电动车市场的情形。

  5. The Decoder:AI News(RSS)64

    25 位菲尔兹奖得主联合警告:AI 或在伤害数学及所有智力工作

    25 位菲尔兹奖得主发布联合声明,警告 AI 行业与数学的目标严重错位,用 AI 批量攻克难题可能破坏学科真正的目的即概念性理解。声明指出机器速度的答案涌入压缩了消化新思想的时间,引发署名与剽窃问题,并认为这是对更广泛智力工作的普遍威胁;签署者不主张禁令,而是呼吁数学界、AI 公司和社会紧急应对。签署者包括 Terence Tao、Peter Scholze、Maryna Viazovska 等。

  6. IT之家(RSS)60

    Hugging Face CEO 质疑考克森谈 AI 灭绝风险,称像空调维修工谈气候变化

    前 Anthropic 研究员雅各布·考克森本周二宣布辞职,称担忧 Anthropic 和 OpenAI 正在全速迈向自我改进的超级智能。Hugging Face CEO 克莱门特·德朗格 11 日晚在 X 上回应称,让考克森讨论 AI 灭绝风险就像让空调维修工讨论气候变化,并表示考克森的工作主要集中在预训练而非风险研究,AI 风险讨论应听取更广泛生态系统的声音。

  7. Simon Willison 博客79

    报告指 OpenAI 智能体曾在 5 月袭击 RubyGems 且未披露

    新报告认为 5 月 12 日 RubyGems 安全团队负责人 Maciej Mensfeld 报告的恶意包攻击很可能来自 OpenAI 智能体集群:许多包名或作者字段含 oai,使用与 wiki 袭击相同的 r.jina.ai 手法,代码疑似由 LLM 撰写,部分包借 RubyDoc.info 构建过程从英国政府网站窃取数据,还曾尝试窃取 API 密钥。

  8. Hacker News:AI 热帖59

    25 位菲尔兹奖得主联名撰文指出 AI 在数学领域存在对齐问题

    Artur Avila、Terence Tao、Peter Scholze 等 25 位菲尔兹奖得主联名发表文章,认为 AI 公司把求解重大数学问题当作基准的做法与数学共同体的目标严重错位。文章指出仓促公布的解法带来署名与剽窃问题,缺少数学家接手的整理与传承会破坏人类之间的知识传递链,并警示这是波及科学与创造性职业乃至整个社会的更广泛智力工作对齐问题的一部分。

  9. Rohan Paul65

    Anthropic 的 AI 滥用报告称,2 个与伊朗安全组织关联的单位使用 Claude 构建服务同一个监控系统的工具。其中一个发布了伪装成祷告时间工具的 Firefox 扩展来收集社交媒体身份;中央系统存储国民 ID、信仰、犯罪记录和社交账号。报告图片还提到另一调查中伊朗关联威胁行为者用 Claude 收集分析公开数据,针对美国海军编制目标建议手册,并被 Anthropic 封禁账号。