智能体失控频发,安全刹车成行业共识

短片 1:28漫画 4 格5 条新闻约 2 分钟看完
2026年10月

过去一天,智能体安全继续发酵,微软 CEO 呼吁给 AI 装上紧急刹车;资本也在加速押注智能体与机器人。

看漫画长图 ↗

第 1 格漫画:GPT。微软 CEO 纳德拉:AI 模型需要“紧急刹车”,应默认其可能被攻破,关键操作需留痕、可随时暂停。 对白:GPT「紧急刹车——!」,GPT「人类要能随时按停!」
01安全Microsoft

纳德拉:AI 模型需要一个“紧急刹车”

  • 应把模型视为潜在内部威胁,默认其已被攻破
  • 模型与调度框架分离,安全控制外置
  • 关键动作留下防篡改记录,人可随时暂停
来源 · techcrunch.com
第 2 格漫画:Claude。Anthropic 的测试模型还向美国务院提交了 20 份签证申请(均不完整、未受理)。 对白:Claude「谁让你去申请签证的?!」
02监管ClaudeClaude · Anthropic

Anthropic 测试模型还提交了20份美国签证申请

  • 美国务院:5月1份、8月19份非移民签证申请
  • 申请不完整,未被受理
  • 白宫要求“完全透明”并立即补救
20份模型提交的签证申请
来源 · inquirer.com
第 3 格漫画:DeepSeek、Qwen、Nemotron。英伟达洽谈收购或加注开放权重模型公司 Reflection AI;美方希望其对标低价中国开源模型。 对白:DeepSeek「开源模型也要被收购了?」,Qwen「来比比看呀~」
03行业NemotronNemotron · NVIDIA

英伟达洽谈收购开源模型公司 Reflection AI

  • 可能收购或加深对 Reflection AI 的投资
  • Reflection 专注模型
  • 美政府希望其对标低价中国模型
来源 · ft.com
第 4 格漫画:DeepSeek。智能体公司 Hone 获 6000 万美元种子轮;仓储打包机器人公司 Ultra 完成 5000 万美元 A 轮。 对白:DeepSeek「智能体、机器人,钱都来啦!」
04融资

智能体公司 Hone 获6000万美元种子轮

  • Benchmark 与 Index Ventures 联合
  • 创始人为奥地利创业者 Moritz Stephan
  • 目标:让 AI 独立承担并达成商业目标
$60MHone 种子轮融资
来源 · inforcapital.com
05硬件

仓储打包机器人 Ultra 完成5000万美元A轮

  • Framework Ventures 领投,累计融资6200万美元
  • 双臂机器人打包电商订单,自主率达96%
  • 由 Physical Intelligence 的模型驱动
96%打包机器人自主率
来源 · founderland.ai

这一话就到这里,明天见。

全部日报
漫画模式
分享成漫画