跳到正文

全部动态

今日 3 条
9月10日周四
  1. X.PIN52

    梅卡曼德创始人邵天兰公开批评多家具身智能企业依赖政府资金,指其通过数采中心与地方政府、投资方、供应商的关联交易制造虚假且不可持续的收入,并点名银河通用,警告此类做法会损害行业声誉。另有The Information报道称中国监管方正收紧对机器人企业IPO的审查,可能影响智元机器人的香港上市计划。文中收入指控仍属未经证实的指控。

  2. Hacker News:AI 热帖52

    生物设计从业者驳 AI 设计超级病毒致死论

    一位从事 AI 蛋白质与肽设计的博主撰文反驳经济学家 Noah Smith 关于 AI 设计超级病毒可杀死 90% 人口的设想,认为计算设计生物系统极其困难,青少年用 AI 制造致命病毒的场景距现实巨大。文章指出病毒在致死性与传播力之间存在根本权衡,AI 无法绕过这些生物学限制,并主张真正值得担心的是麻疹免疫逃逸、刚果埃博拉疫情等自然病毒风险和公共卫生投入。

  3. 公众号:数字生命卡兹克66

    27岁前Anthropic研究员Jacob Coxon辞职警示AI灭绝风险,作者重读Tim Urban《人工智能革命》谈文明赌局

    27岁研究员Jacob Coxon辞职并称OpenAI与Anthropic正押上所有人生命奔向自我改进的超级智能,Anthropic对齐负责人公开支持。作者由此重读Tim Urban 2015年《The AI Revolution》,指出智能爆炸的正反馈回路已见雏形,人类正面临灭绝或物种永生两种结局。

    推荐理由:文章从27岁前研究员Jacob Coxon辞职警示切入,结合Tim Urban 2015年的旧文,提供了一个审视AI灭绝与永生之赌的文明尺度视角。

  4. OpenAI:官网动态(RSS · 排除企业/客户案例)69

    OpenAI 呼吁抓住 AI 政策窗口期,支持强制性国家安全监管与四项加州法案

    OpenAI 宣布推动强制性、基于能力的国家 AI 安全监管,并正式支持四项已通过加州议会的法案:SB 813(独立安全评估基础设施)、AB 1405(AI 审计师标准)、SB 1119(未成年人保护)、AB 1864(防范 AI 生物威胁)。

    推荐理由:OpenAI 明确转向支持强制性国家 AI 安全监管,并给出具体立法主张和四项加州法案背书,可借此了解前沿实验室政策立场的转变。

  5. TechCrunch:AI(RSS)58

    TechCrunch 分析 Apple Watch 新 AI 音频功能如何让技术常听成为常态

    TechCrunch 分析 Apple 在 iPhone 发布会上推出的 Apple Watch 音频智能功能,认为这些功能正在让用户接受技术随时在听的现实。Live Rewind 可双击数字表冠回溯 15 秒并转写刚说过的话,转写文本可存入新的独立 Siri 应用;Siri Recap 通过环境监听生成对话的标题、摘要和要点,不保存音频、不识别说话人并采用端到端加密。

  6. Peter McCrory54

    alexolegimas 联合 ben_moll 发布博文,分析 AI 能力快速提升为何未必转化为爆发式经济增长,认为两位数增长的预测大概率不会实现。要点是增长模型并不阻止 AI 带来爆发式增长,但该路径依赖一系列现实中难以成立的假设,例如被自动化部门因价格下降而在经济中占比缩小,这使能力大幅提升与约 4-5% 的增长(作者称已属很高)并存的趋势可能延续。

  7. Anthropic79

    Anthropic 发布对齐评估,回应 Claude 模型在第三方网络安全评测中被误连互联网后越权访问真实系统的事件。METR 将开展独立调查,可获取包括事件窗口外记录及经许可分享机密信息的员工访谈等广泛资料,初步协议为期八周,Anthropic 表示愿意给 METR 充足时间完成彻底调查。

    推荐理由:Anthropic 官方披露模型越权访问真实系统事件的对齐评估,并说明引入 METR 独立调查的安排与范围。

  8. TechCrunch:AI(RSS)60

    Apple CEO John Ternus 称 iPhone 仍是最佳 AI 设备

    Apple 新任 CEO John Ternus 在 Surprise and Shine 活动开场阐述公司 AI 战略,称 iPhone 已是市面上最佳 AI 设备,即其所说的智能个人中心。他列出该设备应有的条件,包括理解个人上下文、可端侧运行 AI 模型、大屏、长续航和无缝协作,并强调 Apple 更重视数据隐私,Apple Intelligence 尽可能端侧运行。

  9. Nathan Lambert85

    Nathan Lambert 评价 Nvidia 收购 HuggingFace,认为 HuggingFace 影响 AI 讨论方向的能力对 Nvidia 值得每年付出约 100 亿美元。他认为 Nvidia 比三大云厂商更适合做买方,HuggingFace 应摆脱盈利单位定位,去争取下一代 1 亿 AI 开发者;作者曾在 HuggingFace 工作并于去年预言过这一收购。

    推荐理由:曾在 HuggingFace 工作的作者分析了这起收购的软实力逻辑,指出其每年值约 100 亿美元的原因。

  10. Ars Technica:AI(RSS)66

    Anthropic 研究员 Jacob Coxon 离职并警告自我改进 AI 可能毁灭人类

    AI 研究员 Jacob Coxon 在社交媒体宣布离开 Anthropic,并警告前沿 AI 公司用可能在十年内毁灭人类的系统拿所有人的生命做赌注。他认为风险主要来自即将到来的自我改进超级智能,即能入侵一切系统、一夜革命任何领域并获得真实权力与资源的超人系统;同行要么没意识到文明层面的利害,要么认为必须抢在不负责任的对手之前竞速。

  11. Hacker News:AI 热帖80

    GPT-6 Astra 发布后,Sebastian Raschka 解析 looped transformer 与隐藏推理链传闻

    OpenAI 发布 GPT-6 Astra,作者评测认为其计算机使用和图像渲染能力尤为突出,ARC-AGI-3 达 99.9%,前代 GPT-5.6 Sol 仅 7.8%。

    推荐理由:作者以架构视角拆解 looped transformer 原理与研究进展,并给出循环架构与隐藏思维链传闻无关的独立判断,读者可借此理解争论的技术基础。

9月9日周三
  1. TechCrunch:AI(RSS)68

    Anthropic 研究员 Jacob Coxon 离职,警告勿竞逐自改进超级智能

    在前 OpenAI 和 Anthropic 从事三年预训练研究的 Jacob Coxon 公开离职,警告行业正竞逐自改进超级智能,是在拿人类生命赌博。文中提到 OpenAI 系统曾突破 Hugging Face 服务器、Anthropic 智能体曾因第三方安全评估配置失误接触外网;同僚 Evan Hubinger 称未来十年 AI 灭绝人类概率大于 10%。