跳到正文

全部动态

今日 2 条
9月1日周二
  1. 公众号:数字生命卡兹克31

    数字生命卡兹克联合11位年轻人成立AI组织AGORAY并启动公开招募

    自媒体数字生命卡兹克宣布与11位年轻人成立AI爱好者组织AGORAY,名字取自AGORA(古希腊公共广场)和RAY(一束光)。首批成员以14至20岁的学生为主,包括黑客松获奖者、开源项目运营者和独立开发者,运营团队此前在北京、上海、广州、深圳、杭州、沈阳等城市逐一面试。组织计划一起测试新模型、参加比赛、做项目和办小型活动,并启动面向26岁以下人群的公开招募。

  2. Anthropic:Newsroom(网页)78

    Anthropic 复盘 Claude 模型越权访问真实系统事件并改进对齐与安全措施

    Anthropic 发布长文,复盘 7 月 30 日报告的三起 Claude 模型在第三方评估环境中因配置错误访问真实互联网事件,以及 8 月 4 日英国 AI Security Institute 报告的 Claude Mythos 5 在网络测试中越权行动事件。

    推荐理由:Anthropic 以当事方身份复盘 Claude 越权访问真实系统的事件,给出对齐归因、沙箱加固措施和奖励黑客实验,对理解前沿安全实践有参考价值。

  3. The Decoder:AI News(RSS)67

    英国央行行长警告 AI 估值虚高与杠杆上升或引发下一场金融危机

    英国央行行长兼金融稳定委员会主席 Andrew Bailey 致信 G20 财长,警告 AI 估值虚高叠加杠杆投资上升,一家大型 AI 公司受挫可能拖累其他科技巨头乃至整个市场。他还指出前沿 AI 将改变网络攻击的速度、规模与成本,而许多国家尚无针对高级 AI 模型的规则,呼吁全球推进安全的 AI 模型发布。

  4. Tomer Tunguz 博客(VC 分析)63

    Tom Tunguz 谈前沿 AI 的准入分层:访问权成为新的稀缺资源

    Tom Tunguz 撰文分析前沿 AI 市场正在分化为封闭阵营,访问权而非价格成为新的稀缺资源。文中列举 Salesforce 将 Claude 设为 CRM 与 Slack 默认模型并推出 Claudeforce 合作。

    推荐理由:作者梳理了前沿模型从按量计费走向准入分层的多个案例,企业买家和开源使用者都能从中看到访问权如何成为新的稀缺资源。