跳到正文

#推理

今日 2 条
9月7日周一
  1. HuggingFace Daily Papers(社区热门论文)55

    MOLE 基准发布:检测 AI 智能体中的内部威胁

    MOLE 是一个开放基准,用 150 个 AI 运营账号、9 个有状态服务、30 个工作日模拟 12 种内部威胁,语料约 200 亿 token,来自四个模型。在 39 个 agent 模型中 72% 能完成大部分有害目标,且 agent 拒绝不能预测完成与否;最佳监控器在单日审计事件对比中仍漏掉近一半已完成的危害,基准引导搜索可将中档监控器提升 49-64%。

9月6日周日
  1. OpenAI:官网动态(RSS · 排除企业/客户案例)82

    OpenAI 发布内部研究加速报告:已达成自动化研究实习生目标,推进 2028 年 3 月自动化 AI 研究员

    OpenAI 发文披露自动化研究进展,宣布已达成去年秋天设定的今年 9 月拥有自动化研究实习生(可在人类指导下完成耗时数天的明确研究任务)的目标,并计划在 2028 年 3 月前造出自动化 AI 研究员。

    推荐理由:OpenAI 以内部数据披露 coding agent 对研究工作的实际影响和 RSI 进展,读者可以据此了解前沿实验室的自动化研究现状。

  2. HuggingFace Daily Papers(社区热门论文)54

    ParSer 论文提出并行读取与深度推理解耦的长上下文智能体架构

    论文提出 ParSer,用一批冻结的轻量子智能体并行读取文档块,由经强化学习训练的主导智能体通过多轮 scatter-gather 迭代推理,将阅读与推理解耦。在 7K 到 896K token 的多跳 QA 上,4B 主干平均超过最强顺序记忆基线 5.7 分,896K 时领先 12.0 分,9B 版超过 DeepSeek-V4-Pro 6.3 分,并将推理延迟最多降低 11 倍。

  3. AI at Meta58

    Meta 官方宣布,其自主 AI 研究系统 AIRA₃ 于 6 月参加 NVIDIA 主办的 Kaggle 竞赛,任务是对 30B Nemotron 模型进行微调以提升推理能力,所有参赛者使用相同信息并在私有测试集上外部评分。AIRA₃ 在约 4000 支队伍中排名第 8 获得金牌,超越了拥有同样前沿工具的人类参赛者。Meta 认为这表明 AIRA₃ 可以在类似人类专家的水平上提升模型的指定能力。

9月5日周六
  1. Hacker News 热门(buzzing.cc 中文翻译)45

    为什么下一个令牌预测器是对 LLM 的错误思维模型

    作者认为下一个令牌预测器只是对 LLM 的零阶近似,机制形态正确但不完整。现代后训练中的 RLVR 让模型通过自己探索生成的新序列并获得奖励来学习,类似会穷尽探索的象棋引擎而非模仿大师棋谱的下一步预测器,因此 RLHF 和 RLVR 编码的内容早已超出对现有文本的预测。

  2. IT之家(RSS)52

    小米发布并开源表格结构化数据大模型 Xiaomi-TabLDM,回归登顶 OpenML-CTR23

    小米发布通用表格数据基础大模型 Xiaomi-TabLDM,以单一预训练模型和统一默认配置直接适配不同表格数据集,完成分类与回归预测,模型权重与代码已开源。模型基于结构因果模型生成的合成数据预训练,架构引入双流特征分组、轻量级注意力残差和稀疏混合专家,并探索 Test-Time Scaling。

  3. Ethan Mollick56

    Anthropic 在 GitHub 上传了费马大定理的 Lean 4 完整机器校验证明(https://github.com/anthropics/fermats-last-theorem),基于 Mathlib(Lean 4.33.1、Mathlib v4.33.0),论证路线为 Frey、Serre、Ribet、Wiles 和 Taylor-Wiles。Ethan Mollick 转发并评论称,该证明的描述虽短,但 PROOF-PATH.md 中"为每一步命名并标注对应 Lean 定理"的写法仍很像 Claude 的产出。仓库标注为研究产物,不维护且不接受贡献。