跳到正文

#论文/研究

今日 0 条
10月7日周三
10月4日周日
10月3日周六
10月2日周五
  1. Microsoft Research36

    微软研究院用机器学习预测电网空间天气风险,覆盖美国 66,935 座变电站

    微软研究院开发了一套端到端机器学习流水线,利用 L1 拉格朗日点的太阳风观测数据,为美国本土 66,935 座变电站生成 30-60 分钟前的空间天气风险预测。系统结合 AE 与 Dst 指数预测、地质电导率和电网数据,在 2020-2026 年评估期内检测到近 80% 的重大空间天气事件,其中 Dst 预测器在 62.2% 的高活跃时段优于 Burton 方程。

  2. Ars Technica · AI60

    CMU 等团队用 16 块 GPU 训练 AI 在 Stratego 上击败顶尖人类选手

    卡内基梅隆、MIT、纽约大学和斯坦福的研究团队开发出 AI 系统 Ataraxos,在 Stratego 上以 15 胜 1 负 4 平击败被视为史上最强的选手 Pim Niemeijer。Stratego 是信息不完全游戏,棋子身份只在碰撞时揭示,此前连 DeepMind 也未能造出稳定击败顶尖人类玩家的机器。该研究仅用 16 块 GPU 和数千美元完成训练。

9月30日周三
  1. Simon Willison70

    Anthropic 前沿红队:GLM-5.3 与 Claude Mythos Preview 在二进制漏洞利用任务上的表现

    Anthropic 前沿红队在内部 Binary Exploitation benchmark 中随机抽取 100 个任务评测多个模型,GLM-5.3 在 4% 的试验中实现了完整的控制流劫持,Claude Mythos Preview 为 6%。报告指出,此前的 Claude Opus 4.6 和 GLM-5.2 在这些任务中无一成功,说明一个有意义的能力门槛已被跨过。

  2. Anthropic:Research(发表成果 · 网页)81

    Anthropic 评测 GLM-5.3:能自主构建端到端网络漏洞利用且防护易被绕过

    Anthropic 发布对智谱 GLM-5.3 网络攻击能力的分析,发现其可自主开发端到端漏洞利用,在 ExploitBench 410 次尝试中成功 50 次,接近 Claude Mythos Preview 的 56 次。

    推荐理由:Anthropic 第一手评测给出 GLM-5.3 的漏洞利用成功率和防护绕过数据,读者可据此了解开放权重模型带来的攻击面变化。

  3. HuggingFace Daily Papers(社区热门论文)42

    AI Night-Scientist:用强化学习训练 LLM 的智能体科研创意

    AI Night-Scientist 是一个用强化学习教模型何时以及如何跳出可预测推理的智能体框架,基于行动、过程、结果三个维度用 GRPO 训练。相比基座模型,其科研提案的研究方向范围扩大 27.8%、贡献类型增加 14.9%,预测引用影响最高提升 32.0 个百分点,原创性提升 66.2 分。仅提高解码温度无法复现这些增益,指明追求何种创造力的语义引导才是关键。

  4. HuggingFace Daily Papers(社区热门论文)30

    SentZero:面向多任务零样本胸部 X 光分析的句子级视觉语言预训练框架

    SentZero 是一个句子级视觉语言预训练框架,用于零样本、多任务的胸部 X 光(CXR)分析。它通过基于 LLM 的摘要级句子结构化与映射扩大正样本对多样性,并新增损失项缓解临床等价句子造成的假阴性,同时对视觉嵌入做句子条件残差调制。在多个下游任务和数据集上,SentZero 提升了零样本泛化能力,优于此前的多任务零样本方法。

9月29日周二
  1. HuggingFace Daily Papers(社区热门论文)38

    SCOPD:面向高效视觉语言模型的稀疏上下文同策略自蒸馏

    针对推理型视觉语言模型(VLM)视觉 token 序列过长导致推理昂贵的问题,研究者提出稀疏上下文同策略自蒸馏框架 SCOPD:学生模型基于剪枝后的视觉 token 生成推理轨迹,由拥有完整上下文的教师模型对同一同策略前缀进行监督,无需真实答案、架构改动或额外推理开销。

  2. Apple Machine Learning Research(RSS)42

    苹果研究:语言模型树结构表达式序列化的通信瓶颈与往返研究

    苹果研究者提出往返协议,用生成器把算术表达式转成文字题、再由独立提取器还原,并以符号等价作为精确判定,测试十六个模型的所有两两组合。结果显示该通道有损且不对称:交换生成与提取模型可使准确率相差最多 60.4 个百分点,最佳组合达 92.9%;至少 73.6% 的失败源于生成端,难度由树结构而非模型家族决定。

  3. HuggingFace Daily Papers(社区热门论文)33

    FactorEngram:面向语言模型的基级门控分解式 N-gram 记忆

    FactorEngram 提出一种分解式 n-gram 记忆机制,用共享基向量字典上的稀疏系数替代传统单体嵌入,并让上下文对每个记忆分量单独门控。在 340M 和 1B 参数 Transformer 骨干上,该方法提升了语言建模与下游任务表现;消融实验显示,将记忆分支插入中间层的注意力子层之前是有效配置。

  4. HuggingFace Daily Papers(社区热门论文)44

    蒸馏防御在强化学习后轻易失效

    论文指出,现有蒸馏攻击防御通常只在蒸馏后立即评估,隐含假设攻击者不再继续训练,但更现实的威胁模型包含蒸馏后的强化学习。结果显示,强化学习会降低蒸馏攻击门槛,仅用当前 API 易得数据即可窃取闭源模型推理能力,效果相当于提取完整隐藏推理轨迹的复杂攻击。任何泄露足够信息以重建近似推理轨迹的蒸馏防御都可能失效。

  5. HuggingFace Daily Papers(社区热门论文)53

    GPT-6 Astra 跨计算机视觉评测揭示通用模型的能力边界

    该论文在 9 个领域、34 项能力和 55 个基准上评测 GPT-6 Astra 及五个前沿通用 AI 系统,并与专用模型和人类参考水平比较。Astra 在视觉与空间推理及多种结构化预测上显著领先其他系统;语义解释、推理和以物体为中心的预测接近或达到参考水平,但在度量几何精度、忠实重建、时序一致的密集预测和细粒度专业知识上仍有较大差距,附加推理与专用工具只能弥合部分缺口。

  6. Hacker News:AI 热帖77

    IMDEA Networks 论文:九款对话式 AI 服务向第三方泄露对话标题、提示词与截图

    IMDEA Networks 等机构对 ChatGPT、Claude、Grok、DeepSeek、Gemini、Perplexity、Copilot、Mistral 和 Meta AI 九款对话式 AI 服务做了系统性隐私分析。

    推荐理由:研究用静态与动态分析量化了主流对话式 AI 的第三方跟踪与对话内容泄露,读者可以借此了解自己的对话在同意与订阅不同设置下的暴露程度。

  7. HuggingFace Daily Papers(社区热门论文)30

    Nereus:面向 LLM 后训练的自适应并行运行时

    Nereus 是一个面向 LLM 强化学习后训练的成本感知运行时,可动态调整并行策略以适配资源、序列长度和内存压力的变化。在真实数据 trace 中,在线 TP/PP 自适应将平均 step 延迟降低 27.7%;在 1,024 GPU 的 1,000 步运行中,六次切换仅占总运行时间的 0.079%。

  8. HuggingFace Daily Papers(社区热门论文)40

    RenderRank:用压缩视觉 token 学习文本重排序

    RenderRank 是一种从压缩视觉文档表示中学习查询相关性打分的重排序器,不再依赖传统文本 token 序列。在 BEIR 的 11 个数据集上,它减少 16.5-35.5% 输入 token,平均 NDCG@10 达 55.96,超过所有参数量低于 4B 的文本基线及部分更大模型。

  9. HuggingFace Daily Papers(社区热门论文)38

    MT-OPSD:面向多轮图像编辑的在线策略自蒸馏框架

    针对现有图像编辑模型在递归编辑中快速退化的问题,研究者提出 MT-OPSD 在线策略自蒸馏框架,让模型在自生成的条件下状态上训练,并由干净条件教师模型提供编辑监督,无需多轮标注。该工作同时发布 LME-Bench,包含 100 组十轮编辑会话,用于评估长程鲁棒性。在三个编辑骨干上的实验显示,MT-OPSD 显著提升长程编辑成功率、减少多轮崩溃,并基本保持单轮编辑质量。

  10. HuggingFace Daily Papers(社区热门论文)33

    GeoVerse:在几何隐空间中实现世界一致的新视角合成

    GeoVerse 通过在预训练 3D 基础模型的几何隐空间中生成、并注入视频生成模型的外观先验,实现世界一致的新视角合成。它从 Wan2.2 VACE 提取多层级特征,经 ControlNet 式适配器注入几何隐扩散模型,并用全局空间记忆聚合已观测与合成内容以保持跨视角连贯。

  11. HuggingFace Daily Papers(社区热门论文)43

    InfiniHand:从第一视角视频流式估计世界坐标系手部运动

    InfiniHand 是一个端到端流式前馈框架,可直接从未标定的第一视角视频中联合估计 MANO 参数、相机轨迹和手部位置,无需级联独立的手部姿态估计器与 SLAM 系统。在域内基准上,其 ARCTIC PA-p 相比 ViDiHand 降低 21.4%,并显著缓解世界坐标系漂移,运行速度达 11.19 FPS,吞吐量超过 HaWoR 两倍。

  12. HuggingFace Daily Papers(社区热门论文)45

    模型内部表征何时有用?表征工程在 LLM 安全中的角色评估

    一项匹配评估对比了表征工程与行为安全防护在 LLM 安全控制与监控上的表现。安全控制方面,DPO 整体控制最强且随训练数据增加而提升,但后续良性微调会削弱其安全性;表征引导仅在低数据场景(尤其高质量对比数据)保持竞争力。安全监控方面,专用文本监控器检测准确率最高,表征探针则以更低边际成本保持竞争力,监控引导干预还能在几乎不增加过度拒答的情况下恢复 DPO 因良性微调损失的大部分安全性。

  13. HuggingFace Daily Papers(社区热门论文)49

    距离去掉视觉编码器还有多远?无编码器多模态预训练的缩放定律

    研究对比了无编码器与有编码器多模态大模型的缩放定律,发现去掉视觉编码器会把多模态目标的算力最优分配推向更大模型,文本目标则几乎不变。两者在文本目标上损失-算力前沿几乎重合,但多模态目标上无编码器模型小规模时落后,预计约 10^22 FLOPs 时追平。无编码器时语言模型通过视觉专属适配接管其角色:视觉 token 双向交互随算力增长愈发有益,视觉处理前移,视觉 token 的专家路由更集中。