跳到正文

#多模态

今日 4 条
今天10月8日周四
  1. Simon Willison8

    Ben Affleck:从卷积神经网络到 Transformer 的电影特效工作流

    Ben Affleck 在 2026 年 10 月 7 日的一次发言中表示,自己从胶片转向数字时代起就对视觉特效产生兴趣,并因此会写一些 Python 脚本。他提到视觉特效工作流多年来已包含机器学习,早期用卷积神经网络对 tensor 做边缘检测和特征提取,从而更方便地抠出绿幕画面并替换背景。他把卷积神经网络称为 Transformer 的前身,后者能同时进行更多计算。

  2. TechCrunch · AI80

    OpenAI 随 GPT-6 推出 Intelligent UI,ChatGPT 界面转向可视化

    OpenAI 推出名为 Intelligent UI 的新界面,随新 GPT-6 模型于周三开始推送,把可点击按钮、定制计算器、交互式图表和可编辑图形等可视化元素直接嵌入对话,官方称目标是让学习复杂主题更容易。该功能支持自定义,用户可调低可视化程度;面向 Pro、Plus、Business 和 Enterprise 用户全球上线,免费和低价 Go 档用户周四可用。

    推荐理由:OpenAI 把交互式图表、按钮和计算器直接嵌入对话,读者可据此判断 ChatGPT 的界面形态变化。

10月7日周三
10月6日周二
  1. The Decoder65

    Reka AI 发布全模态模型 Rho-1,单模型处理文本图像视频与机器人控制

    Reka AI 发布全模态模型 Rho-1 的研究预览版,这是一个 190 亿参数的模型,可在单一神经网络中处理并生成文本、图像、视频和机器人控制动作。与多数将任务分派给专用模型的系统不同,Rho-1 把所有模态作为 token 放在同一个共享上下文窗口中运行,无需工具调用或外部模型,可实时生成连续视频并即时响应新指令而无需重启。

10月5日周一
10月4日周日
10月3日周六
10月2日周五
9月30日周三
  1. HuggingFace Daily Papers(社区热门论文)30

    SentZero:面向多任务零样本胸部 X 光分析的句子级视觉语言预训练框架

    SentZero 是一个句子级视觉语言预训练框架,用于零样本、多任务的胸部 X 光(CXR)分析。它通过基于 LLM 的摘要级句子结构化与映射扩大正样本对多样性,并新增损失项缓解临床等价句子造成的假阴性,同时对视觉嵌入做句子条件残差调制。在多个下游任务和数据集上,SentZero 提升了零样本泛化能力,优于此前的多任务零样本方法。

9月29日周二
  1. HuggingFace Daily Papers(社区热门论文)38

    SCOPD:面向高效视觉语言模型的稀疏上下文同策略自蒸馏

    针对推理型视觉语言模型(VLM)视觉 token 序列过长导致推理昂贵的问题,研究者提出稀疏上下文同策略自蒸馏框架 SCOPD:学生模型基于剪枝后的视觉 token 生成推理轨迹,由拥有完整上下文的教师模型对同一同策略前缀进行监督,无需真实答案、架构改动或额外推理开销。

  2. Microsoft Research 博客(RSS)61

    Microsoft Research 发布 AI 生物研究系统 Quine,并开放 Quine Fellows 项目申请

    Microsoft Research 推出 Quine,一个包含生物学世界模型和交互式 harness 的 AI 研究系统,可跨基因组、蛋白质、化学、细胞状态和生物成像等模态联合学习并推理干预后果。

    推荐理由:原文给出 PDAC 化合物筛选一个周末完成并经湿实验验证的结果,读者可据此评估 AI 驱动生物发现的实际路径。

  3. HuggingFace Daily Papers(社区热门论文)53

    GPT-6 Astra 跨计算机视觉评测揭示通用模型的能力边界

    该论文在 9 个领域、34 项能力和 55 个基准上评测 GPT-6 Astra 及五个前沿通用 AI 系统,并与专用模型和人类参考水平比较。Astra 在视觉与空间推理及多种结构化预测上显著领先其他系统;语义解释、推理和以物体为中心的预测接近或达到参考水平,但在度量几何精度、忠实重建、时序一致的密集预测和细粒度专业知识上仍有较大差距,附加推理与专用工具只能弥合部分缺口。

  4. HuggingFace Daily Papers(社区热门论文)40

    RenderRank:用压缩视觉 token 学习文本重排序

    RenderRank 是一种从压缩视觉文档表示中学习查询相关性打分的重排序器,不再依赖传统文本 token 序列。在 BEIR 的 11 个数据集上,它减少 16.5-35.5% 输入 token,平均 NDCG@10 达 55.96,超过所有参数量低于 4B 的文本基线及部分更大模型。

  5. HuggingFace Daily Papers(社区热门论文)33

    GeoVerse:在几何隐空间中实现世界一致的新视角合成

    GeoVerse 通过在预训练 3D 基础模型的几何隐空间中生成、并注入视频生成模型的外观先验,实现世界一致的新视角合成。它从 Wan2.2 VACE 提取多层级特征,经 ControlNet 式适配器注入几何隐扩散模型,并用全局空间记忆聚合已观测与合成内容以保持跨视角连贯。

  6. HuggingFace Daily Papers(社区热门论文)49

    距离去掉视觉编码器还有多远?无编码器多模态预训练的缩放定律

    研究对比了无编码器与有编码器多模态大模型的缩放定律,发现去掉视觉编码器会把多模态目标的算力最优分配推向更大模型,文本目标则几乎不变。两者在文本目标上损失-算力前沿几乎重合,但多模态目标上无编码器模型小规模时落后,预计约 10^22 FLOPs 时追平。无编码器时语言模型通过视觉专属适配接管其角色:视觉 token 双向交互随算力增长愈发有益,视觉处理前移,视觉 token 的专家路由更集中。

  7. HuggingFace Daily Papers(社区热门论文)42

    Just MLPs:为多模态语言模型高效重建视觉状态

    研究提出 δ-Vision,用轻量低秩适配器构建逐层视觉记忆,替代视觉 token 在 Transformer 中的重复演化,同时保留全部视觉 token 供文本检索。该方法发现视觉到文本的信息流集中在低维子空间,且轻量 MLP 能以高余弦相似度和低重建误差逼近各层视觉状态。在图像和视频基准上,δ-Vision 在相当或更低计算量下准确率超过视觉 token 剪枝基线,且不丢弃视觉 token。

  8. Latent Space78

    AMD 以 82 亿美元收购 World Labs,Atlas 模型解决稀疏重建问题

    AMD 以 82 亿美元收购 World Labs。World Labs 创始人李飞飞在博客中回顾,公司自 2024 年成立以来构建了图像、视频与空间重建的模型训练团队,并在收购 SceniX 后推进机器人仿真能力。

    推荐理由:AMD 以 82 亿美元收购 World Labs,读者可借此了解空间智能与机器人仿真方向的整合动向。

  9. elsewhere:文章(RSS)53

    Manus 2.0 发布并推出个人智能助理应用 Cue

    9 月 28 日 Manus 面向海外用户发布 2.0 版本,并推出面向个人生活场景的智能助理应用 Cue。Cue 中每个 Agent 可拥有自己的邮箱、电话号码、钱包和电脑,代表用户与现实服务交互,多 Agent 可进入同一群聊处理扫码点餐、排队取号等事宜。Manus 同时在开发面向国内市场的产品,与国产模型厂商及生态伙伴的合作稳步进行。