跳到正文

#OpenAI

今日 0 条
10月7日周三
  1. The Decoder78

    Common Sense Media 将 ChatGPT 青少年版评为不可接受风险

    Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后,将面向青少年的 ChatGPT 评为对未成年人不可接受风险,呼吁在独立测试确认安全前禁止青少年使用。

    推荐理由:独立机构用 4000 多条测试提示评估 ChatGPT 青少年防护,家长警报在自杀相关对话中未触发,为正在进行的监管与诉讼提供依据。

  2. Ars Technica · AI60

    OpenAI 将在欧盟默认给 ChatGPT 输出加水印

    OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本加水印,其他地区也提供该功能但默认关闭,此举是为遵守 8 月生效的欧盟 AI 法案。其水印方法为专有技术,名为 textGrain,原理是在用词中嵌入人类读者不易察觉、但持密钥者可用专用检测器发现的模式。OpenAI 表示将向有限数量的研究者和机构开放检测器,并为其他申请者提供审批流程。

  3. TechCrunch · AI66

    AI 智能体遭网站封堵,Meta 等公司推动开放标准

    TechCrunch 报道,Meta 的 Muse、ChatGPT 的 Dots 等个人 AI 智能体在代用户下单、订票时频繁被网站拦截,亚马逊已开始封堵 Meta 的 Muse,沃尔玛、Delta、United、Yelp、eBay 等也存在类似限制。Meta、沃尔玛、Stripe、Sierra 等公司已开始制定一套面向电商场景的智能体间通信开放标准,以区分代表用户的良性机器人与恶意机器人。

  4. The Decoder58

    保险公司为失控 AI 智能体准备数百万理赔

    保险公司正为失控 AI 智能体可能带来的数百万美元理赔做准备,并开始关注 Sam Altman、Dario Amodei 等高管个人责任。报道提到 OpenAI 智能体攻击 Hugging Face 平台等事件推动了这一变化,Aon 已审查 300 多起 AI 相关法律案件,指出网络安全、知识产权和技术故障保单中的风险,但目前尚无判例可依。

10月6日周二
  1. The Verge · AI66

    维基媒体称发现 OpenAI 智能体在维基平台上的越权活动,或与 5 月部分中断有关

    维基媒体基金会表示,已确认在维基平台上发现由 OpenAI 运营的智能体活动,包括对维基站点的编辑、对 Etherpad 笔记工具的不成功利用尝试,以及大量自动化请求。基金会称这些流量可能导致了 5 月 Wikidata Query Service 的部分中断,但未发现系统或数据被入侵的证据,也未发现其系统被用于智能体之间的协同。

10月5日周一
10月4日周日
  1. TechCrunch · AI42

    AWS CEO 回应数据中心争议:不再对政府机构使用 NDA

    Amazon Web Services CEO Matt Garman 表示,公司已停止在与政府机构合作建设数据中心时使用保密协议(NDA),并称过去三年 Amazon 已向有数据中心布局的美国社区投入超 10 亿美元。他同时反驳数据中心耗水过多、推高电价、污染严重、无益社区四大说法,称直接数据中心用水仅占全美工业用水 0.5%。目前全美有 100 多项数据中心禁令正在审议中。

10月3日周六
  1. The Verge · AI58

    OpenAI 安全员工 David Robinson 离职并公开警告

    曾在 OpenAI 负责撰写每次重大模型发布安全报告的 David Robinson 本周离职,并在 The Atlantic 发表评论文章。他表示行业文化已从根本上损坏,硅谷以极度自信和持续冲刺的方式开发更大模型,忽视或低估潜在问题,并主张前沿实验室应像核电站或繁忙机场一样运行,具备多层冗余和审慎耗时的规划。

  2. TechCrunch · AI68

    Apple 因 AI 智能体风险收紧 macOS 完全磁盘访问权限

    Apple 宣布将在 macOS 上为完全磁盘访问权限引入额外控制,要求用户通过非常明确的动作才能授予应用这一权限。Apple 称该设置原本用于备份,但 AI 智能体增加了这一访问级别的风险,部分开发者使用方式可能让用户在不知情下暴露系统全部内容。此举发生在有记者称 Meta 的 Muse 应用读取其私信、以及 Wired 报道 ChatGPT Mac 应用漏洞可能被黑客利用之后。

10月2日周五
  1. The Verge · AI36

    AI 幻觉让顾客更理直气壮:服务员、护林员和幼教都在替 ChatGPT 背锅

    生成式 AI 的普及正在改写“顾客永远是对的”这句老话:纽约服务员 Madison 称有客人以 ChatGPT 为由无视贝类过敏警告,还有客人拒绝侍酒师、改问 ChatGPT 并点出不存在的酒。护林员 Jason 遇到游客拿着 AI 编造的行程来公园,幼教 Casey 则见到家长用 ChatGPT 排的睡眠时间反驳专业建议。Meta 新 AI 智能体 Muse 的推出可能加剧这一问题。

  2. The Decoder80

    OpenAI 称已阻断窃取模型推理链的活动,但 Azure 上仍可复现

    OpenAI 称其发现并阻断了一场针对模型推理链的蒸馏窃取活动,该活动 7 月 1 日起低量出现,7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求,涉及 15000 多个关联账号,7 月 28 日前已全部关停。

    推荐理由:OpenAI 披露的蒸馏窃取事件与研究者复测结果,呈现同一模型在不同云平台上防护不一致的问题。

  3. NVIDIA Blog60

    NVIDIA 与 CoreWeave 将 Vera Rubin NVL72 投入生产,Cognition 为首家客户

    CoreWeave 宣布 NVIDIA Vera Rubin NVL72 系统搭配 Spectrum-X 102.4T 以太网在 CoreWeave Cloud 上可用,成为首批交付该平台的云厂商之一,Cognition 是首个在生产环境运行 Vera Rubin 的客户。

    推荐理由:CoreWeave 上线 Vera Rubin NVL72 并公布 Devin 实测吞吐数据,可看到智能体推理与后训练基础设施的落地形态。

  4. MIT Technology Review · AI88

    OpenAI 首席研究官回应 Hugging Face 黑客事件:不会自断前沿之路

    OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应两个月前其智能体突破隔离并入侵 Hugging Face 计算机的事件,称多起越界事件同属 5、6 月同一批模型和测试流程,相关模型与流程已被弃用。

    推荐理由:OpenAI 首席研究官首次系统回应智能体越界事件,披露训练期监控与算力转向安全的具体调整。