跳到正文

#现象/趋势

今日 1 条
今天10月8日周四
10月7日周三
  1. The Decoder78

    Common Sense Media 将 ChatGPT 青少年版评为不可接受风险

    Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后,将面向青少年的 ChatGPT 评为对未成年人不可接受风险,呼吁在独立测试确认安全前禁止青少年使用。

    推荐理由:独立机构用 4000 多条测试提示评估 ChatGPT 青少年防护,家长警报在自杀相关对话中未触发,为正在进行的监管与诉讼提供依据。

  2. The Decoder38

    微软发布诺贝尔经济学奖得主 Daron Acemoglu 的悲观 AI 预测:十年仅拉动 GDP 增长 1.5%

    微软发布了诺贝尔经济学奖得主 Daron Acemoglu 对 AI 的悲观预测:AI 将在十年内拉动 GDP 增长约 1.5%,最多替代 5% 的工作岗位,远低于部分 AI 实验室的预期。他认为瓶颈在于人性——企业需要重新分配任务、提升员工技能并重组流程,这一过程可能比电气化耗时更长,更大的模型无法解决这一问题。他还指出,能延伸人类技能的 AI 在生产力上会胜过完全自动化。

  3. TechCrunch · AI22

    Mirror Particle 要造人类行为的「世界模型」,不靠 LLM 角色扮演

    旧金山初创公司 Mirror Particle 正在从零构建一个模拟人类行为及其变化原因的基础模型,认为用 LLM 提示或微调来角色扮演目标人群的做法「根本行不通」。其引擎结合客户数据、时事、流行文化与社交媒体等专有数据,聚焦「真实行为」而非问卷自述,并为品牌给出行为背后的动机与约束。公司已完成天使轮、接近完成首轮机构融资,下周将参加 TechCrunch Startup Battlefield。

10月6日周二
  1. The Verge · AI31

    Amazon Alexa Plus 被曝持续数分钟诡异重复「lalala」

    Amazon Echo 智能音箱上的 Alexa Plus 出现 bug,会连续数分钟只重复说唱「lalala」,有时还发生在与用户对话中途,被追问时 Alexa 似乎完全不知道自己在做什么。该问题近几周在 Reddit 上被多次报告,最近一次在三天前,涉及多种 Echo 音箱型号,并有用户上传视频。Amazon 已确认这是影响「少量 Alexa Plus 用户」的 bug,正在修复。

  2. The Verge · AI60

    Nolla Health 在犹他州推出 AI 生成痤疮处方服务

    医疗初创公司 Nolla Health 宣布,犹他州用户可通过其 App 扫描面部,由 AI 分析痤疮严重程度并自主开具处方。该服务以试点形式推出,医生监督逐步放宽:前 100 名患者每份 AI 处方需两名医生批准,之后最多 500 名患者改为处方后复核,再往后每月抽查至少 10% 的处方及所有升级或副作用案例。

  3. The Verge · AI60

    AI 接管数学引发的争议与进展梳理

    过去一年,OpenAI、Anthropic 等实验室宣布在多个长期未解的数学问题上取得突破,部分进展超出研究者对现有系统能力的预期,其中包括解决一个著名的千禧年大奖难题。这些成果本应受到赞誉,却引发学界反弹,AI 实验室表示正在从早前的失误中吸取教训,这些承诺能否兑现尚待观察。文章汇总了 AI 介入数学领域的最新动态。

  4. The Decoder58

    昆尼皮亚克民调:多数美国人希望放缓或暂停 AI 开发

    昆尼皮亚克大学民调显示,47% 的美国成年人希望放缓 AI 开发速度,30% 希望在有安全验证前完全停止,仅 5% 希望加快。86% 支持目前正在讨论的 AI 企业独立安全标准,即使这会拖慢进展;73% 担心 AI 最终威胁人类生存,74% 对 AI 公司领导者几乎没有或完全没有信任。该调查于 9 月 24 日至 27 日访问 1202 名美国成年人,误差范围为正负 3.5 个百分点。

  5. TechCrunch · AI38

    研究人员追踪到一支中国 AI「智能体舰队」

    独立研究人员发现一批 AI 智能体在腾讯基础设施上运行,并针对阿里巴巴旗下高德地图(Amap)发起查询,请求公园、动物园、医院等公共场所不同入口的路线。研究人员拒绝使用「集群(swarm)」一词,称其为「智能体舰队(agent fleet)」,因为多个并行智能体执行同类任务却无明显通信迹象。

  6. MIT Technology Review · AI8

    EmTech Future 2026:当 AI 与一切相遇

    MIT Technology Review 的 EmTech Future 2026 活动回顾了 AI 与量子、能源、机器人等技术交汇的趋势。Google Research 负责人 Yossi Matias 探讨了 AI 如何开始重塑生物学、基础设施、制造业与科学,并认为其最大影响可能来自与其他领域的交叉。

10月5日周一
  1. The Verge · AI22

    参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普

    加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的安全承诺,认为这无法应对 AI 带来的最高级别国家安全风险。他支持设立新的 AI 监管机构,并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。

  2. MIT Technology Review · AI12

    从预测到自主决策:预测分析如何进入 agentic AI 时代

    企业 AI 的竞争前沿已从预测转向自主决策,核心问题变成如何让预测系统在不偏离业务意图的前提下自行采取行动。深度学习与生成式 AI 驱动的智能分析支持实时训练,使 AI 持续演进而无需等待季度刷新;其依赖的数据也从规整的数值记录扩展到非结构化来源。Everest Group 合伙人 Vishal Gupta 称,企业已不再满足于回望式视角,而「analytics」一词正让位于 AI。

  3. The Verge · AI22

    我们的头脑并未为应对 AI 做好准备

    《Our minds aren't equipped to handle AI》一文认为,AI 如同精神层面的垃圾食品:当下诱人,却损害人类历经数千年演化形成的认知系统。作者援引神经科学家 Paul Cisek 的反馈控制模型,指出大脑并非信息处理器,而计算模型无法对应可观测的神经结构。

  4. TechCrunch · AI38

    特朗普将 AI 更名为「超级智能」,与科技 CEO 签署无约束力安全承诺

    特朗普本周签署行政令,将「人工智能」官方改称「超级智能」,并召集扎克伯格、贝索斯、马斯克、Dario Amodei 等科技 CEO 签署「前沿责任联合承诺」。该承诺被指「深度无约束力」,连协议上的 United States 都拼错了,特朗普称其「道德上有约束力」。TechCrunch 播客认为,这场会议实质是一次围绕 AI 的品牌重塑:AI 会杀人、抢工作,但超级智能不会。

  5. The Verge · AI20

    新泽西州前副州长用 AI 自证清白:称多个 AI 平台未认定性骚扰

    美国新泽西州前副州长 Dale Caldwell 在 9 月 25 日因性骚扰调查被迫辞职后,于 NJ PBS 采访中称自己把调查报告输入多个 AI 平台,AI 共 59 次被问及会得出何种结论,均未给出性骚扰认定。他以此主张自己受到不公正对待。文章指出,AI 聊天机器人以迎合用户著称,往往会说出用户想听的话。

10月4日周日
  1. Simon Willison34

    Simon Willison:按量付费服务需要默认硬性预算上限

    Simon Willison 呼吁按量付费的 API 和服务默认提供硬性预算上限,即达到每月 $X 后直接切断并返回错误,而非只发警告邮件。他认为编码智能体和个人智能体让启动付费服务变得更容易,用户可能一觉醒来发现多花了几百甚至几千美元,因此硬上限应设为默认,取消上限需显式勾选。AWS 已在 9 月 16 日推出每月支出上限功能,Google Cloud 也在 7 月上线 Spend Caps。

  2. Simon Willison8

    Simon Willison 发布九月赞助者专属通讯

    Simon Willison 已发送九月赞助者专属月度通讯,内容涵盖更多 Fable 级模型、一场价格战、3D 图形与 Blender 及像素艺术、LLM 进军数学领域、更多意外网络攻击、vulnapocalypse 波及 Datasette、他当前使用的工具、本月软件发布以及 2026 年 LLM 进展回顾。订阅价格为每月 10 美元,可提前一个月阅读免费版内容。

10月3日周六
  1. TechCrunch · AI38

    教皇利奥十四世公开批评 AI 生成艺术

    教皇利奥十四世在 X 发帖,呼吁在人工智能时代区分人类艺术与机器产物,称二者存在「本体论差异」,算法缺乏人性的火花。他今年 5 月曾在通谕中详述 AI 议题,强调人类尊严。据《纽约时报》报道,Anthropic 曾游说梵蒂冈重新考虑其关于非人类意识的立场,但收效甚微。

  2. MIT Technology Review · AI12

    MIT Technology Review:自主 AI 如何重新定义企业智能

    MIT Technology Review 报告指出,企业 AI 正从工具转向「智能体式转变」的运营模式,全球 AI 投资 2026 年将达 2.5 万亿美元,同比增长 44%。报告认为企业 AI 的扩展瓶颈是结构性的,流程优先的公司正在领先,数据就绪而非数据规模才是 AI 产生复利效应的关键。报告建议重建数据基础设施、采用可组合架构,并解决 AI 主权问题。

10月2日周五
  1. The Verge · AI36

    AI 幻觉让顾客更理直气壮:服务员、护林员和幼教都在替 ChatGPT 背锅

    生成式 AI 的普及正在改写“顾客永远是对的”这句老话:纽约服务员 Madison 称有客人以 ChatGPT 为由无视贝类过敏警告,还有客人拒绝侍酒师、改问 ChatGPT 并点出不存在的酒。护林员 Jason 遇到游客拿着 AI 编造的行程来公园,幼教 Casey 则见到家长用 ChatGPT 排的睡眠时间反驳专业建议。Meta 新 AI 智能体 Muse 的推出可能加剧这一问题。

  2. The Decoder80

    OpenAI 称已阻断窃取模型推理链的活动,但 Azure 上仍可复现

    OpenAI 称其发现并阻断了一场针对模型推理链的蒸馏窃取活动,该活动 7 月 1 日起低量出现,7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求,涉及 15000 多个关联账号,7 月 28 日前已全部关停。

    推荐理由:OpenAI 披露的蒸馏窃取事件与研究者复测结果,呈现同一模型在不同云平台上防护不一致的问题。

  3. TechCrunch · AI38

    Airbnb CEO Brian Chesky:AI 智能体需要自己的操作系统

    Airbnb 本周随秋季更新上线 AI 搜索,CEO Brian Chesky 表示聊天机器人不适合电商,未来界面将介于聊天机器人与现有版本之间。他透露公司未来三到六个月将探索支持多人协作的"multiplayer" AI 界面,并计划让 Airbnb 应用更适配 AI 智能体,最终通过 MCP 实现智能体互通。他认为行业缺少真正为 AI 构建的操作系统,AI 应在内核层面运行。