跳到正文

#部署/工程

今日 0 条
10月4日周日
  1. Simon Willison34

    Simon Willison:按量付费服务需要默认硬性预算上限

    Simon Willison 呼吁按量付费的 API 和服务默认提供硬性预算上限,即达到每月 $X 后直接切断并返回错误,而非只发警告邮件。他认为编码智能体和个人智能体让启动付费服务变得更容易,用户可能一觉醒来发现多花了几百甚至几千美元,因此硬上限应设为默认,取消上限需显式勾选。AWS 已在 9 月 16 日推出每月支出上限功能,Google Cloud 也在 7 月上线 Spend Caps。

10月2日周五
9月29日周二
9月28日周一
9月26日周六
9月25日周五
9月24日周四
  1. eric zakariasson57

    Cursor 宣布在不降低 Agent 质量的前提下将 token 成本降低 7%,手段包括更紧凑的提示词、按需加载工具、更好缓存和压缩文件读取。作者转发并补充称,智能体工作前后会大量读取以收集上下文,因此优化读取收益明显,建议构建 Agent 的读者参考该文章或让 Agent 直接落实这些发现。配图显示 read 是最常用工具,占 91.3% 的 Agent 会话,grep 77.8%、glob 68.5% 次之。

9月23日周三
9月22日周二
  1. Tomer Tunguz 博客(VC 分析)66

    Tomer Tunguz 谈 AI 优化 if-then 判断:专用决策器把分类成本降近百倍

    Tomer Tunguz 撰文提出最新一波 AI 正在接管软件中的 if-then 判断原语,Jev 与 SemIf 这类专用决策器以数百毫秒返回结果,成本比传统生成式调用低约 76x 到 209x。作者在自己的 Agent 中替换了约四分之一的调用,在 98 条人工核验的生产邮件线程上,Jev 达到 80%、本地 SemIf 达到 82% 的分类准确率,高于生产模型的 47%。

    推荐理由:作者结合自身 Agent 的替换实验给出成本与准确率对比,为判断专用小模型何时可替代前沿模型提供参照。

9月21日周一
9月20日周日
9月19日周六
9月18日周五
9月17日周四
  1. GitHub Blog87

    GitHub 用 Copilot 智能体将 Copilot 运行时从 TypeScript 迁移到 83 万行 Rust

    GitHub 工程师 Stephen Toub 复盘用 Copilot 智能体在约 14.5 周内将 Copilot agent runtime 从 TypeScript/Node.js 全量重写为 832,378 行生产 Rust,AI 智能体完成大部分代码,共 128 个 PR 增量合入 main 并持续发布。

    推荐理由:当事工程师复盘用 AI 智能体在数月内将 Copilot 运行时迁往 Rust 的全过程,策略、回归样本和成本数据对同类迁移有直接参考价值。

9月15日周二
  1. Claude:Blog(网页)66

    Anthropic 工程师复盘:智能体编程压力下如何扩展测试影响分析服务

    Anthropic 工程师撰文分享如何在智能体编程压力下扩展测试影响分析服务。Claude 编写约 80% 的代码,测试数量增长 10x,六个月内 CI 任务增加 25x。文章复盘了三个临时补丁(扩容、按包分片、每日重启)分别只维持 70 天、29 天和不到一天,最终用三周重设计为无状态、内存存储加 journal 的可水平扩展架构,并建议团队按两季度内 25x 负载做容量规划。

    推荐理由:作者复盘了智能体编程把 CI 推向 25x 负载的完整演进,给出可迁移的架构与容量规划经验。

9月14日周一
9月12日周六
  1. OpenAI:官网动态(RSS · 排除企业/客户案例)61

    OpenAI 详解存储平台 Habitat 如何扩展支撑超 10 亿 ChatGPT 用户(上篇)

    OpenAI 发文(系列上篇)讲述其在线存储平台 Habitat 的演进:现每秒处理超 7000 万请求、服务每周超 10 亿用户、管理超 500PB 数据,覆盖近 40 个地区。

    推荐理由:原文披露了 Habitat 从 Python 库到 Rust 服务的完整演进细节,含 asyncio 调优、连接池等可迁移经验。

  2. Dwarkesh Patel:Podcast & Blog(RSS)67

    Beren Millidge、John Schulman、Charlie O'Neill 对谈递归自我改进离我们还有多远

    Dwarkesh Patel 与 Zyphra CTO Beren Millidge、Thinking Machines 首席科学家 John Schulman、Baseten 模型训练负责人 Charlie O'Neill 三位研究者对谈递归自我改进(RSI)的前景。

    推荐理由:三位一线研究者就递归自我改进的技术瓶颈、蒸馏与RL环境壁垒、参数规模趋势给出具体分歧和可检验预测。

9月11日周五
9月10日周四
9月9日周三
9月8日周二
  1. vLLM 官方博客(RSS)63

    vLLM x AgentX:面向真实世界智能体推理服务的全栈优化

    vLLM 团队发布针对智能体负载优化的博客,基于 SemiAnalysis 的公开 AgentX 基准展示成果:DeepSeek V4 Pro 在 GB300 上达到 83K total tokens/GPU-秒。

    推荐理由:vLLM 团队结合 AgentX 实测数据讲解智能体负载的全栈优化方法与失败教训,读者可以借此理解并行策略如何跟随模型架构调整。