Anthropic 开源 FlashProve 可验证推理原型 Anthropic 发布并开源 可验证推理研究原型 FlashProve:用 zkSNARK 让用户在不接触模型权重的情况下,验证某条回复确由指定模型生成。代码、Lean 形式化证明和文档以 Apache 2.0 协议公开。Anthropic 称,在 400B 参数 混合专家 模型 Llama 4 Maverick(4-bit 量化 )上,单张 H100 生成证明的速度超过 100 tokens/秒,每 1,024 token 请求的证明约 19 MB;其 GPU 耗时约为常用开源库 vLLM 处理同长度提示的 70–95 倍。The Decoder 称,普通 CPU 验证一份证明约需 17 秒。
名词 开源图鉴 → 公开源代码或模型,让别人可以查看、使用和修改;具体能做什么要看许可证。名词 许可证图鉴 → 规定别人能怎样使用代码或模型的条款,比如能否商用、能否修改。Apache 2.0 是常见的宽松许可证,允许免费商用。名词 参数图鉴 → 模型内部通过训练学到的数值,数量常以 B(十亿)计,比如 9B 就是 90 亿个参数。一般来说参数越多,能力越强,运行也越贵。名词 混合专家图鉴 → 一种模型结构(MoE):内部分成许多“专家”子网络,每次只调用其中几个。总参数可以很大,实际计算量却小得多。名词 量化图鉴 → 用更少的位数存模型参数(比如从 16 位降到 4 位、2 位),模型变小、跑得更快,代价是精度可能略降。名词 token图鉴 → 模型读写文字的计量单位,一段文字会被切成若干个 token。不同模型切法不同,上下文长度和 API 费用通常都按它计算。名词 GPU图鉴 → 图形处理器,擅长同时做大量简单计算,是训练和运行大模型的主力芯片。来源 · Anthropic:Research ↗ 来源 · The Decoder:AI News ↗ 来源 · IT之家·人工智能 ↗
分享成漫画卡片 关闭