vLLM 官方博客（RSS）· Raphaël Rialland (Mistral AI), Simon Veitner (Red Hat), and Tomas Ruiz (Red Hat)·· 14 天前精选AI 评分66
vLLM 新增基于 Gumbel-max 的无失真文本水印功能
Watermarking in vLLM
AI 导读
vLLM 宣布支持基于 Gumbel-max 算法的无失真水印，将其集成进 Model Runner v2 的采样管线，并通过 PR #54053、#56122、#56233 实现融合 GPU kernel、双键方案和上下文去重，以兼容投机解码并保持输出多样性。
推荐理由
原文给出水印算法原理、双键与去重方案及实测吞吐数据，读者可评估在生产环境启用水印的可行性与代价。
整理与数据来源：AIHOT
来源：vLLM 官方博客（RSS） · vllm.ai