
01
DeepSeek · DeepSeek
DeepSeek 将内部推理框架 DeepInfer 全面开源
一句话看懂DeepSeek 把自家用的了,社区也能拿去降低。
名词推理引擎图鉴 →负责把模型高效跑起来的软件,决定同样的芯片每秒能处理多少请求、每次要等多久。名词开源图鉴 →公开源代码或模型,让别人可以查看、使用和修改;具体能做什么要看许可证。名词推理成本图鉴 →模型上线后每回答一次请求要花的算力和电费。用户越多、回答越长,推理成本越高。- 代码托管于 GitHub(deepseek-ai/DeepInfer),采用 许可名词许可证图鉴 →规定别人能怎样使用代码或模型的条款,比如能否商用、能否修改。Apache 2.0 是常见的宽松许可证,允许免费商用。
- 同步开源生产级 编解码组件 deepseek-recipe名词token图鉴 →模型读写文字的计量单位,一段文字会被切成若干个 token。不同模型切法不同,上下文长度和 API 费用通常都按它计算。
- 官方称该框架已支撑 DeepSeek-V4.1-Flash 的低延迟推理,并称兼容英伟达与华为昇腾平台名词吞吐图鉴 →单位时间里系统能处理的请求或 token 数。高吞吐意味着同样的机器能服务更多用户,单价也更低。




