第 7 课共 24 课 · 4 格漫画 · 课后一题

推理模型:先想再答

SeedSeed讲解MiniMaxMiniMax提问

一句话有的模型会先在心里打草稿,再给出答案。

  1. 第 1 格:MiniMax「它怎么想了半天才回答?」,Seed「难题嘛,先打草稿再交卷!」

    普通的对话模型拿到问题就开始作答。推理模型会先生成一段“思考过程”:拆解问题、尝试几种思路、检查有没有算错,然后才给出最终答案。注意,这里的“推理模型”指会先思考的模型;新闻里单说“推理”,常常只是指运行模型、生成回答。

  2. 第 2 格:MiniMax「想得久,答得准?」,Seed「难题上通常是这样!」

    这样做在数学、编程、多步骤的分析题上通常更准,代价是回答更慢、用掉的 token 更多。

  3. 第 3 格:MiniMax「快答还是深想?」,Seed「看题目难不难!」

    很多产品会让你选择“快速回答”还是“深入思考”,背后往往就是要不要让模型多想一会儿。

  4. 第 4 格:MiniMax「推理预算就是这个?」,Seed「多想一会儿的额度!」

    新闻里说某个模型“思考时间更长”“推理预算更高”,指的就是这一步。

课后一题推理模型先打草稿再回答,通常的代价是?

这一课的名词

在日报里搜“推理” →