第 1 课共 24 课 · 4 格漫画 · 课后一题
大模型在做什么
GPT讲解
Kimi提问
一句话它读了海量文字,学会了猜“下一个词最可能是什么”。

大模型(大语言模型,LLM)是一个很大的数学函数。训练时,它读入海量文字,一遍遍练习同一件事:看到前面的内容,猜下一个词。

猜得多了,它就摸清了词和词、句子和句子之间的规律。规律学得足够深,就能续写、翻译、总结、写代码,看起来像在“理解”。

所谓“大”,是指模型里可调的数值——参数——非常多。参数多不一定就更聪明,但通常能装下更多知识。

它回答时也是一个词一个词往外“猜”,所以同一个问题问两次,答案可能不完全一样。