名词图鉴
日报和榜单里常见的 69 个 AI 名词，分 7 类，每个一两句话讲清楚。看过的那几话里出现过的词，会盖上「已收集」章。
基础概念
开源
公开源代码或模型，让别人可以查看、使用和修改；具体能做什么要看许可证。
看哪些新闻提到它 →token
模型读写文字的计量单位，一段文字会被切成若干个 token。不同模型切法不同，上下文长度和 API 费用通常都按它计算。
看哪些新闻提到它 →上下文
模型一次能读进来、同时参考的内容量，可以理解为它的“短期记忆”。常用 token 数衡量，例如 500k 就是 50 万个 token。
看哪些新闻提到它 →参数
模型内部通过训练学到的数值，数量常以 B（十亿）计，比如 9B 就是 90 亿个参数。一般来说参数越多，能力越强，运行也越贵。
看哪些新闻提到它 →许可证
规定别人能怎样使用代码或模型的条款，比如能否商用、能否修改。Apache 2.0 是常见的宽松许可证，允许免费商用。
看哪些新闻提到它 →开放权重
公开模型的参数文件，任何人都能下载、自己运行或继续训练；不一定公开训练数据和代码。
看哪些新闻提到它 →大模型
大语言模型（LLM）的简称：用海量文字训练出来、能理解和生成语言的超大神经网络，聊天助手背后就是它。
看哪些新闻提到它 →前沿模型
能力处在当前最高水平的一批模型，训练和运行成本都很高，也是安全监管最关注的对象。
看哪些新闻提到它 →多模态
能同时处理文字、图片、声音、视频等不同类型信息的能力。
看哪些新闻提到它 →小模型
参数较少的模型：能力不如大模型全面，但便宜、快，能在笔记本或手机上跑，适合简单高频的任务。
看哪些新闻提到它 →提示词
发给模型的指令或问题。写得越清楚、背景给得越足，回答通常越贴近需要。
看哪些新闻提到它 →嵌入
把一段文字（或图片）变成一长串数字，叫向量。意思相近的内容向量也相近，常用来按意思搜索、推荐和给 RAG 找资料。
看哪些新闻提到它 →IoT
物联网：联网的各类小型设备，比如摄像头、传感器、智能家电。
Transformer
今天大多数大模型用的基础结构，核心是注意力机制：处理每个 token 时，回头看同一段文字里的其他 token，判断该重点参考哪些。
模型与训练
激活参数
混合专家模型里，总参数是全部参数，激活参数是每处理一个 token 真正参与计算的部分，决定运行速度和成本。
看哪些新闻提到它 →后训练
基础模型训练完成后的进一步训练，比如指令微调、强化学习，让模型更会听指令、更安全或更擅长某类任务。
看哪些新闻提到它 →混合专家
一种模型结构（MoE）：内部分成许多“专家”子网络，每次只调用其中几个。总参数可以很大，实际计算量却小得多。
看哪些新闻提到它 →蒸馏
用一个大模型的回答去训练另一个模型，让它学到相近的能力。用别家模型的输出这样训练，通常违反对方的使用条款。
看哪些新闻提到它 →预训练
训练的第一阶段：让模型读海量文字、代码等数据，学会语言和知识的基本规律，最耗算力。
看哪些新闻提到它 →量化
用更少的位数存模型参数（比如从 16 位降到 4 位、2 位），模型变小、跑得更快，代价是精度可能略降。
看哪些新闻提到它 →强化学习
让模型反复尝试、按结果好坏给奖励来学习的方法，常用在后训练里，让模型更会推理、更符合人的偏好。
看哪些新闻提到它 →推理模型
回答前会先进行较长“思考”的模型，擅长数学、编程等需要多步推导的问题，通常更慢、更贵。
看哪些新闻提到它 →微调
在已有模型上用特定数据继续训练，让它适应某个任务或某种风格。
扩散模型
很多图像、视频模型用的生成方法：从一团随机噪点出发，按提示词的引导一步步去掉噪点，画面逐渐显出来。
推理与部署
数据中心
集中摆放大量服务器和芯片的机房，负责供电、散热和联网。训练和运行大模型都在这里进行。
看哪些新闻提到它 →算力
训练和运行 AI 需要的计算资源，通常指 GPU 等芯片能提供的总计算能力。
看哪些新闻提到它 →GPU
图形处理器，擅长同时做大量简单计算，是训练和运行大模型的主力芯片。
看哪些新闻提到它 →本地部署
把模型装在自己的电脑或服务器上运行，数据不出本地，但需要足够的内存和算力。
看哪些新闻提到它 →端侧
模型直接在手机、电脑等设备上运行，不用把数据发到云端：反应快、更保护隐私，但能装下的模型更小。
看哪些新闻提到它 →TPU
谷歌自研的 AI 专用芯片，用来训练和运行模型，主要通过谷歌云对外提供，是 GPU 之外的另一条路线。
看哪些新闻提到它 →吞吐
单位时间里系统能处理的请求或 token 数。高吞吐意味着同样的机器能服务更多用户，单价也更低。
看哪些新闻提到它 →推理成本
模型上线后每回答一次请求要花的算力和电费。用户越多、回答越长，推理成本越高。
看哪些新闻提到它 →压缩
上下文快满时，把较早的内容总结成摘要腾出空间。能继续工作，但会丢掉一部分细节。
看哪些新闻提到它 →推理芯片
专门用来运行（而不是训练）AI 模型的芯片，负责把用户的请求算出结果。
看哪些新闻提到它 →TPS
每秒输出的 token 数（tokens per second），衡量模型“说话”有多快。
看哪些新闻提到它 →推理引擎
负责把模型高效跑起来的软件，决定同样的芯片每秒能处理多少请求、每次要等多久。
看哪些新闻提到它 →GW
吉瓦，功率单位，1 GW 等于 100 万千瓦。AI 公司常用数据中心的用电规模来描述自己的算力有多大。
看哪些新闻提到它 →集群
把大量服务器或芯片用高速网络连起来，当作一台大机器使用。训练大模型离不开大规模集群。
Agent 与工具
智能体
能自己拆解任务、调用工具（浏览器、代码、各种软件）并分多步完成目标的 AI 系统，不只是一问一答。
看哪些新闻提到它 →工作流
把一件事拆成固定顺序的多个步骤，让 AI 或软件按流程逐步完成，比如查资料、写草稿、再审核。
看哪些新闻提到它 →沙箱
和真实系统隔离开的运行环境。让 AI 在里面执行代码、操作文件，出了问题也不会波及外面。
看哪些新闻提到它 →插件
给软件或智能体额外装上的功能包，装上后它就能连接新的工具或服务。
看哪些新闻提到它 →编程智能体
能自己读代码、改代码、跑测试的 AI 助手：开发者给出目标，它分多步完成编程任务。
看哪些新闻提到它 →子智能体
主智能体把大任务拆开后派出去的“助手”，各管一小块，做完把结果交回来。
看哪些新闻提到它 →RAG
检索增强生成：先从网页或资料库里找出相关内容，放进上下文，再让模型照着资料回答。能用上最新或内部资料、少编一些，但找错资料也会答错。
评测与榜单
基准测试
用一套固定题目给模型打分的测试，方便横向比较不同模型的能力。
看哪些新闻提到它 →幻觉率
模型回答里出现与事实不符内容的比例，越低越可靠。各家评测算法不同，数字不宜跨榜比较。
看哪些新闻提到它 →LMArena
让真人匿名对比两个模型的回答、投票选更好的一方，再按投票结果给模型排名的评测平台。
看哪些新闻提到它 →同行评审
论文发表前由同领域的其他专家审查，是学术成果可信度的重要门槛。
看哪些新闻提到它 →Elo
源自国际象棋的评分方法：赢了强对手加分多，输给弱对手扣分多。分数只在同一个榜单里比较才有意义。
SWE-bench
用真实开源项目里的问题考模型：让它改代码修复问题，再用项目自带的测试判断有没有修好。
综合分
本站榜单把六项评测各自换算成标准分（50 为平均）后等权平均的结果，只在当期榜单的模型之间比较才有意义。
斩杀线
本站榜单的性价比图：横轴是价格，纵轴是综合分，曲线连起各价位的最高分。明显低于曲线，说明有更划算的选择。
商业与定价
API
开发者用程序调用模型的接口，通常按使用量（token 数）计费。
看哪些新闻提到它 →IPO
首次公开募股：公司第一次向公众发行股票、在交易所上市，之后普通投资者也能买它的股份。
看哪些新闻提到它 →估值
投资人对一家公司整体价值的估算，不等于公司手里的现金，也不一定是最终成交价。
看哪些新闻提到它 →按 token 计费
API 常见的计价方式：按处理的 token 数收费，多写成“每百万 token 多少钱”，输入和输出分开计价，输出通常更贵。
看哪些新闻提到它 →领投
一轮融资里出钱最多、通常主导谈判和定价的投资方；一起出钱的其他投资方叫跟投。
看哪些新闻提到它 →缓存输入
重复发给模型的相同开头内容（比如长文档、固定说明）可以被缓存，再次用到时按低得多的价格计费。
看哪些新闻提到它 →年化收入
把最近一段时间的收入按全年推算出的数字，常用来描述增长快的公司，不等于已经到手的全年收入。
看哪些新闻提到它 →订阅
按月或按年付固定费用使用产品。AI 产品常分免费、Pro 等多个档位，档位越高，用量额度通常越大，能用的模型或功能也越多。
安全与监管
安全评估
检查模型会不会带来风险，比如协助网络攻击、制造武器或做出失控行为，可以由公司自己或第三方来做。
看哪些新闻提到它 →越狱
用特殊的提问方式绕过模型的安全限制，让它说出或做出本该拒绝的内容。
看哪些新闻提到它 →自主复制
AI 在没人帮忙的情况下把自己复制到新机器上运行、自己获取资源，是安全研究重点盯防的危险能力。
看哪些新闻提到它 →出口管制
国家限制某些技术、芯片或产品出口，要拿到许可才能卖到国外。AI 芯片和 AI 技术是近年的管制重点。
看哪些新闻提到它 →零数据保留
服务商承诺不保存用户发来的内容和模型的回答，处理完就删，常见于对隐私要求高的企业服务。
看哪些新闻提到它 →对齐
让 AI 的目标和行为符合人类意图与价值观的研究方向，比如诚实、不伤害人、听从合理指令。
看哪些新闻提到它 →幻觉
模型一本正经地说出与事实不符的内容。
漏洞
软件里能被利用来做坏事的缺陷。AI 既能帮防守方更快找到、修补漏洞，也可能被攻击者拿来找漏洞。