
01
Mistral AI
Mistral 开放旗舰模型 Mistral Large 4(Le Chonk)权重:约 1T 参数 MoE
一句话看懂Mistral 把自家最大的模型公开给大家下载,擅长写代码和网络安全防御。
- 原生、多语言 :约 1T、每 激活 49B,窗口 1M token,可输入文字和图片名词多模态图鉴 →能同时处理文字、图片、声音、视频等不同类型信息的能力。名词混合专家图鉴 →一种模型结构(MoE):内部分成许多“专家”子网络,每次只调用其中几个。总参数可以很大,实际计算量却小得多。名词激活参数图鉴 →混合专家模型里,总参数是全部参数,激活参数是每处理一个 token 真正参与计算的部分,决定运行速度和成本。名词token图鉴 →模型读写文字的计量单位,一段文字会被切成若干个 token。不同模型切法不同,上下文长度和 API 费用通常都按它计算。名词上下文图鉴 →模型一次能读进来、同时参考的内容量,可以理解为它的“短期记忆”。常用 token 数衡量,例如 500k 就是 50 万个 token。
- 官方提供 FP8 和 NVFP4 两个版本,Unsloth 与 llama.cpp 团队提供 GGUF ;采用 MIT 衍生的 Mistral Ecosystem Open-Weight License,对模型即服务另有限制名词量化图鉴 →用更少的位数存模型参数(比如从 16 位降到 4 位、2 位),模型变小、跑得更快,代价是精度可能略降。
- 注意力层结合 MLA 与 DeepSeek 稀疏注意力(DSA)索引器;在漏洞复现并修补测试中得分 82%




