Mistral开放万亿参数模型权重，vLLM首日支持

Mistral AI 在 Hugging Face 开放旗舰多模态模型 Mistral Large 4（代号 Le Chonk）的权重，总参数约 1 万亿、每 token 激活 49B，上下文窗口 1M tokens，提供 FP8 与 NVFP4 两种官方权重。Mistral 称该模型在 FrontierCode 2.0 上以 19.7% 领先，在 Terminal-Bench 4.0 上提升 13 个百分点至 41%。The Decoder 报道称，该模型在编码任务上领先开源模型，但整体仍落后中国模型；其激活参数写作 52B，与 Mistral 和 vLLM 的 49B 说法不一致。 权重以 Mistral Ecosystem Open-Weight License（MIT 许可证的衍生版本）分发，可免费使用、修改、微调和商业化；但运营模型即服务（Model-as-a-Service）业务的企业须先向 Mistral 取得单独商业许可。API 定价为每百万输入 token 0.70 美元、缓存输入 0.07 美元、输出 2.10 美元。 vLLM 同日宣布支持，镜像为 vllm/vllm-openai:mistral-large-4。运行须使用默认 FP8 KV cache，并设置 TP4 与 VLLM_FP8_MOE_REQUANT_ACT=a4w4，否则拒绝启动；张量并行组位于单节点时还需设置 VLLM_FLASHINFER_ALLREDUCE_BACKEND=trtllm。

AI 根据报道生成 · 3 天前更新

1. 10月29日 20:00 · 2篇报道
   Mistral发布Mistral Large 4开放权重
   Mistral AI：Mistral 发布 1 万亿参数多模态模型 Mistral Large 4 开放权重
2. 10月29日 08:00 · 1篇报道
   vLLM 宣布 Day 0 支持 Mistral Large 4
   vLLM Blog：vLLM 在发布当天支持 Mistral Large 4
3. 10月29日 08:00 · 2篇报道
   Hugging Face 博客介绍 Mistral Large 4 模型
   Hugging Face Blog：Mistral Large 4（Le Chonk）在 Hugging Face 发布