Mistral Large 4（Le Chonk）在 Hugging Face 发布

Mistral 发布多模态 MoE 模型 Mistral Large 4（代号 Le Chonk），总参数约 1T、激活参数 49B，上下文窗口 1M tokens，采用 FP8 与 NVFP4 两种官方权重，并以 MIT 衍生的 Mistral Ecosystem Open-Weight License 开放。模型由 72 层文本解码器与 1.6B Pixtral 视觉编码器组成，注意力结合 MLA 与 DeepSeek Sparse Attention 索引器，每 token 从 128 个专家中选 4 个并加 1 个共享专家。