veilletech.fr
Mistral Large 4 : 15 tok/s sur un M3 Ultra 512 Go
Mistral publie les poids de Large 4 : 1 000 milliards de paramètres, 49 milliards actifs par token, licence MIT modifiée qui réserve le cas du modèle vendu en service. vLLM, Transformers et llama.cpp le prennent en charge dès le premier jour. Hugging Face mesure 15 tok/s en Q2_K sur un M3 Ultra de 512 Go, et environ 65 tok/s sur huit H200.