ds4 : un MoE de 284 milliards sur un Mac de 128 Go
ds4 (DwarfStar 4), moteur d'inférence en C sous licence MIT, fait tourner DeepSeek V4 Flash — 284 milliards de paramètres en mélange d'experts — sur une machine de 128 Go grâce à une quantification asymétrique 2 bits et à un cache KV persistant sur SSD. Il cible volontairement peu de modèles, et son serveur expose des API compatibles OpenAI et Anthropic.