veilletech.fr
2 nov.

Source · 73 jours de veille

DwarfStar 4 (ds4)

Ce qui a été retenu de cette source, et sur quels thèmes. Chaque fiche est une synthèse originale et renvoie à l'article d'origine.

1fiche
1jour sur 73
2min de lecture
IA & LLMthème

ds4 : un MoE de 284 milliards sur un Mac de 128 Go

ds4 (DwarfStar 4), moteur d'inférence en C sous licence MIT, fait tourner DeepSeek V4 Flash — 284 milliards de paramètres en mélange d'experts — sur une machine de 128 Go grâce à une quantification asymétrique 2 bits et à un cache KV persistant sur SSD. Il cible volontairement peu de modèles, et son serveur expose des API compatibles OpenAI et Anthropic.

3 oct.2 min

LLM