veilletech.fr
RAG local : sous 350 Mo, les modèles inventent
Un développeur a comparé six modèles locaux et un modèle d'API sur le même RAG de blog : sous 350 Mo, aucun n'est utilisable, ils inventent une réponse à presque toutes les questions hors sujet. Qwen3-0.6B (579 Mo) fait 15 sur 30, Gemma 4 E2B (3,1 Go) 28 sur 30, Claude Haiku 5.5 27 sur 30 pour 0,006 $.