Nemotron Bolt : les 24 Go annoncés, mesurés
InferenceKey a déployé Nemotron 3.5 Bolt 74B-A9B sur une seule A40 avec llama.cpp et publié ses mesures : 27 Go occupés lecteur d'images et drafter compris, contre les 23,83 Go annoncés hors lecteur d'images. Le drafter double le débit sur prompts courts mais pénalise les longs documents, et le modèle exige du code llama.cpp du 15 octobre.


























