Beam : 501 milliards de paramètres sous Apache 2.0

Ce qui se passe

Reflection, un nouveau laboratoire américain, publie Beam, son premier modèle, sous licence Apache 2.0. C'est un mélange d'experts (MoE) de 501 milliards de paramètres, dont 23 milliards actifs par token, pour du texte en entrée et en sortie, avec un contexte de 1 million de tokens. Il vise le code et les agents. transformers, vLLM et SGLang le prennent en charge dès le premier jour.

Ce qui compte pour l'héberger

• Mémoire d'un gros modèle, vitesse d'un petit. 52 couches, 256 experts par couche MoE, 8 sollicités par token : les 256 restent en mémoire, 23 milliards de paramètres travaillent. Checkpoints : BF16 (≈ 1 To), FP8 (pensé pour Hopper et Ampere) et NVFP4 (Blackwell).
• Cache KV réduit. Seules 9 couches sur 52 gardent toute la séquence (les 43 autres ne voient que les 512 derniers tokens) : 36 Kio par token, soit environ 36 Gio pour un million de tokens en BF16, contre 208 Gio si toutes les couches étaient globales.
• Livré avec : cinq niveaux de raisonnement (low, medium par défaut, high, xhigh, max), un appel d'outils à grammaire dédiée, un harnais open source en Rust, et un brouillon de décodage spéculatif DFlash2.

Le servir avec vLLM

Image Docker dédiée, point de départ proposé par vLLM : tensor parallel sur 4 GPU (un nœud GB300).

docker run --gpus all --ipc=host -p 8000:8000 \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  vllm/vllm-openai:reflection-beam \
  reflection/Beam-1.0-501B-A23B-NVFP4 \
  -tp 4 --max-num-seqs 128 \
  --reasoning-parser beam \
  --tool-call-parser beam --enable-auto-tool-choice \
  --kv-cache-dtype fp8 \
  --attention-config '{"backend":"FLASHINFER"}' \
  --kernel-config '{"enable_flashinfer_autotune":false}' \
  --speculative-config '{"method":"dflash","model":"reflection/Beam-1.0-501B-A23B-DFlash2","num_speculative_tokens":7,"attention_backend":"FLASH_ATTN"}'

Mesures de vLLM (GPU Blackwell, TP8 sauf mention) : 708 tokens/s sur une requête avec DFlash2 (longueur d'acceptation 3,7) ; la vérification adaptative ("enable_adaptive_verification": true) apporte +10,8 % de débit à concurrence 128 (16 632 contre 15 012 tok/s) et reste neutre à faible charge ; l'attention en parallélisme de données avec MegaMoE donne 1,71× de débit de préremplissage face à TP4 (168,8 K contre 98,7 K tokens/s sur 4 GB300, entrée de 32K tokens).

Les limites

• Les scores de codage (de 80,2 % à 81,6 % sur SWE-bench Verified selon la précision) sont annoncés par Reflection ; les sources n'en montrent aucune reproduction indépendante.
• Les gains de vitesse sont mesurés sur des invites de code et de tri, à faible entropie : attendez une acceptation plus basse en conversation ouverte.
• Matériel : un serveur multi-GPU, pas un poste de travail.

Source : Welcome Beam, Hugging Face, 16 octobre 2026 ; chiffres de service tirés de Serving Reflection Beam on vLLM from Day 0.