Ce qui se passe
Un « modèle de décision » reçoit un état et des questions typées, et renvoie des réponses structurées avec leurs probabilités, sans générer un seul jeton de texte : un seul passage de lecture (prefill). Trois annonces le 9 octobre 2026 :
- Microsoft Decision-1 et Liquid d1 arrivent sur l'AI Gateway de Vercel : oui ou non, choix parmi des catégories nommées, score sur des critères ordonnés, avec plusieurs questions sur la même entrée dans une requête ;
- Cloudflare Clef : la famille, lancée la semaine précédente, reçoit Clef-omni, un Clef-flash moins cher et un Clef plus rapide.
Ce qu'apporte Clef-omni
Il accepte audio (wav, mp3), vidéo (mp4, webm), images et texte dans un seul appel : plus besoin de chaîner une transcription et un modèle. Il s'appuie sur Qwen3-Omni-30B-A3B (mixture d'experts), dont Cloudflare garde le noyau de compréhension et retire la voix de sortie, entraîné par adaptateurs LoRA avec une calibration par score de Brier. Latences annoncées : environ 130 ms en médiane pour du texte, 150 ms avec une image, 1,5 s pour 21 secondes de vidéo avec son.
Prix et contexte : la ligne à lire
Par million de jetons d'entrée :
- Clef-flash : 0,038 $ (0,09 $ auparavant) ;
- Clef : 0,24 $, inchangé ;
- Clef-omni : 0,15 $.
Pour y arriver, le contexte de Clef-flash hébergé passe de 64k à 24k jetons (0,24 % des requêtes dépassaient 24k). Les poids, eux, sont entraînés pour 256k si vous les hébergez. Clef reste à 64k. Côté vitesse, Clef hébergé gagne 1,7 à 2,0× (de 616 à 305 ms en médiane vers 3 400 jetons), en passant à SGLang.
Le faire tourner soi-même
Les poids sont ouverts sur Hugging Face (Cloudflare/clef, Cloudflare/clef-flash,
Cloudflare/clef-omni), avec des commandes de lancement SGLang et des recettes
dans le cookbook de SGLang. La prise en charge de Clef dans SGLang
(#42721) est annoncée pour la
version 0.5.22. Le service hébergé est compatible avec l'API de Jev (TypeSafe) :
changer l'identifiant du modèle suffit pour essayer.
La limite
Sur les tests d'extraction de factures de TypeSafe, le meilleur score d'« actions exactes » reste à 64,7 (Clef), contre 60,2 pour Clef-omni et 57,1 pour Clef-flash. Une décision calibrée n'est pas une décision juste : ce sont les probabilités qui permettent de fixer un seuil, et de renvoyer à un humain tout ce qui est en dessous. Cloudflare cite, en interne, la détection de spam dans les tickets de son dépôt de documentation, la modération de plugins pour phishing et la détection de domaines malveillants.
Source : Introducing Clef-omni with full multimodality, plus a faster Clef and a cheaper Clef-flash, Cloudflare, 9 octobre 2026. Modèles côté Vercel : Liquid d1 · Microsoft Decision-1.