veilletech.fr
2 nov.

Source · 73 jours de veille

PyTorch

Ce qui a été retenu de cette source, et sur quels thèmes. Chaque fiche est une synthèse originale et renvoie à l'article d'origine.

3fiches
3jours sur 73
8min de lecture
IA & LLM · Langages & OSthèmes

Dynamo : le cache KV suit la session de l'agent

NVIDIA Dynamo, le routeur au-dessus de vLLM et SGLang, regroupe les requêtes d'un agent par identifiant de session — reconnu d'office pour Claude Code, Codex et OpenCode. Il peut ainsi mettre en pause, à la frontière d'un appel d'outil, les sessions qui saturent le cache KV au lieu de l'évincer. Gain annoncé : 12 à 16 % de débit sur SWE-bench face au routage par requête.

9 oct.3 min

LLM

TorchCodec remplace read_video et StreamReader

PyTorch range sa pile multimédia : TorchCodec décode et encode images, vidéo et audio, sur CPU comme sur CUDA ; TorchVision et TorchAudio ne gardent que les transformations. Les anciennes API de décodage (read_video, VideoReader, StreamReader…) sont dépréciées ou supprimées, et les trois bibliothèques ont désormais une ABI stable.

6 oct.2 min

PYTHON

PyTorch 2.14 : Python 3.15, sans compile

PyTorch 2.14 publie des wheels Python 3.15 et 3.15t, mais torch.compile y lève une RuntimeError : le support 3.15 est eager-only. Côté Apple Silicon, l'algèbre linéaire passe en kernels Metal natifs et un nouveau kernel d'attention prefill donne 2 à 4× sur macOS 26.2.

3 sept.3 min

IA