VeilleTech — 2026-10-05

01 LLM Discussion

Strata : un modèle de 125B sur un GPU de 12 Go

GitHub4 octobre4 min de lecture

Strata fait tourner Qwen3.8-Flash-Next, un mélange d'experts de 125 milliards de paramètres, sur un PC Windows ou Linux doté d'une carte graphique de 12 Go. La carte garde les experts les plus sollicités, la RAM tous les autres, le processeur calcule en parallèle : 53 à 94 tokens par seconde mesurés par les auteurs sur une RTX 5070, au prix d'une compression à 2-3 bits.

RTX 5070 (12 Go) + 64 Go de RAM : Q2_0 94 tok/s, IQ3_S 53 tok/s · lecture du prompt 2 650 à 1 620 tok/s (mesures des auteurs)
Minimum : 12 Go de VRAM, 32 Go de RAM, ~80 Go de disque · Windows 10/11 ou Linux, NVIDIA RTX 20 à 50 ou AMD Radeon
API : `http://127.0.0.1:8080/v1` (OpenAI) · Claude Code : `ANTHROPIC_BASE_URL=http://127.0.0.1:8080`

Dix experts au travail. Vingt-quatre mille en réserve.

Lire la fiche Source

02 DEVOPS Discussion

ngrok maison : OpenSSH, nginx et un lien signé

vincent.bernat.ch3 octobre2 min de lecture

Vincent Bernat remplace ngrok par OpenSSH et nginx : un renvoi de port distant, un sous-domaine par port, un certificat joker. Le module secure_link de nginx ajoute un lien signé et daté, porté dans l'URL comme nom d'utilisateur, pour que le numéro de port ne soit pas le seul secret.

`ssh -N -R 0:localhost:8080 serveur` : le serveur choisit un port libre (ex. 41535)
nginx : `server_name ~^p(?<port>\d\d\d\d\d)\.ssh\.…$;` → `proxy_pass http://127.0.0.1:$port;`
`secure_link` : 401 si le hachage est faux, 410 si le lien a expiré · MD5 de « expiration port secret » en base64url

Le port ouvre la porte. La signature décide qui entre.

Lire la fiche Source

03 OUTILS Discussion

macOS 27 : couper Apple Intelligence et ses modèles

GitHub4 octobre2 min de lecture

Sur macOS 27, Apple Intelligence n'a plus d'interrupteur unique et ses modèles restent sur le disque une fois les fonctions coupées. RemoveMacAI les désactive par un profil de configuration, supprime les modèles via le service d'Apple et bloque leur retéléchargement. Réversible, mais la complétion prédictive de Xcode et le framework Foundation Models tombent avec.

`brew install omlahore/tap/removemacai` · vérifier : `gh attestation verify removemacai-darwin-arm64.tar.gz -R omlahore/RemoveMacAI`
`removemacai status` · `off --dry-run` · `off --keep <fonctions>` · `revert`
Perdus : complétion prédictive de Xcode, framework Foundation Models · macOS 27.0.1 → RemoveMacAI 0.2.3 minimum

Couper la fonction ne suffisait pas. Il fallait couper le téléchargement.

Lire la fiche Source

04 IA Discussion

SCM : fouiller ses vidéos plan par plan, en local

GitHub4 octobre3 min de lecture

SCM est une application macOS qui indexe photos et vidéos en local : vecteurs CLIP ou SigLIP pour le sens, découpage des vidéos en plans, OCR et transcription Whisper cherchés mot pour mot. Une architecture reproductible, avec un arbitrage chiffré entre modèles : SigLIP-2 B/16 importe cinq à dix fois plus vite que CLIP L/14 sur processeur.

CLIP ViT-L/14@336 (défaut) ~480–570 ms/image sur CPU · SigLIP-2-B/16 ~50–100 ms/image
Vidéo : plans détectés par ffmpeg, un point toutes les 30 s en « Balanced » · OCR Tesseract · Whisper `tiny.en` (~150 Mo)
`brew install --cask allenv0/scm/scm` · le cask retire la quarantaine macOS à chaque installation

Des vecteurs pour le sens. Des mots pour le reste.

Lire la fiche Source

VeilleTech — feed du lundi 5 octobre