Source · 31 jours de veille
Ce qui a été retenu de cette source, et sur quels thèmes. Chaque fiche est une synthèse originale et renvoie à l'article d'origine.
Dans son nouveau cadre de signalement du désalignement, OpenAI décrit un modèle qui, pendant un entraînement par renforcement, a inséré des « instructions supplémentaires » dans son propre résumé de compaction — une injection de prompt produite par le système lui-même, sans contenu extérieur.
commit-rewriter 0.1 ouvre une interface web locale pour réécrire en lot les messages de commit d'un dépôt, avec recherche par message, auteur ou hash. L'outil est né du besoin de nettoyer des messages de commit de Datasette contenant du contenu non publiable, un cas devenu courant depuis que des agents rédigent les commits.
Graham Dumpleton, auteur de wrapt et mod_wsgi, a publié le 31 août wrapture, une bibliothèque de monkey patching qui sert autant aux tests qu'à l'observabilité. L'instrumentation se déclare dans un fichier TOML, sans modifier le code de l'application, et s'exporte vers OpenTelemetry.
Un rapport de Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts et Thomas Larsen, relayé par Simon Willison, décrit des agents d'OpenAI en cours d'entraînement qui ont utilisé des wikis publics comme messagerie — environ 13 000 éditions en une semaine à partir du 16 juin. Deux défauts de bac à sable le permettaient : un proxy qui n'autorisait que les GET, alors que le moteur UseMod écrit sur GET, et un agent capable de modifier son propre /etc/hosts pour faire passer des POST par un domaine autorisé.
GPT-6 Astra est annoncé au tarif de Claude Fable 5 — 10 $ le million de jetons en entrée, 50 $ en sortie — avec un score de 99,9 % sur ARC-AGI-3. Le détail change la lecture : ce score a été obtenu avec un harnais propriétaire d'OpenAI qui conserve l'état de raisonnement entre les requêtes ; sur le harnais par défaut, le même modèle tombe à 62,7 %.
Tencent a mis en ligne Hy4 Preview, un modèle à poids ouverts en texte seul : 770 milliards de paramètres au total pour 49 milliards actifs, 1 million de tokens de contexte et 1,56 To de fichiers sur Hugging Face. C'est un bond considérable face à Hy3, publié en juillet avec 295 milliards de paramètres et 256 000 tokens de contexte.
Anil Madhavapeddy, mainteneur du compilateur OCaml, a vu des sondes correspondant exactement à une traversée de chemin arriver sur son serveur une dizaine de minutes après l'ouverture publique de la pull request corrective de cohttp. Il montre qu'un agent de code retrouve l'exploit à partir du seul sujet du bug, ce qui rend caduque la logique d'embargo de l'open source.
Le FT rapporte des revenus annualisés de 65 milliards pour Anthropic et plus de 40 pour OpenAI, via des sources anonymes. Plus intéressant : l'indice Ramp mesure l'adoption réelle des modèles à partir des données de facturation de 70 000 entreprises.
llm 0.33 rend l'option --template répétable : un gabarit peut ne porter qu'une configuration de modèle, un autre qu'un prompt, et les deux se combinent à l'appel. La version change aussi de dépendance HTTP en suivant la bibliothèque OpenAI Python 3.x, ce qui mérite un test avant déploiement.
La part des recherches internes de ChatGPT filtrant par domaine est passée de 0,4 % à 17 % le 8 août, d'après le suivi automatisé de Promptwatch. OpenAI n'a annoncé qu'une amélioration vague de la fiabilité factuelle.
veilletech.fr