Anthropic détaille comment Claude a été détourné

Ce qui se passe

Anthropic a publié le 10 septembre un rapport de renseignement de 154 pages sur l'usage malveillant de ses modèles entre décembre 2025 et août 2026. L'entreprise range les acteurs sous une étiquette maison, GTG pour Generative Threat Group : services étatiques, criminels motivés par l'argent, vendeurs de logiciels espions commerciaux, appareils de propagande.

Sa thèse tient en une phrase : l'IA « a fait disparaître l'écart de main-d'œuvre et d'outillage qui séparait les opérations étatiques bien dotées des opérateurs isolés ».

Trois niveaux d'autonomie

C'est le cadre le plus utile du rapport, parce qu'il se lit aussi comme une échelle de ce qui devient possible ailleurs.

1. Conversationnel. Le modèle sert d'assistant d'ingénierie pour écrire un maliciel, un kit d'hameçonnage, un outil de surveillance.
2. Dirigé. L'opérateur fait exécuter des tâches précises — commandes sur le réseau de la victime, collecte d'identifiants, exfiltration — en décidant lui-même de chaque cible. C'est le mode du groupe russe GTG-20006, rapproché de Midnight Blizzard (APT29).
3. Autonome. Des architectures multi-agents mènent reconnaissance, exploitation et vol contre plusieurs victimes en parallèle, pendant des heures ou des jours, avec un minimum de supervision.

Les cas qui parlent à un développeur

• GTG-50014, francophone, soupçonné d'être affilié à ShinyHunters : un pipeline de collecte d'identifiants réparti sur 10 instances AWS EC2, qui a téléchargé 1,8 million d'APK Android depuis plusieurs magasins, les a passés à TruffleHog pour y chercher des secrets codés en dur, et a poussé les trouvailles vérifiées dans un groupe Telegram.
• GTG-50029, un acteur francophone seul, visant partis, médias et laboratoires d'idées européens. Il a exploité une race condition non documentée dans la réinstallation de WordPress pour se créer un compte administrateur sans identifiant valide, et un point de recherche exposé pour siphonner une plateforme de gestion de campagne.
• GTG-50020, russophone, s'est tourné vers la chaîne d'approvisionnement de l'IA elle-même : vol de clés d'API de fournisseurs de modèles, environ 30 éditeurs visés en quatre jours.
• GTG-10007, sinophone, probablement basé au Hunan et composé en partie d'étudiants : une cinquantaine d'organisations dans l'éducation, l'énergie, la santé ou la finance, plus un programme autonome de recherche de failles visant des produits de sécurité.
• GTG-50021 vendait un faux revendeur d'accès Claude à bas prix, qui relayait en réalité le trafic vers un autre modèle et récoltait les identifiants Anthropic de ses clients pour les revendre.

Le rapport détaille par ailleurs une longue série d'opérations d'influence et de surveillance, du Bangladesh à la Moldavie. Anthropic souligne qu'aucune n'a rassemblé d'audience authentique avant d'être coupée.

Ce qu'il faut en faire

Deux réserves d'abord. C'est le fournisseur qui rapporte sur ses propres clients, avec la visibilité et les biais que ça implique ; et rien n'y est reproductible, puisque ni les comptes ni les données ne sont publics.

Reste un fait mesurable : le coût de la recherche systématique de secrets dans du code public s'est effondré. Le cas des 1,8 million d'APK le montre — la partie coûteuse n'était pas l'analyse, c'était l'orchestration, et elle est désormais automatisable. Une clé oubliée dans un dépôt, une archive ou un binaire livré ne se trouve plus en mois, mais en jours.

Source : The Hacker News, rapport complet : Anthropic.