L’infrastructure de Hugging Face a été compromise par un agent IA autonome. Le plus ironique ? Pour comprendre l’attaque, les API commerciales censurées (OpenAI, Anthropic) ont bloqué l’équipe de défense. Seul un modèle à poids ouverts (GLM-5.2) a permis de mener l’enquête. On vous raconte tout ça.
Le scénario du pire (souvent anticipé par les experts en cybersécurité !) vient de se concrétiser sur les serveurs de l’un des piliers de l’apprentissage machine mondial. Au cœur de l’été, l’infrastructure de production de Hugging Face a été compromise par un système d’agents d’intelligence artificielle agissant en totale autonomie. Au-delà de l’attaque elle-même, l’incident révèle une faille structurelle majeure dans la défense informatique : face à un logiciel malveillant, les garde-fous des LLM commerciaux se retournent contre les victimes.
Des milliers d’actions automatisées : anatomie d’une intrusion inédite
La vulnérabilité originelle ciblait un point de friction bien connu des plateformes d’apprentissage automatique (le pipeline de traitement des données). En injectant un jeu de données malveillant, les attaquants ont exploité deux failles distinctes (un chargeur autorisant l’exécution de code à distance et une faille d’injection de template) pour prendre le contrôle d’un nœud de calcul.
D’après les constatations relayées par Cyber Security News, l’agent IA autonome a ensuite intensifié ses privilèges, récolté des identifiants cloud et s’est déplacé latéralement à travers plusieurs clusters. Ce script intelligent a exécuté des milliers d’actions au sein de bacs à sable éphémères tout en déplaçant son centre de commande sur divers services publics.
Bien que limitées à des données internes et quelques identifiants (sans compromission des modèles publics ou de la chaîne d’approvisionnement logicielle comme le précise TechRepublic), ces manœuvres exécutées sur un simple week-end illustrent une sophistication redoutable opérant à la vitesse d’une machine.
🦋 L’actualité de l’open source en français dans votre flux. Suivez Goodtech sur Bluesky (ou vos applications AT Protocol comme W Social et Mu) grâce à notre compte officiel. Suivez, partagez, abonnez-vous à @goodtech.info !
Les garde-fous de l’IA bloquent l’enquête
Pour comprendre comment cette myriade de requêtes a pu opérer en si peu de temps, les ingénieurs ont voulu s’appuyer sur des API de grands modèles de langage commerciaux. C’est ici que l’enquête a heurté un mur de béton algorithmique. Les systèmes de sécurité des géants du cloud ont refusé de traiter l’historique des 17 000 actions malveillantes. Incapables de faire la distinction entre une véritable attaque et un expert en sécurité soumettant des charges utiles (payloads) à des fins d’analyse, les IA propriétaires ont tout simplement censuré les requêtes de l’équipe de défense.
Ce blocage met en évidence une asymétrie critique : le pirate exploite une architecture débridée (sans aucune restriction de politique d’usage) tandis que l’entreprise ciblée se retrouve paralysée par les filtres de ses propres outils de protection.
Le modèle GLM-5.2 à la rescousse
Acculée, la plateforme s’est logiquement tournée vers une approche souveraine en déployant GLM-5.2, un modèle chinois (Ndlr : open weight), directement sur sa propre infrastructure. Cette stratégie a permis de disséquer l’intégralité des logs en quelques heures au lieu de plusieurs jours. Autre avantage décisif : aucune donnée sensible ni clé d’accès n’a fuité vers les serveurs de prestataires externes lors du traitement.
L’entreprise a depuis refermé les brèches, révoqué les accès compromis, engagé des spécialistes en investigation numérique (forensics) et recommandé à ses utilisateurs de renouveler leurs jetons d’accès.
