Ne pas laisser la cybersécurité de l’IA aux seules mains de systèmes propriétaires fermés : NVIDIA, la Linux Foundation et des dizaines d’acteurs de premier plan créent l’Open Secure AI Alliance. Une réponse collective basée sur du code et des outils ouverts. Présentation.
Considérer que le secret des poids d’un modèle d’intelligence artificielle garantit sa sécurité est une illusion. Face à la multiplication des attaques automatiques et des systèmes agentiques capables de trouver leurs propres failles, le monde de la défense informatique a besoin d’outils vérifiables, auditables et déployables sur ses propres infrastructures.
Pour bâtir ce socle commun, NVIDIA, la Linux Foundation et une coalition impressionnante d’entreprises du logiciel libre, du cloud et de la cybersécurité annoncent la création de l’Open Secure AI Alliance. Cette initiative s’inscrit dans la continuité directe des travaux d’OpenSSF et du projet Akrites, pensé pour protéger les logiciels open source critiques contre les menaces assistées par IA.
La leçon de l’incident Hugging Face
La nécessité d’une défense souveraine et ouverte a été mise en lumière de manière brutale lors du récent piratage par un agent IA chez Hugging Face. Alors que les outils d’IA propriétaires sur lesquels s’appuyaient les analystes refusaient d’examiner les données d’attaque (en raison de garde-fous commerciaux incapables de faire la différence entre un attaquant et un défenseur), l’équipe de réponse à incident a dû faire tourner le modèle à poids ouverts GLM 5.2 sur sa propre infrastructure. C’est cette autonomie technique qui a permis de décortiquer plus de 17 000 événements et de contenir l’intrusion en quelques heures.
L’alliance part d’un constat pragmatique : les modèles fermés ne peuvent pas répondre seuls aux urgences forensiques. Les entreprises et les institutions ont besoin de systèmes ouverts qu’elles peuvent inspecter, modifier et exécuter localement sans dépendre d’un fournisseur unique.
Un empilement technique ouvert
Pour dépasser le stade de la simple déclaration d’intention, plusieurs membres de la coalition versent dès aujourd’hui des briques logicielles majeures au domaine public :
-
NVIDIA met à disposition sur GitHub le projet NOOA (NVIDIA Labs Object-Oriented Agent), une boîte à outils open source conçue pour auditer, tester et encadrer le comportement des agents autonomes.
-
Hugging Face poursuit le transfert du format Safetensors vers la fondation PyTorch afin de garantir un stockage des poids de modèles sans risque d’exécution de code à distance.
-
HPE contribue au framework d’identité Zero Trust SPIFFE/SPIRE pour authentifier cryptographiquement les requêtes des agents d’IA.
-
IBM et Red Hat étendent le projet Lightwell pour sécuriser la chaîne d’approvisionnement logicielle avec des correctifs signés numériquement.
-
Microsoft partage son banc d’essai MDASH, pensé pour orchestrer des agents spécialisés dans la découverte et la preuve de vulnérabilités.
Un appel aux régulateurs
L’Open Secure AI Alliance adresse également un message clair aux décideurs politiques : les modèles et outils ouverts ne doivent pas être perçus comme des risques, mais comme des actifs de défense indispensables pour la sécurité nationale et industrielle. Une restriction globale sur les systèmes d’IA ouverts risquerait de concentrer le pouvoir et la résilience technique entre les mains d’une poignée d’acteurs fermés, créant un point de défaillance unique pour l’ensemble de l’écosystème numérique.
L’initiative invite l’ensemble de la communauté des chercheurs, des éditeurs et des gouvernements à rejoindre le mouvement pour construire la sécurité de l’ère agentique dans la transparence et le partage.
🦋 L’actualité de l’open source en français dans votre flux. Suivez Goodtech sur Bluesky (ou vos applications AT Protocol comme W Social et Mu) grâce à notre compte officiel. Suivez, partagez, abonnez-vous à @goodtech.info !
