Près de 70 % des modèles d’IA ouverts n’ont jamais vu leur provenance vérifiée. Pour mettre fin au Far West, Cisco publie l’AI Supply Chain Provenance Explorer, un outil gratuit capable d’analyser l’empreinte comportementale et la sécurité de 900 modèles.
Déployer un modèle d’IA ouvert au cœur de son infrastructure sans en vérifier la provenance exacte ressemble de plus en plus à un pari risqué. Selon des données publiées par VentureBeat, 69 % des modèles ouverts n’ont jamais fait l’objet d’une vérification de leur traçabilité avant leur réutilisation. Pour combler ce trou noir sécuritaire, Cisco publie l’outil public et gratuit AI Supply Chain Provenance Explorer.
L’initiative, détaillée sur le blog officiel de Cisco, répertorie déjà près de 900 modèles ouverts. Elle permet aux développeurs et équipes SecOps de contrôler l’historique d’un modèle avant de l’intégrer en production.
Ne plus se fier aux simples métadonnées déclaratives
Les plateformes d’hébergement s’appuient souvent sur des balises renseignées par les utilisateurs eux-mêmes. L’outil de Cisco dépasse ce déclaratif en calculant des scores de similarité basés sur le Model Provenance Kit (une boîte à outils Python publiée en open source par l’équipementier) et sur le Project VAIL. Ces algorithmes analysent la structure du tokenizer, la disposition de l’architecture Transformer et les signaux au niveau des poids pour établir la filiation réelle d’un modèle.
L’interface regroupe en un point unique l’ensemble des garde-fous nécessaires aux entreprises :
-
Informations fournisseurs et géopolitique : localisation du siège social du créateur et restrictions relatives au contrôle des exportations.
-
Contraintes juridiques : analyse des termes de licence, des clauses non commerciales et des exigences d’attribution.
-
Sécurité applicative : rapports d’analyse antimalware automatisés reposant sur le moteur open source ClamAV.
Sécuriser l’IA à poids ouverts
Cette mise à disposition s’inscrit dans un mouvement plus vaste en faveur de l’IA ouverte. Cisco figure aux côtés de 75 autres acteurs de la tech (dont Alphabet, Microsoft et OpenAI) parmi les signataires d’une lettre ouverte appelant le gouvernement américain à soutenir le développement des modèles à poids ouverts pour renforcer la sécurité globale de l’écosystème.
En parallèle, un rassemblement de 37 entreprises a fondé l’Open Secure AI Alliance pour promouvoir des standards d’intégrité. La démarche de Cisco démontre que la transparence apportée par le monde ouvert ne peut fonctionner sans une traçabilité rigoureuse de la chaîne d’approvisionnement logicielle.
🦋 L’actualité de l’open source en français dans votre flux. Suivez Goodtech sur Bluesky (ou vos applications AT Protocol comme W Social et Mu) grâce à notre compte officiel. Suivez, partagez, abonnez-vous à @goodtech.info !
