La conférence DASH de Datadog, qui se tenait cette semaine à New York, marque un tournant dans la manière dont les entreprises abordent la sécurité des projets d’intelligence artificielle. Parmi les annonces phares : une série d’outils visant à renforcer la surveillance des bibliothèques open source utilisées dans les environnements IA.
Le message est clair : sécuriser une application IA ne se limite plus aux firewalls ou aux autorisations. Il faut désormais protéger la chaîne logicielle complète, et cela commence dès les premières lignes de code — notamment celles importées depuis des bibliothèques tierces. Dans ce contexte, Datadog a lancé Code Security, un produit conçu pour détecter et hiérarchiser les vulnérabilités dans le code personnalisé, mais aussi dans les bibliothèques open source, utilisées dans les modèles d’IA ou les applications traditionnelles. La nouveauté, c’est que Code Security utilise l’intelligence artificielle pour analyser et contextualiser les failles potentielles, et ce dès le développement. L’outil est intégré directement aux environnements de développement comme GitHub ou les IDE, permettant aux développeurs de corriger les failles sans perturber leurs workflows.
En parallèle, la solution LLM Observability – désormais disponible – surveille le comportement des modèles de langage pour détecter des dérives comme des prompts toxiques ou des anomalies dans les réponses générées. Un outil précieux pour éviter que des données sensibles issues de bibliothèques mal sécurisées ne contaminent des modèles en production.
En renforçant le contrôle sur les bibliothèques open source dans les workflows IA, Datadog répond à une inquiétude croissante : comment garantir la sécurité d’une intelligence artificielle si ses fondations sont floues ou vulnérables ? C’est aussi une manière de se conformer aux cadres réglementaires émergents, comme le NIST AI Risk Management Framework aux États-Unis ou la réglementation européenne sur l’IA. L’outil Sensitive Data Scanner, déjà bien connu des équipes DevSecOps, s’enrichit d’un support des instances AWS S3 et RDS pour éviter que des données personnelles (PII) ne fuient dans les jeux d’entraînement des LLM, une préoccupation grandissante avec la multiplication des agents IA auto-apprenants.
