Le vrai frein au dĂ©ploiement des agents IA en entreprise n’est plus la qualitĂ© des modèles. C’est la confiance. C’est le constat de Galileo, spĂ©cialiste de l’observabilitĂ© IA basĂ© Ă San Francisco, qui publie Agent Control en open source sous licence Apache 2.0. Le code est disponible sur GitHub dès maintenant.
Le problème que rĂ©sout Agent Control est simple Ă comprendre : aujourd’hui, les Ă©quipes qui dĂ©ploient plusieurs agents IA sont contraintes de coder les règles de sĂ©curitĂ© et de conformitĂ© individuellement dans chaque agent. Un processus lent, fragile, et qui ne passe pas Ă l’Ă©chelle. Agent Control propose une couche de gouvernance centralisĂ©e : on dĂ©finit les politiques une seule fois, et elles s’appliquent Ă l’ensemble des agents, qu’ils soient dĂ©veloppĂ©s en interne ou achetĂ©s auprès d’un fournisseur.
Mise à jour en production sans redéploiement
La fonctionnalitĂ© la plus frappante est la mise Ă jour des politiques en temps rĂ©el. Galileo a dĂ©montrĂ© dans une vidĂ©o de prĂ©sentation une correction de conformitĂ© aux donnĂ©es personnelles appliquĂ©e en moins de deux minutes sans mettre l’agent hors ligne. Les cas d’usage couverts vont de la prĂ©vention des hallucinations et du blocage des fuites de donnĂ©es au pilotage du choix du modèle de langage pour optimiser les coĂ»ts, en passant par l’application d’exigences d’approbation humaine sur les transactions sensibles.
Agent Control est indĂ©pendant de tout fournisseur : il prend en charge les garde-fous de n’importe quel Ă©diteur, y compris des Ă©valuateurs personnalisĂ©s. Les premières intĂ©grations confirmĂ©es couvrent Strands Agents, CrewAI, Glean et Cisco AI Defense, ainsi que LangGraph, Amazon Strands, NVIDIA NeMo et AWS Bedrock.
Galileo, qui a levĂ© 62 millions d’euros au total auprès de Scale Venture Partners et Battery Ventures, est Ă©galement mainteneur principal d’AGNTCY, une initiative open source d’interopĂ©rabilitĂ© pour agents IA aux cĂ´tĂ©s de Cisco, LangChain, Glean et LlamaIndex.
