Le message est clair : l’heure de l’expérimentation est finie, place à la production sécurisée. Red Hat, le leader mondial de l’open source, vient d’annoncer l’acquisition de Chatterbox Labs, une pépite spécialisée dans la sécurité et l’éthique de l’intelligence artificielle. Alors que les entreprises déploient massivement des agents autonomes, la question de la confiance devient critique. Ce rachat permet à Red Hat d’ajouter une couche de protection indispensable à son catalogue Red Hat AI 3.
Fondée en 2011, Chatterbox Labs apporte une technologie capable de tester et de valider n’importe quel modèle d’IA, qu’il soit génératif ou prédictif. Le framework AIMI permet notamment de générer des métriques de risque quantitatives pour les grands modèles de langage (LLM), de valider l’équité et la robustesse des algorithmes et de bloquer les invites (prompts) toxiques, biaisées ou dangereuses grâce à des garde-fous (guardrails) avant même la mise en production.
Sécuriser l’IA de demain : les agents autonomes
L‘intégration de Chatterbox Labs est stratégique pour sécuriser la prochaine génération de charges de travail : l’IA agentique. Ces agents IA, capables de prendre des décisions seuls, nécessitent une surveillance constante de leurs réponses et des actions qu’ils déclenchent sur les serveurs via le protocole MCP (Model Context Protocol).
Pour Steven Huels, vice-président chez Red Hat, cette acquisition transforme la sécurité de l’IA, souvent perçue comme une « boîte noire », en un processus transparent et auditable. En combinant ses outils de MLOps avec les tests de sécurité de Chatterbox Labs, Red Hat promet une IA d’entreprise à grande échelle, où la sécurité n’est plus une option, mais une fondation native.
