Au cours du dernier Paris AI Action Summit, une initiative a particulièrement retenu l’attention : le lancement de ROOST (Robust Open Online Safety Tools), une association à but non lucratif qui vise à démocratiser les outils de sûreté et de sécurité dans le domaine de l’intelligence artificielle.
Selon ses fondateurs, de nombreuses organisations (startups, ONG, gouvernements, etc.) souhaiteraient utiliser l’IA de manière responsable, mais n’ont pas accès aux ressources et solutions de protection réservées d’ordinaire à quelques grands groupes technologiques.
La solution proposée par ROOST s’articule autour de la création et de la maintenance de briques logicielles open source, allant des outils de détection de contenus inappropriés (notamment en matière de protection de l’enfance) aux mécanismes d’évaluation et de filtrage pour les modèles de fondation.
L’association, soutenue par un large éventail de partenaires (comme Roblox, Discord, Google, OpenAI, Bluesky, Hugging Face, Microsoft, Matrix ou encore Mozilla), compte aussi fournir un accompagnement concret et une expertise technique à toutes les structures qui cherchent à sécuriser leurs solutions IA
Parmi les priorités de ROOST figurent la mise en place d’un noyau d’outils de sécurité (rules engines, systèmes de gestion de cas, consoles de revue, interfaces unifiées, etc.), l’amélioration des mesures de child safety (où la plupart des petits acteurs peinent à trouver des solutions abordables ou faciles à implémenter) et le développement d’infrastructures de filtrage adaptées aux modèles de fondation (foundation models). L’ouverture, la modularité et la collaboration restent les maîtres mots : en choisissant de partager gratuitement ces solutions, ROOST espère favoriser un écosystème IA plus responsable.
La Fondation Mozilla en parle sur son propre blog cette semaine, soulignant à quel point ROOST intervient au bon moment pour canaliser le virage vers une IA plus ouverte. La dynamique qui s’était autrefois concentrée sur d’hypothétiques risques existentiels se recentre désormais sur des problématiques concrètes de détection de contenus sensibles et de protection des utilisateurs.
L’ambition de ROOST est justement de rendre ces questions de sûreté plus accessibles, en misant sur la collaboration d’experts et d’acteurs pour une « nouvelle ère de l’IA ».
