Kgateway, nouveau venu dans l’écosystème CNCF, n’est en réalité qu’un nom inédit pour une solution bien connue des développeurs Kubernetes : Gloo. Lancé en 2018 pour gérer les API dans un monde de microservices, ce projet opère aujourd’hui un changement de cap ambitieux. Il s’adapte aux nouveaux besoins du cloud natif, en intégrant les cas d’usage liés à l’IA générative et aux agents intelligents. Avec kgateway.dev, le projet se positionne comme une passerelle incontournable. Présentation.
À l’origine, Gloo s’était imposé comme une API Gateway efficace, capable d’exploiter la puissance d’Envoy tout en apportant des contrôles précis sur le trafic applicatif Kubernetes. En 2025, l’évolution du paysage pousse la fondation CNCF à adopter Kgateway, un projet qui garde les fondamentaux (ingress, routage, sécurité, observabilité) tout en introduisant des fonctionnalités tournées vers les agents IA, les grands modèles de langage (LLM) et le protocole MCP (Model Context Protocol).
Une gateway pensée pour les agents IA et les LLM
Ce qui distingue Kgateway aujourd’hui, c’est son rôle central dans l’orchestration des flux entre agents, outils et modèles d’IA. Il devient une véritable brique d’infrastructure dédiée à l’agentic computing. L’explosion des usages LLM oblige les entreprises à réguler leur trafic sortant vers des API externes comme OpenAI. Kgateway joue alors le rôle d’AI Gateway : il sécurise les clés, applique des politiques de filtrage, autorise les tests de modèles (A/B testing), enrichit dynamiquement les prompts, et garantit que les interactions restent éthiques et maîtrisées.
Avec son Inference Gateway, Kgateway va plus loin : il gère intelligemment les requêtes coûteuses en GPU, comme les appels à des modèles d’inférence. Grâce à une logique de routage basée sur les métriques Prometheus (latence, mémoire GPU disponible, files d’attente), il optimise la distribution de la charge sur les serveurs IA. Résultat : des performances accrues et une meilleure utilisation des ressources.
Autre avantage clé : Kgateway peut servir à la fois de proxy d’entrée (ingress) et de waypoint dans un mesh Istio ambient. En unifiant la gestion du trafic nord-sud et est-ouest avec une configuration commune via la Kubernetes Gateway API, il simplifie radicalement l’exploitation. Plus besoin de jongler entre plusieurs solutions pour gérer les flux internes et externes. Le tout avec des fonctionnalités avancées comme le rate limiting, l’authentification externe ou la transformation des requêtes.
La dernière nouveauté introduite dans Kgateway 2.0.0 est l’Agent Gateway, un proxy Rust compatible avec les protocoles MCP et A2A, qui permet la communication sécurisée entre agents, quel que soit leur environnement (bare metal, VM, conteneurs). Il remplace le proxy MCP historique et offre une base solide pour fédérer des milliers d’outils via un seul point d’accès. Il s’appuie sur le contrôle dynamique xDS, comme Envoy, pour s’adapter à toutes les architectures.
D’un projet industriel à un projet communautaire
Utilisé chaque jour à très grande échelle — des terminaux de paiement aux services de restauration — Gloo est désormais officiellement un projet CNCF. Rebaptisé Kgateway, il entre dans une nouvelle phase. Solo.io continuera de proposer sa version entreprise, tandis que la version communautaire s’enrichit grâce à de nouveaux contributeurs et à une feuille de route ambitieuse, déjà lancée avec la version 2.0.0.
Pour découvrir Kgateway et sa documentation, rendez-vous sur kgateway.dev. Et si vous souhaitez plonger dans les détails techniques ou contribuer, le communiqué de la CNCF est une excellente porte d’entrée.
