Il y a quelques semaines, nous vous présentions Red Hat Enterprise Linux AI 1.4, avec deux points forts : Granite 3.1 et DK-bench. Aujourd’hui, l’entreprise continue d’étoffer sa stratégie IA avec l’arrivée de Red Hat OpenShift AI 2.18, visant à renforcer encore davantage son offre globale Red Hat AI. Explications.
Red Hat AI se positionne désormais comme une plateforme complète dédiée à l’entraînement et à l’inférence de modèles d’IA au sein du cloud hybride. Face au défi majeur d’intégrer efficacement les grands modèles de langage (LLM) aux données propriétaires, Red Hat entend combiner les capacités d’OpenShift AI et de Red Hat Enterprise Linux AI, pour une flexibilité et une performance accrues.
Avec la version 2.18, OpenShift AI propose plusieurs améliorations significatives : une gestion distribuée des modèles via le serveur d’inférence vLLM pour un usage optimisé des ressources GPU, une expérience d’ajustement des modèles simplifiée grâce à InstructLab, ainsi que la mise en place de « AI Guardrails » permettant de surveiller les interactions des utilisateurs et les réponses des modèles pour une sécurité renforcée.
Autre point fort : l’introduction d’un outil d’évaluation approfondie (lm-eval) permettant aux data scientists d’optimiser la performance des modèles d’IA sur divers types de tâches, renforçant ainsi leur pertinence et leur efficacité en situation réelle.
Red Hat AI continue ainsi à se développer pour permettre aux entreprises de déployer plus aisément des modèles performants et sécurisés, en s’adaptant parfaitement aux exigences du cloud hybride moderne.
