Red Hat Enterprise Linux AI est le fruit d’un travail de développement mené avec la maison-mère de l’éditeur, IBM. Une version de développement est déjà accessible aux développeurs, la toute première à fournir des LLM Granite d’IBM sous licence open source.
Quelques jours après Red Hat Entreprise Linux 9.4, place à une version entièrement dédiée à l’intelligence artificielle. Son nom : Red Hat Enterprise Linux AI.
De quoi parle-t-on ?
Red Hat Enterprise Linux AI (RHEL AI) est une plateforme destinée aux développeurs. Elle permet de développer, tester et déployer des modèles d’IA générative.
RHEL AI est basé sur la famille open source Granite-LLM d’IBM Research, les outils d’alignement d’InstructLab et la communauté derrière le projet InstructLab. La solution est proposée sous forme d’image RHEL pour les serveurs individuels à travers le cloud hybride et est incluse dans OpenShift AI, la plateforme MLOps de Red Hat.
D’où vient le projet ?
IBM Research a développé la technique LAB (Large-scale Alignment for chatBots),une approche visant à rendre le développement de modèles d’IA plus ouvert et accessible en éliminant les annotations humaines coûteuses et les modèles propriétaires.
Red Hat et IBM ont décidé de lancer InstructLab, une communauté open source construite autour de la méthode LAB et du modèle open source Granite d’IBM. Le projet InstructLab vise à rendre le développement LLM aux développeurs en simplifiant les projets LLM comme n’importe quel autre projet open source.
S’appuyant sur l’approche ouverte en matière d’IA, RHEL AI ajoute une version professionnelle du projet InstructLab – avec le langage et les modèles Granite à sa plateforme Linux d’entreprise, dont la version 9.4 vient de sortir.
Fonctionnalités
Les fonctionnalités annoncées dans la version de démonstration de RHEL AI (destinée aux développeurs) :
- Des modèles de langage et de code Granite sous licence open source pris en charge et indemnisés par Red Hat.
- Une distribution d’InstructLab prise en charge sur l’ensemble du cycle de vie qui offre une solution évolutive destinée à améliorer les capacités de LLM et à rendre les contributions qui s’appuient sur des compétences et des connaissances accessible à un panel d’utilisateurs beaucoup plus étendu.
- Des instances d’exécution de modèles optimisées et amorçables avec les modèles Granite et les ensembles d’outils InstructLab sous forme d’images RHEL démarrables via le mode image de RHEL. Ils ncluent des bibliothèques d’exécutables et des accélérateurs Pytorch pour AMD Instinct MI300X, Intel et les cadres NVIDIA GPUs et NeMo.
- Un support Red Hat complet pour les entreprises, un support en production 24h/24 et 7j/7 et un support étendu sur l’ensemble du cycle de vie.
Disponibilité
RHEL AI est disponible en version Preview (aperçu) pour les développeurs.
