Red Hat annonce la disponibilité générale de Red Hat Enterprise Linux AI (RHEL AI) 1.4, sa plateforme dédiée à l’IA générative, permettant de développer, tester et déployer des grands modèles de langage (LLMs) pour les applications d’entreprise. Cette version combine les modèles open source Granite avec les outils d’alignement d’InstructLab, le tout sur une image RHEL optimisée pour l’IA.
Pour l’éditeur, les organisations sont aujourd’hui à la recherche de modèles plus petits, sous licence open source et qui peuvent être exécutés n’importe où dans le cloud hybride. La nouvelle version RHEL AI 1.4 arrive à peu près deux mois après la dernière grande mise à jour 1.3. Alors, quoi de neuf ?
Les nouveautés
RHEL AI 1.4 marque un tournant important, en prenant en charge un nouveau modèle Granite 3.1 à la fois plus puissant et conçu pour le multilingue. Mais ce n’est pas tout : cette version propose également un outil d’évaluation des modèles personnalisé et inaugure, en version « developer preview », une interface graphique inédite pour simplifier la configuration et l’enrichissement de l’IA.
Support de Granite 3.1 8B
Avec la sortie de Granite 3.1 8B, (Ndlr : IBM l’a placé sous licence open source) RHEL AI 1.4 prend en charge un modèle encore plus performant et modulable. Entièrement open source, ce modèle s’oriente vers un usage multilingue : il gère désormais un large éventail de langues, comme l’anglais, l’allemand, l’espagnol, le français, le japonais ou encore le chinois. En outre, un plus grand « context window » (32 000 jetons au lieu de 4 000) facilite la synthèse de textes plus volumineux et la mise en place d’approches de type RAG (Retrieval Augmented Generation).
Par ailleurs, Granite 3.1 8B est disponible en préversion pour la personnalisation via la méthode LAB (InstructLab). Les utilisateurs peuvent ainsi entraîner le modèle sur une taxonomie propre, ou sur des corpus spécifiques en plusieurs langues européennes (comme l’italien ou le portugais) pour répondre à des besoins métiers précis.
Nouvelle interface graphique pour les contributions en compétences et connaissances
Autre grande nouveauté de RHEL AI 1.4 : l’apparition d’une interface graphique entièrement repensée, proposée en developer preview, pour faciliter l’ingestion de données et la création de fichiers qna.yaml. Jusqu’ici, ce travail se faisait surtout en ligne de commande ; désormais, grâce à cette UI, même les non-spécialistes pourront importer leurs documents, effectuer le « chunking » de données et enrichir le socle de connaissances et de compétences d’InstructLab, sans devoir naviguer dans des lignes de configuration obscures.
Document Knowledge-bench (DK-bench) pour évaluer les modèles
Une fois votre modèle affiné avec vos données privées (ce qu’on appelle le fine-tuning), il est essentiel de comparer ses performances par rapport au modèle de base. DK-bench facilite ce processus grâce à la technique du « LLM-as-judge ». En d’autres termes, vous pouvez rapidement mesurer dans quelle mesure le modèle ajusté sur vos données surpasse (ou non) le modèle standard, le tout directement depuis RHEL AI 1.4. C’est une avancée intéressante pour les équipes qui veulent objectiver leurs gains de performance et prouver la valeur ajoutée de leur jeu de données privé.
Démarrer avec RHEL AI
Pour en savoir plus sur l’installation, la configuration et les nouveautés de RHEL AI 1.4, n’hésitez pas à consulter l’annonce officielle. Vous y trouverez un guide « Getting Started » détaillé, ainsi que des informations pratiques pour intégrer RHEL AI et personnaliser les modèles open source Granite selon vos besoins. Les places de marché AWS et Azure sont des solutions populaires pour déployer des logiciels dans le Cloud. RHEL AI est désormais disponible sur ces places de marché.
