Les premières machines sont validées pour la plateforme RHEL AI. Il s’agit de serveurs Dell PowerEdge, destinés à aider les entreprises à développer, à tester et à exécuter des grands modèles de langage (LLM).
Dell Technologies et Red Hat annoncent le portage sur les serveurs Dell PowerEdge de Red Hat Enterprise Linux AI (RHEL AI), le système d’exploitation optimisé pour l’IA, dont nous vous parlions dans cet article. L’initiative fait de RHEL AI une plateforme de choix pour le serveur Dell PowerEdge R760xa.
Pour qui ?
L’annonce s’adresse aux entreprises qui souhaitent mettre en œuvre de stratégies d’intelligence artificielle et de Machine Learning (IA/ML) dans le but de faire évoluer leurs systèmes IT. Les deux entreprises américianes entendent « simplifier l’expérience de l’IA pour leurs utilisateurs en testant et en validant de façon continue des solutions matérielles telles que les plateformes de calcul accéléré de NVIDIA en utilisant RHEL AI. »
La plateforme RHEL AI sur serveurs Dell PowerEdge sera disponible au troisième trimestre 2024.
Open Source
La plateforme RHEL AI combine la famille de grands modèles de langage (LLM) Granite sous licence open source d’IBM Research, des outils d’alignement des modèles InstructLab qui reposent sur la méthodologie LAB d’alignement à grande échelle pour les chatbots, et une approche du développement de modèles centrée sur la communauté via le projet InstructLab.
La solution complète est fournie sous forme d’image RHEL optimisée et amorçable pour les déploiements sur des serveurs individuels sur l’ensemble du cloud hybride. Elle est également incluse dans OpenShift AI, la plateforme de Red Hat dédiée aux opérations d’apprentissage automatique hybrides (MLOps), pour l’exécution de modèles et d’InstructLab à grande échelle sur tous les environnements de clusters distribués.
