C’est dans le cadre de la conférence TechXchange qu’IBM a annoncé, en début de semaine, la sortie de sa famille de modèles d’IA Granite 3.0 en open source. Il sont pour l’occasion publiés sous la licence Apache 2.0 permissive. Présentation.
Selon l’entreprise, les nouveaux modèles annoncés, Granite 3.0 8B et 2B (publiés sous la licence Apache 2.0), affichent d’excellentes performances selon de nombreux benchmarks académiques et d’entreprise. Ils seraient apables de surpasser ou d’égaler des modèles de taille similaire.
La famille Granite 3.0 comprend :
- Des modèles à usage général & de langage : Granite 3.0 8B-Instruct, Granite 3.0 2B-Instruct, Granite 3.0 8B Base, Granite 3.0 2B Base
- Des modèles garde-fous orientés sécurité : Granite Guardian 3.0 8B, Granite Guardian 3.0 2B
- Des modèles « Mixture-of-Experts » : Granite 3.0 3B-A800M Instruct, Granite 3.0 1B-A400M Instruct, Granite 3.0 3B-A800M Base, Granite 3.0 1B-A400M Base
Les nouveaux modèles de langage Granite 3.0 8B et 2B seront, selon les annonces, les principaux modèles pour l’IA d’entreprise. Ces modèles compacts et polyvalents sont conçus pour être affinés avec les données de l’entreprise et intégrés de manière transparente dans divers environnements ou processus. Le développement open source se fait via ce compte Github.
Alors que de nombreux modèles de langage de grande taille (LLM) sont formés sur des données accessibles au public, une grande majorité des données d’entreprise reste inexploitée. En combinant un petit modèle Granite avec des données d’entrepris et en utilisant notamment la technique d’alignement InstructLab – introduite avec RedHat en mai, comme nous l’évoquions dans cet article – l’entreprise américaine pense que les entreprises peuvent obtenir des performances spécifiques à des tâches qui rivalisent avec des modèles plus grands et commerciaux.
La version 3.0 de Granite entend s’inscrire dans une logique de transparence, de sécurité et de confiance dans les produits d’IA. Le rapport technique et le guide d’utilisation responsable de Granite 3.0 fournissent une description des ensembles de données utilisés pour entraîner ces modèles, des détails sur les étapes de filtrage, de nettoyage et de curation appliquées, ainsi que des résultats complets sur les performances des modèles selon les principaux benchmarks académiques et d’entreprise.
L’ensemble des modèles Granite 3.0 et les modèles Time Series mis à jour peuvent être téléchargés sur HuggingFace sous la licence Apache 2.0 permissive. Les variantes d’instruction des nouveaux modèles de langage Granite 3.0 8B et 2B et les modèles Granite Guardian 3.0 8B et 2B sont disponibles dès aujourd’hui pour une utilisation commerciale sur la plateforme watsonx d’IBM. Une sélection des modèles Granite 3.0 sera également disponible en tant que microservices NVIDIA NIM et via les intégrations Vertex AI Model Garden de Google Cloud avec HuggingFace.
