Façade moderne d'un bâtiment d'OVHcloud arborant l'enseigne blanche de l'hébergeur français

Olala mini 7A1B : OVHcloud lance son premier modèle d’IA open source entraîné sur des supercalculateurs européens 🇫🇷🤖

OVHcloud présente aujourd’hui à son AI Summit son premier modèle d’IA open source sous licence Apache 2.0 : Olala mini 7A1B ! Entraîné sur les supercalculateurs européens Jean Zay, MeluXina et Jupiter, il tourne sur un GPU de 8 Go (et même sur CPU).

 

💡 En résumé : l’essentiel sur Olala mini 7A1B

  • Architecture hybride économe : modèle Mixture-of-Experts (MoE) de 7 milliards de paramètres (dont 1 milliard actif par requête), associant Differential-TPA et Mamba-3.
  • Ouverture complète : publication attendue dans la journée sur Hugging Face sous licence Apache 2.0, accompagnée du modèle de base pré-entraîné et de la documentation AI Act.
  • Ancrage européen : entraîné grâce à 7 millions d’euros d’heures de calcul sur les supercalculateurs publics Jean Zay, MeluXina et Jupiter, et déjà déployé chez Qwant.

Un modèle compact de 7 milliards de paramètres capable de tourner sur une simple carte graphique de 8 Go de mémoire ou sur un processeur standard à 50 tokens par seconde. C’est la promesse d’Olala mini 7A1B, le premier membre de la famille de grands modèles de langage conçue par OVHcloud.

Présenté officiellement ce jeudi 19 novembre lors de l’OVHcloud AI Summit, ce modèle sera publié en open source sous licence Apache 2.0 dans les prochaines heures avec ses poids, son rapport technique et sa documentation de conformité à l’AI Act européen. Vous pouvez déjà accéder au compte OVHCloud sur Hugging Face et vous y abonner.

Une architecture hybride légère pensée pour l’exécution locale

Dans son annonce officielle, l’hébergeur français détaille les choix techniques de son laboratoire interne OVHai LLM. Plutôt que de miser sur un modèle dense énergivore, Olala mini 7A1B adopte une structure à mélange d’experts (Mixture-of-Experts) répartissant ses 7 milliards de paramètres totaux sur 256 experts par couche, afin de n’activer qu’un milliard de paramètres lors de chaque requête.

Couplée à un mécanisme d’attention hybride combinant Differential-TPA et Mamba-3 (au format BF16) et à une fenêtre de contexte de 32 000 tokens, cette approche réduit fortement l’empreinte mémoire. OVHcloud annonce un débit de 160 tokens par seconde sur une carte professionnelle Nvidia RTX A4500, et assure que le modèle fonctionne sur un GPU doté de seulement 8 Go de VRAM (ainsi qu’à 50 tokens par seconde sur un simple CPU). L’ensemble des fichiers, du modèle de base pré-entraîné aux poids finaux, sera mis en ligne au fil de la journée sur la page Hugging Face officielle d’OVHcloud. On notera toutefois que le constructeur ne publie pas encore de scores de bancs d’essai comparatifs face aux modèles concurrents de taille équivalente.

Un entraînement sur fonds publics européens

Pour entraîner Olala mini à partir de zéro (from scratch), OVHcloud s’est appuyé sur trois supercalculateurs publics européens (Jean Zay en France, MeluXina au Luxembourg et Jupiter en Allemagne), mobilisant des processeurs graphiques Nvidia GH200, A100 et H100. Ce soutien public, valorisé à hauteur de 7 millions d’euros en heures de calcul, a permis de structurer l’équipe dédiée au sein du groupe.

Le modèle est déjà en production sur le moteur de recherche français Qwant (contrôlé par les frères Klaba, également actionnaires dirigeants d’OVHcloud) pour alimenter ses réponses flash, avec des réponses annoncées 20 % plus rapides et des coûts d’exploitation divisés par trois par rapport à l’architecture précédente.

Pour le directeur général Octave Klaba, cette initiative répond à un impératif d’indépendance stratégique : « On ne peut pas se contenter de compter sur la générosité de certains laboratoires pour partager leurs LLM en open source dans les années à venir. Le savoir-faire en matière d’entraînement est devenu largement accessible et les coûts ont été divisés par 20 en trois ans. »

Une feuille de route vers 100 milliards de paramètres

La feuille de route s’articule déjà autour de deux prochaines étapes :

  • Olala v1.1 (fin 2026) : extension de la fenêtre de contexte à 128 000 tokens et renforcement des capacités en raisonnement mathématique.
  • Olala v2.0 : montée en puissance au-delà des 100 milliards de paramètres avec des déclinaisons spécialisées dans l’IA agentique d’entreprise (destinée notamment à la version chiffrée d’OVHai Workspace exécutée localement sur le poste de travail), le DevOps cloud et la cybersécurité offensive et défensive.

🌐 L’actualité de l’open source et de l’IA souveraine dans votre flux

🐘 Fediverse / Mastodon : suivez notre profil officiel @ depuis votre application ou votre instance favorite.

🦋 Bluesky (AT Protocol) : retrouvez nos actualités condensées et abonnez-vous à @goodtech.info.

Défiler vers le haut