Un peu moins d’un an après Llama 2, dont nous vous parlions ici, on en sait un peu plus sur le successeur, le modèle de langage Llama 3. Il sortira en mai prochain. Meta a donné quelques détails la semaine dernière à Londres.
Techcrunch a pu assister au Meta AI Day London qui s’est tenu mardi. Une première version de Llama 3, la prochaine génération de son LLM utilisé pour alimenter des IA, sortira dans quelques semaines. Il sera toujours open source.
Nick Clegg, président des affaires internationales de Meta, l’a confirmé :
« D’ici un mois – mais peut-être un peu moins – nous pensons pouvoir commencer à déployer notre nouvelle suite de modèles de nouvelle génération. Nous allons proposer un certain nombre de modèles différents, avec des capacités différentes. »
L’objectif est ambitieux : l’accueil de Llama 2 n’a pas été à la hauteur des attentes de l’entreprise, qui semble courir derrière OpenAI et ChatGPT en matière de performances. Llama 3 devrait remédier à cette situation, avec des réponses plus vastes et surtout plus précises. Le nouveau modèle devrait comporter environ 140 milliards de paramètres, contre 70 milliards pour le plus grand modèle de Llama 2.
Selon des propos rapportés par Techcrunch, Joelle Pineau, vice-présidente de la recherche sur l’IA chez Meta entend faire de Llama « l’assistant le plus utile au monde », mais reconnaît qu’il « reste encore beaucoup de travail pour y parvenir ».
Ce qui ne change pas ? La nature open source, qui représentent une approche différente d’autres acteurs sur le marché. Meta espère ainsi gagner la faveur des développeurs par rapport aux modèles plus propriétaires (OpenAI, Google).

