Llama 4 : l'IA ouverte devient multimodale et à très long contexte

Le 5 avril 2025, Meta a mis en ligne un billet au titre presque solennel : « The Llama 4 herd », le troupeau Llama 4. En quelques paragraphes, l'entreprise annonçait une refonte complète de sa série de grands modèles de langage ouverts. Deux modèles étaient disponibles au téléchargement le jour même, Llama 4 Scout et Llama 4 Maverick, tandis qu'un troisième, Llama 4 Behemoth, était présenté en avant-première encore en cours d'entraînement. Ce qui frappait, au-delà des noms, tenait à trois ruptures réunies dans une même génération : pour la première fois chez Meta, une architecture à experts remplaçait le modèle dense classique ; pour la première fois, la multimodalité — texte et image — était intégrée dès la conception plutôt qu'ajoutée après coup ; et l'un des modèles annonçait une fenêtre de contexte de dix millions de jetons, un ordre de grandeur qui repoussait très loin la limite de ce qu'un système ouvert pouvait lire d'un seul tenant.

Un peu plus d'un an plus tard, en 2026, ces trois idées sont devenues des références partagées. Un modèle qui n'active qu'une fraction de ses paramètres à chaque requête, qui comprend une image aussi naturellement qu'un paragraphe, et qui garde en mémoire un volume de texte considérable : rien de tout cela ne surprend plus. Mais au printemps 2025, réunir ces propriétés dans une famille librement téléchargeable relevait d'un pari technique et stratégique. Comprendre ce que Llama 4 a apporté ce jour-là, mesurer sa portée réelle et suivre la façon dont on le relit aujourd'hui suppose de replacer l'annonce dans son moment, d'en peser l'impact, puis d'examiner avec honnêteté une réception qui fut, sur certains points, contrastée.

Un mot de méthode avant d'entrer dans le détail. Les dates, versions, chiffres et citations rapportés ici proviennent de l'annonce officielle de Meta, des fiches de modèles publiées sur les plateformes de distribution, de la presse technologique spécialisée et des analyses de l'Open Source Initiative. Lorsqu'un élément relève de l'estimation ou fait l'objet d'un débat, il est présenté comme tel. C'est la ligne de ce média : privilégier ce qui se vérifie et distinguer nettement le fait de l'interprétation.

Ce que c'était : un troupeau à experts, multimodal par nature

Le 5 avril 2025, Meta publie un billet qui présente Llama 4 comme « le début d'une nouvelle ère d'intelligence artificielle nativement multimodale ». La formulation n'est pas anodine : l'entreprise ne se contente pas de livrer un modèle de plus, elle revendique un changement de conception. Deux modèles sont mis à disposition immédiatement en accès ouvert sur llama.com et sur la plateforme Hugging Face, un troisième est annoncé pour plus tard. Voyons chacun d'eux.

Scout, Maverick, Behemoth : trois formats pour trois besoins

Llama 4 Scout est le plus léger de la famille. Il compte dix-sept milliards de paramètres actifs et cent neuf milliards de paramètres au total, répartis entre seize experts. Sa caractéristique la plus remarquée tient à sa fenêtre de contexte : dix millions de jetons, un chiffre que Meta présente comme le plus élevé de sa catégorie au moment de l'annonce. L'entreprise souligne aussi que ce modèle tient sur un seul processeur graphique de type H100, ce qui le rend accessible à des équipes disposant de moyens matériels raisonnables.

Llama 4 Maverick partage les dix-sept milliards de paramètres actifs de Scout, mais mobilise une réserve bien plus vaste : quatre cents milliards de paramètres au total, distribués entre cent vingt-huit experts. Ce format vise les tâches qui réclament un savoir plus étendu et une qualité de raisonnement supérieure. Meta le positionne comme un modèle de premier plan dans sa catégorie sur un large ensemble de tests publics, en le comparant favorablement à des systèmes concurrents de dimension comparable.

Llama 4 Behemoth, enfin, n'était pas téléchargeable le jour de l'annonce. Encore en entraînement, il était décrit comme comptant environ deux cent quatre-vingt-huit milliards de paramètres actifs pour près de deux mille milliards au total. Meta lui assignait un rôle particulier : celui d'enseignant. Ses connaissances devaient servir à guider l'apprentissage de Scout et de Maverick, selon une technique de transmission de savoir d'un grand modèle vers de plus petits que l'on nomme distillation.

Modèle	Paramètres actifs	Paramètres totaux	Experts	Contexte annoncé
Llama 4 Scout	17 milliards	109 milliards	16	10 millions de jetons
Llama 4 Maverick	17 milliards	400 milliards	128	1 million de jetons
Llama 4 Behemoth (aperçu)	≈ 288 milliards	≈ 2 000 milliards	16	non précisé

Sources : annonce officielle Meta AI (5 avril 2025) et fiches de modèles publiées ; fenêtre de contexte de Maverick relayée par IBM watsonx.ai.

Le mélange d'experts, ou l'art d'activer juste ce qu'il faut

La première nouveauté structurelle de Llama 4 porte un nom précis : le mélange d'experts, souvent abrégé en MoE d'après l'anglais « mixture of experts ». Pour saisir l'idée, il faut d'abord comprendre le fonctionnement d'un modèle dense classique, celui des générations précédentes de Llama. Dans un tel modèle, chaque jeton traité mobilise l'intégralité des paramètres : toute la machine s'active pour chaque mot, quel que soit le sujet.

Le mélange d'experts renverse cette logique. Le modèle est découpé en plusieurs sous-réseaux spécialisés, les experts, et un dispositif d'aiguillage — appelé routeur — sélectionne, pour chaque jeton, le petit nombre d'experts les plus pertinents. Résultat : un modèle peut abriter une réserve de connaissances gigantesque tout en n'en sollicitant qu'une fraction à chaque étape. C'est précisément ce qu'illustrent les chiffres de Llama 4 : Maverick loge quatre cents milliards de paramètres, mais n'en active que dix-sept milliards par jeton. On obtient ainsi la richesse d'un très grand modèle pour un coût de calcul proche de celui d'un modèle bien plus modeste.

Dans un modèle dense, chaque jeton mobilise tous les paramètres. Avec le mélange d'experts, un routeur ne sélectionne que les sous-réseaux pertinents — d'où un coût de calcul réduit à chaque étape.

Les modèles de la collection Llama 4 marquent le début d'une nouvelle ère pour l'écosystème Llama. […] Ce sont nos premiers modèles à utiliser une architecture à mélange d'experts.
— Meta AI, annonce « The Llama 4 herd », 5 avril 2025

L'intérêt de cette architecture n'est pas seulement théorique. Pour une équipe qui déploie un modèle, la question du coût par requête est décisive. Un système qui délivre la finesse d'un modèle de quatre cents milliards de paramètres tout en ne payant, à chaque appel, que le prix de dix-sept milliards, change l'équation économique de l'inférence. Le mélange d'experts n'invente rien de radicalement neuf en 2025 — la recherche l'explore depuis des années — mais son adoption par Meta pour sa série phare confirme qu'il s'est imposé comme un standard de l'industrie.

À retenir. — Avec Maverick, seuls 17 milliards de paramètres sur 400 s'activent à chaque jeton : le coût de calcul par prédiction est ainsi divisé par environ 24 par rapport à un modèle dense de même taille totale. C'est toute l'équation économique du mélange d'experts — la richesse d'un très grand modèle pour le prix d'un modèle bien plus petit.

Le rôle du routeur mérite qu'on s'y arrête, car c'est lui qui fait tenir la promesse. À chaque jeton, ce petit réseau apprend à estimer quels experts sont les mieux placés pour traiter l'information, puis dirige le calcul vers ce sous-ensemble. Bien réglé, il répartit la charge de façon équilibrée entre les experts ; mal réglé, il risque d'en surcharger quelques-uns et d'en délaisser d'autres, ce qui gaspille la capacité du modèle. L'entraînement d'un système à experts consiste donc, en partie, à apprendre au routeur une répartition à la fois pertinente et régulière. C'est un savoir-faire d'ingénierie subtil, que la maturité atteinte en 2024 et au début de 2025 par plusieurs laboratoires a permis de fiabiliser suffisamment pour en faire un choix de production, et non plus une simple curiosité de laboratoire.

Simulateur — combien le mélange d'experts fait-il économiser ?

Le coût de calcul d'une réponse est, en première approximation, proportionnel aux paramètres activés, pas au total. Choisissez un modèle de l'article ou saisissez vos propres valeurs pour mesurer l'écart.

Paramètres actifs (Md) Paramètres totaux (Md) Nombre d'experts

4,3 % des paramètres mobilisés à chaque jeton

95,8 % de calcul économisé vs un modèle dense de même taille totale

Dense — 400 Md

MoE — 17 Md

À chaque jeton, ce modèle coûte environ comme un réseau dense de 17 milliards de paramètres, bien qu'il en contienne 400.

Estimation pédagogique : la part dominante du calcul suit les paramètres activés, hors surcoût marginal de l'aiguillage. Il ne s'agit pas d'un prix en euros, mais d'un ordre de grandeur.

Nativement multimodal : la fusion précoce

La deuxième rupture concerne la multimodalité. Un modèle multimodal est capable de traiter plusieurs formes d'information — dans le cas de Llama 4, du texte et des images. Là encore, la manière compte autant que le résultat. Beaucoup de systèmes antérieurs greffaient la vision sur un modèle de langage déjà entraîné, en ajoutant un module chargé de traduire les images en une représentation que le modèle textuel pouvait consommer. Cette approche par assemblage fonctionne, mais elle juxtapose deux mondes conçus séparément.

Meta a choisi une voie différente, qu'elle nomme la fusion précoce, en anglais « early fusion ». Le principe consiste à intégrer, dès le départ, les jetons de texte et les jetons issus des images dans un même tronc commun. Le modèle n'apprend pas d'abord le langage puis, dans un second temps, à regarder ; il apprend les deux ensemble, à partir d'un vaste corpus mêlant texte, images et vidéos non étiquetés. Meta présente cette approche comme une avancée majeure, car elle permet un pré-entraînement conjoint des différentes modalités.

Cela nous permet d'entraîner conjointement le modèle avec de grandes quantités de données non étiquetées de texte, d'image et de vidéo.
— Meta AI, à propos de la fusion précoce dans Llama 4, 5 avril 2025

Concrètement, un modèle entraîné de cette façon développe une compréhension plus intégrée du lien entre les mots et les images. On peut lui soumettre une capture d'écran accompagnée d'une question, un graphique à interpréter, une photographie à décrire, et il traite l'ensemble comme un flux unifié. Pour les usages — analyse de documents contenant des schémas, assistance visuelle, extraction d'informations dans des supports mixtes — cette intégration native ouvre un champ que la simple juxtaposition de deux modèles peinait à couvrir avec la même fluidité.

Il est utile de préciser ce que « jeton d'image » recouvre. Une image n'entre pas dans le modèle sous forme de pixels bruts : elle est d'abord découpée et transformée par un encodeur visuel en une suite de vecteurs, que l'on peut assimiler à des jetons au même titre que ceux du texte. La fusion précoce consiste à faire circuler ces jetons visuels et les jetons textuels dans le même tronc de traitement, si bien que le modèle apprend, dès son pré-entraînement, à mettre en correspondance ce qu'il lit et ce qu'il voit. Cette manière de faire tranche avec l'assemblage tardif, où un composant visuel entraîné à part vient se brancher sur un modèle de langage figé. La différence est loin d'être cosmétique : elle conditionne la finesse avec laquelle le système relie une légende à une figure, une consigne à une capture, une question à un détail d'image.

Dans l'assemblage tardif, la vision est un module rapporté sur un modèle de langage figé. Avec la fusion précoce, jetons visuels et textuels circulent dans un même tronc dès le pré-entraînement.

Dix millions de jetons : la mémoire longue portée

La troisième rupture est celle qui a le plus retenu l'attention : la fenêtre de contexte de dix millions de jetons annoncée pour Scout. La fenêtre de contexte désigne la quantité de texte qu'un modèle peut garder présent à l'esprit pour formuler sa réponse — sa mémoire de travail immédiate. Un jeton correspond, en gros, à un mot court ou à un fragment de mot ; dix millions de jetons représentent donc un volume documentaire considérable, de l'ordre de plusieurs milliers de pages.

Ce chiffre place Scout parmi les premiers modèles ouverts à revendiquer une fenêtre de cette ampleur. Meta y voit le complément naturel de la multimodalité : une longue mémoire combinée à la capacité de lire des images permet d'aborder des cas d'usage brassant d'énormes quantités d'informations de natures différentes. Résumer un ensemble volumineux de rapports illustrés, parcourir une base de code entière, analyser un dossier réunissant textes et visuels — autant de tâches qui, en principe, tiennent dans un seul appel.

Un point mérite d'être posé avec mesure. Un chiffre de fenêtre annoncé décrit ce que l'architecture autorise, pas nécessairement la qualité de compréhension sur toute cette longueur ni ce que chaque plateforme de déploiement propose réellement. Utiliser dix millions de jetons demande une mémoire matérielle importante, et les fournisseurs qui hébergent le modèle fixent souvent des limites pratiques plus basses. La performance sur des documents très longs — la capacité à retrouver une information précise noyée au milieu du texte — fait l'objet de tests dédiés dont les résultats varient selon les cas. Le chiffre est donc une borne haute impressionnante, à lire comme une possibilité technique plutôt que comme une garantie uniforme.

À retenir. — Dix millions de jetons est une borne technique annoncée, pas une garantie de qualité sur toute la longueur. La mémoire matérielle nécessaire et les limites fixées par les hébergeurs restreignent souvent l'usage réel : à lire comme une possibilité, non comme une promesse uniforme.

Un entraînement à grande échelle

Ces capacités reposent sur un socle d'entraînement conséquent. Meta indique que Llama 4 a été pré-entraîné sur plus de trente mille milliards de jetons, soit plus du double du mélange utilisé pour Llama 3. Ce corpus réunit des données de texte, d'image et de vidéo, conformément à l'ambition multimodale. L'entreprise mentionne également un pré-entraînement couvrant deux cents langues, avec dix fois plus de jetons multilingues que pour la génération précédente — un effort qui vise à élargir l'utilité du modèle au-delà de l'anglais.

Plus de trente mille milliards de jetons d'entraînement, contre un volume plus de deux fois moindre pour Llama 3.
Un corpus mêlant texte, image et vidéo, cohérent avec la conception multimodale par fusion précoce.
Deux cents langues couvertes au pré-entraînement, avec dix fois plus de données multilingues que la génération antérieure.

Le contexte : le printemps 2025, une effervescence des modèles ouverts

Llama 4 ne surgit pas dans le vide. Il arrive au terme d'une période d'une densité rare pour les modèles ouverts, et plus précisément au moment où l'architecture à experts s'impose comme la voie privilégiée pour concilier puissance et coût. Pour saisir la portée de cette annonce, il faut remonter le fil des mois qui la précèdent.

De Llama 3 à Llama 4 : une continuité et une bifurcation

La série Llama a été, depuis ses débuts, l'un des piliers de l'écosystème ouvert. En 2024, la famille Llama 3, puis ses déclinaisons 3.1, 3.2 et 3.3, avaient fourni à la communauté des modèles denses de qualité, déclinés en plusieurs tailles, largement adoptés par les développeurs et les entreprises. Ces modèles restaient toutefois fidèles à l'architecture dense traditionnelle et, pour l'essentiel, centrés sur le texte, la multimodalité n'apparaissant que de façon partielle dans certaines variantes.

Llama 4 marque à la fois une continuité et une bifurcation. Continuité, parce que Meta poursuit sa stratégie de diffusion en accès ouvert, cœur de son positionnement dans le domaine. Bifurcation, parce que l'entreprise abandonne le modèle dense pour ses nouveaux fleurons, adopte le mélange d'experts et fait de la multimodalité un principe de conception plutôt qu'une option. C'est la première fois que la série phare de Meta opère un tel virage architectural.

DeepSeek, Qwen : le mélange d'experts devient la norme

Ce virage s'explique en partie par le paysage concurrentiel. Quelques mois avant Llama 4, plusieurs modèles ouverts avaient démontré la maturité du mélange d'experts. En décembre 2024, le laboratoire chinois DeepSeek avait publié DeepSeek-V3, un modèle à experts totalisant, selon les chiffres publiés par DeepSeek, six cent soixante et onze milliards de paramètres, dont trente-sept milliards seulement s'activaient par jeton. En janvier 2025, la sortie de DeepSeek-R1, un modèle de raisonnement bâti sur la même architecture et distribué sous une licence permissive, avait marqué les esprits par ses capacités rapportées et par un coût d'entraînement annoncé remarquablement bas.

Du côté d'Alibaba, la famille Qwen suivait une trajectoire comparable, explorant elle aussi les architectures éparses à experts et la diffusion ouverte de ses poids. En quelques mois, le mélange d'experts était passé du statut de technique de recherche à celui de standard opérationnel pour qui voulait proposer un modèle ouvert à la fois puissant et économe. Dans ce paysage, l'arrivée de Llama 4 apparaît comme la réponse d'un acteur majeur à une dynamique qu'il ne pouvait ignorer : la démonstration, faite par d'autres, qu'un modèle ouvert à experts pouvait rivaliser avec les systèmes fermés les plus en vue.

Nous sommes ravis de commencer à mettre Llama 4 entre toutes vos mains. Nous entendons déjà parler de nombreux excellents résultats obtenus avec ces modèles.
— Ahmad Al-Dahle, responsable de l'IA générative chez Meta, sur X, avril 2025

La question, jamais close, du sens de « ouvert »

Il faut, à ce stade, poser une distinction essentielle, souvent brouillée dans les discussions publiques : « poids ouverts » n'est pas synonyme de « logiciel libre » au sens strict. Meta décrit Llama 4 comme un ensemble de modèles à poids ouverts, ce qui signifie que les paramètres entraînés sont téléchargeables et utilisables, y compris pour des usages commerciaux. C'est une forme d'ouverture réelle et précieuse pour la communauté, qui peut inspecter, adapter et déployer ces modèles sur son propre matériel.

Pour autant, la licence qui accompagne Llama 4 — la Llama 4 Community License — n'entre pas dans la définition du logiciel libre telle que l'entend l'Open Source Initiative, l'organisation de référence en la matière. Cette licence introduit des conditions particulières : une clause visant les très grandes plateformes, tenues de demander une autorisation distincte à Meta au-delà d'un seuil de sept cents millions d'utilisateurs actifs mensuels, ainsi que des restrictions géographiques. L'Open Source Initiative rappelle qu'une licence véritablement libre suppose une redistribution sans permission et l'absence de discrimination entre catégories d'utilisateurs.

La licence Llama de Meta n'est toujours pas open source.
— Open Source Initiative, analyse publiée en 2025

La nuance mérite d'être tenue, non pour diminuer l'apport de Llama 4, mais pour le décrire justement. Des poids librement téléchargeables représentent une contribution majeure à un écosystème qui, sans ces modèles, dépendrait davantage de systèmes entièrement fermés. Reconnaître en même temps que la licence comporte des limites, et que ces modèles ne relèvent pas du logiciel libre au sens de l'Open Source Initiative, c'est simplement rendre compte fidèlement de ce qu'ils sont : ouverts, oui, mais selon des règles propres à Meta.

À retenir. — « Poids ouverts » n'est pas synonyme de logiciel libre. Les paramètres de Llama 4 sont téléchargeables et réutilisables, mais sa licence (Llama 4 Community License) ne satisfait pas la définition de l'Open Source Initiative : autorisation requise au-delà de 700 millions d'utilisateurs actifs mensuels et restrictions géographiques.

Ce que ça a apporté : de nouvelles briques pour la communauté

Au-delà des annonces, quel a été l'apport concret de Llama 4 ? Il tient en une phrase : mettre entre les mains de la communauté des modèles à experts, multimodaux et à longue mémoire, sous une forme téléchargeable et adaptable. Chacune de ces propriétés, prise isolément, existait déjà quelque part ; leur réunion dans une famille ouverte diffusée par un acteur de premier plan a des conséquences pratiques.

Un rapport puissance-coût repensé

Le premier apport est économique. Grâce au mélange d'experts, Scout et Maverick offrent une qualité de traitement élevée pour un coût d'inférence contenu. Scout, en particulier, tient sur un unique processeur graphique de forte capacité, ce qui abaisse la barrière matérielle pour les équipes qui souhaitent héberger le modèle elles-mêmes plutôt que de dépendre d'un service tiers. Cette possibilité de déploiement autonome est l'un des arguments majeurs des modèles ouverts : elle donne aux organisations la maîtrise de leurs données et de leur infrastructure.

Pour Maverick, le calcul est différent mais l'esprit identique. Un modèle de quatre cents milliards de paramètres reste exigeant à héberger, mais le fait de n'en activer que dix-sept milliards par jeton réduit sensiblement le coût de chaque requête par rapport à un modèle dense de taille équivalente. Meta insiste sur ce rapport entre performance et coût comme sur l'un des atouts distinctifs de Maverick.

La multimodalité ouverte à portée de main

Le deuxième apport tient à la multimodalité. Disposer de modèles multimodaux performants sous forme ouverte élargit l'éventail de ce que les développeurs peuvent construire sans dépendre exclusivement de services fermés. Un assistant capable de lire un tableau, d'analyser une capture d'écran ou de décrire une image, et que l'on peut faire tourner sur sa propre infrastructure, ouvre des usages dans des secteurs où la confidentialité des documents est une contrainte forte — santé, droit, industrie.

La fusion précoce n'est pas qu'un détail d'ingénierie : elle vise une compréhension plus homogène entre le texte et l'image. Pour les tâches où les deux modalités s'entremêlent — un document technique illustré, un formulaire scanné, une interface à interpréter —, cette intégration native promet une fluidité que les approches par assemblage atteignaient plus difficilement.

La très longue mémoire comme terrain d'expérimentation

Le troisième apport est la fenêtre de contexte étendue. Même en tenant compte des réserves déjà évoquées sur l'écart entre le chiffre annoncé et la performance réelle, mettre à disposition un modèle ouvert visant dix millions de jetons offre à la communauté un terrain d'expérimentation précieux. Les chercheurs et les praticiens peuvent explorer des usages fondés sur de très grands volumes de contexte, mesurer les limites concrètes, et faire progresser collectivement la compréhension de ce que ces longues fenêtres permettent réellement.

C'est l'une des vertus discrètes de l'ouverture : elle transforme une annonce en objet d'étude partagé. Là où un modèle fermé se donne à voir par ses seules démonstrations, un modèle téléchargeable se laisse ausculter, tester, comparer. La communauté peut vérifier, nuancer, prolonger — et c'est cette dynamique collective qui fait souvent avancer le domaine autant que les annonces elles-mêmes.

Cette possibilité d'inspection joue aussi un rôle de garde-fou. Un modèle dont les poids sont accessibles peut être soumis à des évaluations indépendantes, adapté à des langues ou à des domaines mal couverts, affiné sur des jeux de données spécifiques par des équipes qui n'ont pas les moyens d'entraîner un modèle depuis zéro. L'écosystème qui s'est constitué autour des séries Llama en témoigne : des milliers de variantes affinées, d'outils d'intégration et de projets dérivés se sont greffés sur ces modèles au fil des générations. En prolongeant cette tradition avec une base à experts et multimodale, Llama 4 a donné à ces contributeurs un point de départ plus capable, sur lequel bâtir des usages que Meta n'avait pas nécessairement anticipés.

L'héritage : une réception contrastée, lue posément

Toute histoire technique gagne à être racontée sans lissage. Llama 4 a été salué pour ses ambitions architecturales, mais sa réception a comporté une part de débat qu'il serait malhonnête de passer sous silence. La raconter posément, sans en faire ni un scandale ni un non-événement, fait partie du travail de ce média.

Le débat sur les tests comparatifs

Dans son billet d'annonce, Meta mettait en avant un résultat obtenu sur LMArena, une plateforme d'évaluation où des internautes comparent, à l'aveugle, les réponses de deux modèles et votent pour la meilleure. L'entreprise indiquait qu'une « version de discussion expérimentale » de Maverick y atteignait un score élevé, la plaçant en haut du classement. Le mot « expérimental » a son importance : la version soumise à la plateforme n'était pas identique au modèle à poids ouverts mis à disposition du public.

Des observateurs ont rapidement relevé cette différence. La variante testée sur LMArena produisait, selon les analyses, des réponses plus longues et davantage ornées, tandis que la version publique se montrait plus concise. Placé dans le classement sous sa forme standard, Maverick se situait plus bas que plusieurs modèles concurrents. Les responsables de LMArena ont réagi en ajustant leurs règles, désormais plus exigeantes sur la transparence des variantes soumises, et ont fait évaluer la version publique du modèle.

Il est tout simplement faux que nous ayons entraîné nos modèles sur des jeux de tests.
— Ahmad Al-Dahle, responsable de l'IA générative chez Meta, sur X, avril 2025

Meta a répondu à ces interrogations. Ahmad Al-Dahle, qui dirige l'IA générative de l'entreprise, a démenti l'idée que les modèles auraient été entraînés sur les jeux de tests eux-mêmes — une pratique qui fausserait les résultats. Il a expliqué la qualité variable observée par les premiers utilisateurs par le fait que les modèles avaient été diffusés dès qu'ils étaient prêts, et qu'il faudrait quelques jours pour que les différentes plateformes d'hébergement affinent leurs réglages. L'épisode illustre une difficulté structurelle du domaine : la mesure de la performance d'un modèle est elle-même un sujet délicat, et la comparaison entre systèmes exige des protocoles rigoureux et transparents.

Ce que l'épisode a fait bouger

Loin de n'être qu'une polémique passagère, ce débat a eu un effet durable et plutôt salutaire : il a renforcé l'exigence de transparence dans l'évaluation des modèles. La distinction entre une version optimisée pour un classement et la version réellement distribuée est désormais mieux comprise et mieux encadrée. Les plateformes d'évaluation ont resserré leurs règles ; les observateurs regardent d'un œil plus averti les scores mis en avant lors des annonces. C'est un progrès collectif, né d'une controverse, qui profite à l'ensemble de l'écosystème.

Il serait réducteur de résumer Llama 4 à cet épisode. La famille a apporté des briques architecturales concrètes — mélange d'experts, fusion précoce, longue mémoire — et les a rendues librement disponibles. Ces contributions ont nourri les travaux de la communauté bien au-delà des premiers jours de son lancement. L'histoire d'une technologie ne se juge pas à l'accueil de sa première semaine, mais à ce qu'elle rend possible sur la durée.

Behemoth et la suite du troupeau

Au moment de l'annonce, Behemoth était présenté comme le modèle le plus puissant de la famille, encore en entraînement, destiné à jouer le rôle d'enseignant pour ses cadets. Un modèle de près de deux mille milliards de paramètres au total illustre l'échelle que Meta était prête à atteindre. La trajectoire ultérieure de ce modèle enseignant, comme celle de toute la série, s'inscrit dans un domaine où les calendriers évoluent et où les priorités se réorientent au fil des mois. Ce qui importe pour notre récit, c'est le rôle assigné à Behemoth dès l'origine : concentrer une capacité maximale pour la transmettre, par distillation, à des modèles plus légers et plus faciles à déployer.

Comment on relit Llama 4 aujourd'hui

Avec le recul de 2026, Llama 4 se lit comme un jalon révélateur d'un moment charnière. Il condense trois tendances qui structurent désormais le domaine : la généralisation du mélange d'experts comme moyen de concilier puissance et efficacité ; la multimodalité pensée dès la conception plutôt que greffée après coup ; et l'allongement des fenêtres de contexte comme axe de progrès continu. En réunissant ces trois orientations dans une famille ouverte, Meta a mis à la disposition de la communauté des briques plus riches, et a contribué à faire de ces choix architecturaux des références partagées.

Le récit invite aussi à une leçon plus large sur la manière de lire les annonces techniques. La distinction entre poids ouverts et logiciel libre, l'écart entre un chiffre de contexte annoncé et sa performance effective, la différence entre une version optimisée pour un classement et le modèle réellement distribué : autant de nuances qui, une fois intégrées, rendent la lecture du domaine plus fine et plus juste. Llama 4 aura été, à cet égard, un cas d'école — moins par ses seuls chiffres que par les débats qu'il a suscités et les bonnes pratiques d'évaluation qu'il a contribué à consolider.

Reste l'essentiel : le 5 avril 2025, un acteur majeur a choisi de rendre publiquement disponibles des modèles à experts, multimodaux et à très longue mémoire. Dans un domaine où beaucoup de systèmes de pointe restent fermés, ce choix d'ouverture nourrit un écosystème vivant, où la communauté peut inspecter, adapter et construire. C'est cette contribution-là, faite de briques ouvertes et perfectibles, que l'on retient avec le plus de netteté lorsqu'on referme le dossier Llama 4.