Le 18 mai 2021, sur la scène virtuelle de Google I/O, Sundar Pichai a fait dialoguer son public avec deux interlocuteurs pour le moins inattendus : la planète naine Pluton, puis un avion en papier. Derrière ces deux personnages improbables se cachait un seul et même système, LaMDA — pour Language Model for Dialogue Applications. Interrogée sur ce que l'on ressent quand une sonde spatiale vient vous rendre visite, l'IA incarnant Pluton répondait avec un naturel troublant, enchaînant les répliques sans jamais suivre deux fois le même chemin. Aucune de ces réponses n'était écrite à l'avance. Pour beaucoup d'observateurs, c'était la première démonstration grand public d'une machine capable de tenir une conversation ouverte, sur n'importe quel sujet, avec la fluidité que l'on attend d'un partenaire humain.
Cet article propose une lecture posée de cette annonce. Nous allons décortiquer ce qu'est réellement LaMDA — un modèle de langage bâti sur l'architecture Transformer, mais spécialisé pour le dialogue —, comprendre pourquoi la conversation ouverte représente un défi si particulier, et examiner les métriques originales que Google met en avant pour mesurer la qualité d'un échange. L'objectif est de dépasser l'effet de scène pour saisir les choix d'ingénierie qui rendent une telle démonstration possible. Que vous soyez développeur, curieux de l'IA ou simplement intrigué par ces assistants qui parlent de mieux en mieux, cette analyse vous donne les clés pour comprendre où en est la recherche sur les agents conversationnels en cette année 2021.
Un mot de méthode, d'abord. Une démonstration sur scène, aussi réussie soit-elle, ne dit pas tout. Google présente LaMDA comme une avancée de recherche, pas comme un produit fini ; le système n'est pas encore intégré dans les applications grand public, et l'entreprise insiste elle-même sur les défis qui restent à résoudre. Nous garderons donc cette nuance à l'esprit : il s'agit d'une étape prometteuse, à évaluer pour ce qu'elle est, sans surinterprétation.
Pourquoi la conversation ouverte est un défi à part
Avant de plonger dans les rouages de LaMDA, il faut comprendre ce qui rend le dialogue si difficile pour une machine. La plupart des systèmes de traitement du langage sont conçus pour des tâches bien délimitées : traduire une phrase, résumer un texte, répondre à une question factuelle. Dans ces cas, l'entrée et la sortie attendue sont relativement cadrées. La conversation ouverte, elle, obéit à une logique tout autre.
Une discussion libre peut commencer par la météo et finir par une réflexion sur le sens de la vie, en passant par une anecdote de vacances. Chaque réplique dépend de tout ce qui précède, mais rien ne garantit que le sujet de départ ait le moindre rapport avec celui d'arrivée. Un agent conversationnel doit donc suivre le fil, rester cohérent avec le contexte accumulé, et pourtant accepter que la conversation dérive, bifurque, rebondisse. C'est un exercice d'équilibre permanent entre mémoire du passé et ouverture à l'imprévu.
À cette difficulté structurelle s'ajoutent des exigences de qualité qui n'ont rien d'évident à formaliser. Une bonne réponse conversationnelle ne se contente pas d'être grammaticalement correcte. Elle doit avoir du sens dans le contexte, apporter quelque chose de précis plutôt qu'une banalité passe-partout, et idéalement susciter l'intérêt de l'interlocuteur. Or ces qualités — le bon sens, la pertinence, l'intérêt — sont précisément celles qu'une machine peine à saisir, car elles reposent sur une compréhension fine de la situation et une culture générale étendue.
De Meena à LaMDA : une filiation assumée
LaMDA n'apparaît pas dans le vide. Il prolonge une ligne de recherche que Google poursuit depuis plusieurs années sur les agents conversationnels ouverts. En 2020, le laboratoire avait déjà présenté Meena, un modèle de dialogue de 2,6 milliards de paramètres entraîné de bout en bout sur 341 gigaoctets de conversations issues du web. Meena avait introduit une idée qui allait faire son chemin : plutôt que de juger un chatbot sur des critères techniques abstraits, mesurer directement la qualité perçue de ses réponses par des évaluateurs humains.
Pour cela, Meena s'appuyait sur une métrique baptisée SSA (Sensibleness and Specificity Average), moyenne de deux jugements simples : la réponse a-t-elle du sens ? Est-elle spécifique, c'est-à-dire apporte-t-elle quelque chose de précis, ou se réfugie-t-elle dans une généralité ? Meena atteignait un score SSA de 72 %, selon les chercheurs de Google, à comparer aux 86 % obtenus par un humain moyen sur le même protocole. L'écart restait net, mais la marche était franchie : une métrique centrée sur l'humain venait remplacer les seuls indicateurs statistiques.
LaMDA hérite directement de cette philosophie et la pousse plus loin. Là où Meena mesurait le sens et la spécificité, LaMDA ajoute une troisième dimension et introduit des critères de sécurité et d'ancrage factuel. Cette continuité est importante à souligner : les avancées de LaMDA ne sortent pas de nulle part, elles résultent d'un travail patient d'accumulation, où chaque génération de modèle corrige les faiblesses de la précédente.
La conversation ouverte n'est pas une tâche de plus : c'est un problème dont la solution ne se laisse enfermer dans aucune consigne fixe. Tout l'enjeu est d'apprendre à la machine ce qui fait une « bonne » réponse quand il n'existe pas de réponse unique.
L'architecture : un Transformer taillé pour le dialogue
Sous le capot, LaMDA repose sur une fondation désormais familière dans le monde de l'IA : le Transformer. Cette architecture de réseau de neurones, inventée et publiée par les chercheurs de Google en 2017, a bouleversé le traitement du langage. Elle est au cœur des grands modèles récents, de BERT à GPT-3, et LaMDA s'inscrit dans cette lignée.
Ce qui distingue le Transformer, c'est son mécanisme d'attention, qui permet au modèle de pondérer l'importance de chaque mot d'une séquence par rapport à tous les autres. Au lieu de lire un texte strictement de gauche à droite, mot après mot, le réseau peut établir des liens à distance entre des éléments éloignés d'une phrase ou d'un paragraphe. C'est cette capacité à saisir les dépendances longues qui rend le Transformer si efficace pour modéliser le langage — et, dans le cas d'une conversation, pour relier une réplique à ce qui a été dit plusieurs tours plus tôt.
Une spécialisation par l'entraînement
LaMDA se singularise moins par son architecture que par ce sur quoi il a été entraîné. Là où un modèle de langage généraliste apprend sur un vaste corpus de texte issu du web, LaMDA a été spécifiquement nourri de dialogues. C'est un point décisif : en s'entraînant sur des conversations, le modèle assimile les nuances propres à l'échange humain — les tours de parole, les relances, les changements de sujet, la manière dont une réponse s'accroche à une question.
Concrètement, LaMDA est pré-entraîné sur un corpus de 1 560 milliards de mots, mêlant documents et dialogues publics. Cette phase de pré-entraînement dote le modèle d'une connaissance générale du langage et du monde. Mais elle ne suffit pas à produire un bon interlocuteur : un modèle brut, laissé à lui-même, génère volontiers des réponses qui font sens grammaticalement mais restent vagues, hors sujet, ou parfois problématiques. C'est la seconde phase, celle de l'affinage, qui transforme ce socle en agent conversationnel.
Ce mécanisme en deux temps mérite qu'on s'y arrête, car il structure toute la conception de LaMDA. Le pré-entraînement fonctionne de manière classique : on présente au modèle d'immenses quantités de texte et on lui demande de prédire le mot suivant, encore et encore, jusqu'à ce qu'il ait intériorisé les régularités du langage. À l'issue de cette étape, le modèle sait former des phrases plausibles, mais il ne sait pas encore ce qui distingue une bonne réponse conversationnelle d'une mauvaise. L'affinage vient précisément combler ce manque. Google génère pour cela des données d'affinage à partir de réponses annotées par des évaluateurs humains, jugées selon leur sensibilité, leur intérêt et leur sûreté. Le modèle apprend ainsi, à partir d'exemples soigneusement notés, à privilégier les réponses de qualité et à écarter celles qui posent problème.
Cette organisation illustre une idée qui s'impose progressivement dans le domaine : la valeur d'un modèle de langage ne réside pas seulement dans la masse de texte ingérée pendant le pré-entraînement, mais aussi, et peut-être surtout, dans la qualité de l'affinage qui vient ensuite l'orienter. Un socle brut, aussi vaste soit-il, reste un matériau à sculpter. L'affinage est le ciseau qui donne sa forme à l'agent conversationnel.
La taille du modèle
En matière d'échelle, LaMDA se décline en plusieurs tailles, dont la plus grande atteint 137 milliards de paramètres, selon le rapport technique de Google (Thoppilan et al., 2022). Ce modèle compte 64 couches et 128 têtes d'attention. Ces chiffres le placent dans la catégorie des très grands modèles de langage de l'époque, dans le même ordre de grandeur que GPT-3 et ses 175 milliards de paramètres.
Il faut toutefois se garder d'une lecture purement quantitative. Le nombre de paramètres n'est pas une fin en soi ; ce qui compte, c'est ce que le modèle fait de sa capacité. Les recherches de Google montrent d'ailleurs un enseignement nuancé : augmenter la taille du modèle améliore bien la qualité des réponses, mais cette amélioration seule ne suffit pas à résoudre les problèmes de sécurité et d'ancrage factuel. Sur ces deux dimensions cruciales, c'est l'affinage — et non la simple montée en échelle — qui apporte les gains les plus nets. Autrement dit, un modèle plus gros parle mieux, mais ce n'est pas la taille qui le rend plus sûr ou plus factuel. Voilà une leçon d'ingénierie qui va à rebours de l'idée reçue selon laquelle « plus grand vaut toujours mieux ».
À retenir. Un modèle plus gros parle mieux, mais la taille ne le rend ni plus sûr ni plus factuel. Sur la sécurité et l'ancrage factuel, c'est l'affinage — pas la montée en échelle — qui produit les gains les plus nets. Le nombre de paramètres n'est donc pas une fin en soi.
Mesurer une conversation : sensé, spécifique, intéressant
C'est peut-être la contribution la plus originale de LaMDA : sa manière de définir et de mesurer ce qu'est une bonne réponse. Le modèle est évalué selon un ensemble de métriques centrées sur l'humain, dont trois forment le cœur de la qualité conversationnelle, résumées par l'acronyme SSI.
- Sensé (sensibleness) : la réponse a-t-elle du sens dans le contexte de la conversation ? Est-elle logiquement cohérente avec ce qui a été dit ? C'est le socle : une réponse qui contredit le contexte ou qui n'a aucun sens échoue d'emblée.
- Spécifique (specificity) : la réponse est-elle précise et adaptée à cet échange particulier, ou pourrait-elle s'appliquer à n'importe quelle conversation ? Une réponse comme « c'est intéressant » est peut-être sensée, mais elle n'est pas spécifique — elle conviendrait à mille contextes différents.
- Intéressant (interestingness) : la réponse apporte-t-elle quelque chose qui capte l'attention, qui donne envie de poursuivre l'échange ? C'est la dimension la plus subtile, celle qui distingue une conversation fonctionnelle d'une conversation véritablement engageante.
Ces critères peuvent sembler subjectifs, et ils le sont en partie. C'est pourquoi Google les mesure non pas de façon automatique, mais en faisant appel à des évaluateurs humains. Pour chaque réponse produite par le modèle dans un contexte donné, des annotateurs jugent si elle est sensée, spécifique et intéressante, en répondant par « oui », « non » ou « peut-être ». Une réponse n'est comptée comme réussie sur un critère que si au moins trois évaluateurs sur cinq l'ont validée. Ce seuil majoritaire limite les jugements isolés et donne une mesure plus robuste.
À retenir. Une réponse n'est validée sur un critère que si au moins 3 évaluateurs sur 5 l'ont approuvée. Ce seuil majoritaire est aussi ce qui distingue l'évaluation de LaMDA d'une mesure purement statistique comme la perplexité : on juge la qualité perçue, pas la « surprise » du modèle.
Le recours à des évaluateurs humains n'est pas un détail méthodologique : c'est un choix de fond. Les mesures purement automatiques, comme la perplexité — qui quantifie à quel point le modèle est « surpris » par le texte qu'il prédit —, ont l'avantage d'être rapides et reproductibles, mais elles corrèlent imparfaitement avec la qualité perçue d'une conversation. Un modèle peut afficher une perplexité flatteuse tout en produisant des réponses fades ou hors sujet. En plaçant le jugement humain au cœur de l'évaluation, Google accepte un protocole plus lourd et plus coûteux, mais aussi plus fidèle à ce qui compte vraiment pour l'utilisateur final. C'est un arbitrage assumé en faveur de la pertinence réelle plutôt que de la commodité de mesure.
Ce cadre d'évaluation trace aussi une continuité avec Meena, dont la métrique SSA reposait déjà sur les deux mêmes premières questions — la réponse a-t-elle du sens, est-elle spécifique ? En y ajoutant l'intérêt, la sécurité et l'ancrage factuel, LaMDA élargit la grille sans en renier les fondations. On perçoit ici la manière de travailler de l'équipe : conserver ce qui a fait ses preuves, et l'enrichir dimension après dimension plutôt que de repartir d'une feuille blanche.
Un progrès mesurable avec l'échelle
Les résultats obtenus montrent une tendance claire : les métriques de qualité s'améliorent avec le nombre de paramètres du modèle, que l'on applique ou non la phase d'affinage. La montée en échelle aide donc réellement la conversation. Mais — et c'est là toute la finesse de l'analyse — la combinaison de la taille et de l'affinage donne de bien meilleurs résultats que la taille seule. L'affinage sur des données annotées apporte un supplément de qualité que le pré-entraînement, aussi massif soit-il, ne procure pas.
Cette distinction éclaire une question qui traverse toute la recherche sur les modèles de langage. Faut-il miser sur des modèles toujours plus grands, ou sur des méthodes d'entraînement plus fines ? LaMDA suggère qu'il ne s'agit pas d'un choix exclusif : les deux leviers se complètent, et négliger l'affinage revient à laisser une part importante de la qualité sur la table.
Trois questions suffisent à cerner une bonne réponse : a-t-elle du sens, est-elle précise, donne-t-elle envie de continuer ? La force de LaMDA tient autant à ces critères simples qu'à la manière rigoureuse de les mesurer.
Sécurité et ancrage factuel : les deux grands défis
Au-delà de la qualité de la conversation, Google identifie deux enjeux qu'il place au premier plan de ses travaux sur LaMDA : la sécurité et l'ancrage factuel. Ce sont, de l'aveu même des chercheurs, les deux défis les plus délicats à relever pour rendre un agent conversationnel véritablement fiable.
La sécurité des réponses
Un modèle entraîné sur d'immenses volumes de texte issu du web reflète inévitablement les contenus qu'il a absorbés, y compris les plus problématiques. Sans garde-fou, un agent conversationnel peut produire des réponses inappropriées, biaisées ou nuisibles. Pour y remédier, LaMDA est affiné à l'aide d'un ensemble d'objectifs de sécurité, dérivés de valeurs que Google cherche à inscrire dans le comportement du modèle. Des données annotées permettent au système d'apprendre à éviter certaines catégories de réponses. Il ne s'agit pas d'un problème résolu — Google le présente explicitement comme un chantier de long terme —, mais d'une direction de travail assumée dès la conception.
L'ancrage dans des faits vérifiables
Le second défi est peut-être le plus fascinant sur le plan technique. Un modèle de langage génère du texte plausible, mais rien ne garantit que ce qu'il affirme soit exact. Il peut inventer des faits avec le même aplomb qu'il énonce des vérités. Pour un agent conversationnel censé informer, c'est une limite majeure.
La réponse de Google consiste à doter LaMDA d'une capacité de consultation de sources externes. Plutôt que de s'en remettre uniquement à ce qu'il a mémorisé pendant l'entraînement, le modèle peut interroger des systèmes de recherche d'information pour vérifier ou compléter ses affirmations. C'est le principe de l'augmentation par récupération : au lieu de tout stocker dans ses paramètres, l'agent va chercher l'information à la source au moment de répondre. Les recherches montrent que cette approche, combinée à l'affinage sur données annotées, améliore sensiblement l'ancrage factuel des réponses.
L'intérêt de cette approche dépasse la simple exactitude. Un modèle capable de citer ses sources ou de s'appuyer sur des informations vérifiables inspire davantage confiance, et ouvre la voie à des usages où la précision compte — assistance à la recherche, réponse à des questions factuelles, aide à la décision. C'est une brique d'ingénierie qui répond directement à l'une des critiques les plus fondées adressées aux modèles de langage.
Il vaut la peine de distinguer deux façons pour un modèle de « savoir » quelque chose. La première est la connaissance paramétrique : les faits absorbés pendant l'entraînement et encodés dans les poids du réseau. Cette connaissance est pratique — elle est immédiatement disponible — mais elle est figée à la date de l'entraînement et impossible à vérifier au moment de la réponse. La seconde est la connaissance récupérée : l'information que le modèle va chercher, à la demande, dans une source externe. En combinant les deux, LaMDA peut s'appuyer sur sa culture générale tout en confrontant ses affirmations à des sources actualisées. C'est cette articulation qui permet d'améliorer l'ancrage sans sacrifier la fluidité de la conversation.
On mesure ici que sécurité et factualité ne sont pas des correctifs plaqués après coup, mais des objectifs intégrés à la démarche d'affinage elle-même. Le modèle n'apprend pas seulement à bien parler ; il apprend, sur les mêmes données annotées, à bien parler en restant dans les clous. Cette imbrication est sans doute ce qui distingue le plus nettement un agent conversationnel de recherche d'un simple générateur de texte : la qualité et la responsabilité y sont pensées ensemble, du début à la fin.
À retenir. La sûreté et la factualité ne sont pas des correctifs ajoutés après coup : ce sont des objectifs intégrés à l'affinage lui-même. C'est ce trait — et non la seule fluidité du discours — qui distingue un agent conversationnel de recherche d'un simple générateur de texte.
La démonstration de Google I/O : Pluton et l'avion en papier
Revenons à la scène de Google I/O, car elle illustre mieux que tout discours ce que LaMDA sait faire. Pour rendre tangible la notion de conversation ouverte, Sundar Pichai a choisi deux mises en situation volontairement décalées : faire incarner par le modèle deux personnages qui, par nature, ne parlent pas.
Dans le premier échange, LaMDA jouait le rôle de Pluton, répondant aux questions d'un enfant curieux sur ce que l'on ressent quand on est une planète naine aux confins du système solaire. Le modèle évoquait la visite d'une sonde spatiale, la froideur de l'espace, avec une cohérence et une personnalité qui donnaient l'illusion d'un véritable interlocuteur. Dans le second, LaMDA se glissait dans la peau d'un avion en papier, racontant ses pires expériences de vol.
Ce qui rend ces démonstrations remarquables, c'est le point souligné par Pichai lui-même : aucune de ces réponses n'était pré-écrite ni codée en dur. Le modèle synthétisait des concepts issus de ses données d'entraînement — les caractéristiques de Pluton, la mécanique du vol — pour composer des répliques originales à la volée. La conversation restait ouverte, ne prenant jamais deux fois le même chemin. C'est cette générativité, cette capacité à improviser tout en restant cohérent, qui distingue LaMDA d'un chatbot classique fondé sur des scénarios prédéfinis.
Il faut néanmoins garder la tête froide. Une démonstration soignée, préparée pour la scène, ne préjuge pas du comportement du modèle dans toutes les situations. Google le reconnaît volontiers : LaMDA reste un projet de recherche, et l'entreprise continue de travailler sur ses limites, notamment en matière de sécurité et de factualité. La prudence n'enlève rien à l'intérêt de l'avancée ; elle invite simplement à distinguer la promesse de recherche de l'application déployée.
LaMDA dans la stratégie IA de Google
LaMDA n'est pas une annonce isolée. Le même jour, à Google I/O, l'entreprise dévoilait un autre modèle ambitieux, MUM (Multitask Unified Model), destiné à améliorer la recherche en comprenant des requêtes complexes à travers différentes langues et formats. Ces annonces conjointes traduisent une orientation stratégique nette : Google mise résolument sur les grands modèles de langage pour la prochaine génération de ses produits.
La logique se comprend aisément. Google a bâti son empire sur la recherche d'information et l'organisation du savoir mondial. Or les modèles conversationnels comme LaMDA promettent une manière radicalement nouvelle d'accéder à cette information : non plus par une liste de liens, mais par le dialogue. Imaginer un jour interroger un système en langage naturel, obtenir une réponse synthétique et pouvoir rebondir par des questions de suivi — c'est une évolution qui touche au cœur du métier historique de l'entreprise.
Google indique que LaMDA a le potentiel de rendre l'information et l'informatique plus accessibles, en permettant d'interagir avec les systèmes de la manière la plus naturelle qui soit : en parlant. On peut imaginer son intégration future dans l'Assistant, dans la recherche, ou dans d'autres services. Mais l'entreprise reste mesurée sur le calendrier. Elle insiste sur le fait que ces capacités doivent d'abord répondre à ses exigences en matière de sécurité et d'ancrage factuel avant tout déploiement large. C'est une posture prudente, qui reconnaît que la fiabilité d'un agent conversationnel grand public ne se décrète pas — elle se construit.
Ce que cela dit de l'état de la recherche
Au-delà de Google, l'annonce de LaMDA s'inscrit dans un moment particulier de la recherche en IA. Depuis l'arrivée du Transformer en 2017, puis des grands modèles de langage comme BERT en 2018 et GPT-3 en 2020, le domaine connaît une accélération remarquable. Chaque année apporte son lot de modèles plus grands, mieux entraînés, capables de tâches jugées hors de portée peu de temps auparavant.
LaMDA apporte une pierre spécifique à cet édifice : la spécialisation pour le dialogue, et surtout la formalisation de critères de qualité conversationnelle mesurables. En proposant des métriques comme la sensibilité, la spécificité et l'intérêt, et en s'attaquant frontalement à la sécurité et à l'ancrage factuel, Google contribue à structurer un champ encore jeune. Ces critères pourraient bien devenir des références partagées, au-delà de LaMDA lui-même, pour évaluer toute la génération d'agents conversationnels qui s'annonce.
Ce que LaMDA change, concrètement
Que retenir, à ce stade, de cette annonce ? D'abord, que la conversation ouverte cesse d'être un horizon lointain pour devenir un objet de recherche tangible, avec des résultats démontrables. LaMDA ne résout pas tout, mais il prouve qu'une machine peut tenir un échange libre, cohérent et engageant sur une grande variété de sujets — et cela, sans script.
Ensuite, que la qualité d'un agent conversationnel peut se mesurer autrement que par des indicateurs techniques abstraits. En plaçant le jugement humain au centre — a-t-elle du sens, est-elle précise, est-elle intéressante ? —, Google propose une grille de lecture intuitive et exigeante. C'est un déplacement salutaire : on évalue le modèle sur ce qui compte vraiment pour l'utilisateur, la qualité perçue de l'échange.
Enfin, que les vrais défis sont nommés sans détour. La sécurité et l'ancrage factuel ne sont pas balayés d'un revers de main ; ils sont identifiés comme les obstacles centraux, et abordés par des méthodes concrètes — affinage sur données annotées, consultation de sources externes. Cette lucidité est une bonne nouvelle. Elle indique que la recherche avance les yeux ouverts sur ses limites, ce qui est la meilleure garantie d'un progrès durable.
Pour un observateur de l'IA, la bonne posture n'est ni l'émerveillement béat devant une démonstration de scène, ni le scepticisme de principe. C'est la curiosité informée : comprendre les mécanismes — Transformer, entraînement sur dialogues, métriques centrées sur l'humain, augmentation par récupération — qui rendent une telle avancée possible. Ces briques ne sont pas la propriété d'un seul laboratoire ; elles appartiennent au socle commun de la discipline, et elles définiront la manière dont nous dialoguerons avec les machines dans les années à venir. C'est tout l'intérêt de suivre cette actualité en acteur éclairé plutôt qu'en spectateur ébloui.
Testez votre compréhension de LaMDA
1. Que mesure le critère « Sensé » (sensibleness) dans le triptyque SSI ?
2. À quel seuil une réponse est-elle comptée comme réussie sur un critère SSI ?
3. Que apporte l'affinage, par rapport au pré-entraînement ?
4. Qu'est-ce qui distingue la « connaissance récupérée » de la « connaissance paramétrique » ?
5. Que conclut l'article sur l'effet de la taille du modèle ?
Avec le recul
Écrit au moment de l'annonce de mai 2021, cet article ne pouvait mesurer la trajectoire qui allait suivre. Un mot s'impose donc, depuis 2026, pour situer LaMDA dans la longue durée.
Le rapport technique détaillé de LaMDA a été publié en janvier 2022, confirmant les caractéristiques présentées à Google I/O. L'année suivante, à Google I/O 2022, une seconde version, LaMDA 2, était dévoilée, accompagnée de l'application AI Test Kitchen destinée à ouvrir un accès encadré au modèle à un public restreint. Puis LaMDA a servi de socle au premier assistant conversationnel grand public de Google, avant d'être remplacé par des modèles de fondation plus récents, à commencer par PaLM 2 en 2023, puis par la famille de modèles qui a unifié les efforts de Google dans ce domaine. LaMDA aura ainsi été une étape charnière : le pont entre les premières recherches sur le dialogue, comme Meena, et les assistants conversationnels que nous utilisons aujourd'hui. Les critères qu'il a contribué à formaliser — le sens, la spécificité, l'intérêt, l'ancrage factuel — restent, eux, tout à fait d'actualité.
Sources
Cet article s'appuie sur des sources publiques et vérifiables :
- Google, « LaMDA: our breakthrough conversation technology » — blog.google (annonce officielle, architecture Transformer, entraînement sur le dialogue).
- Thoppilan et al., « LaMDA: Language Models for Dialog Applications » — arXiv 2201.08239 (137 milliards de paramètres, 1,56 billion de mots, métriques SSI, sécurité, ancrage factuel).
- Google Research, « LaMDA: Towards Safe, Grounded, and High-Quality Dialog Models for Everything » — research.google (protocole d'évaluation, augmentation par récupération).
- VentureBeat, « Google demos LaMDA, a next-generation AI for dialogue » — venturebeat.com (démonstration Pluton et avion en papier à Google I/O).
- Voicebot.ai, « Google Upgrades Conversational AI at Google I/O 2021 With LaMDA and MUM » — voicebot.ai (contexte de l'annonce, MUM).
- Google Research, « Towards a Conversational Agent that Can Chat About…Anything » (Meena) — research.google (prédécesseur Meena, métrique SSA, 2,6 milliards de paramètres).
- Wikipedia, « LaMDA » — en.wikipedia.org (synthèse, chronologie, filiation vers les modèles ultérieurs).