DALL-E 1 : OpenAI fait naître les images à partir de simples mots

Le 5 janvier 2021, OpenAI a présenté au public un modèle qui semblait relever de la science-fiction : DALL-E, un système capable de dessiner une image à partir d'une simple phrase. Tapez « un fauteuil en forme d'avocat », et l'ordinateur vous propose non pas une, mais des dizaines de variations plausibles d'un siège vert charnu, avec parfois un noyau en guise de coussin. La démonstration a fait le tour du monde en quelques heures. Derrière cette prouesse ludique se cache une idée profonde : une machine peut apprendre à relier les mots aux formes visuelles, et inventer des images de choses qu'elle n'a jamais vues.

Cet article propose une plongée dans DALL-E, ce premier modèle texte-image grand public d'OpenAI. Nous allons décortiquer son fonctionnement — comment un cousin de GPT-3 apprend à « écrire » des images, ce qu'est un autoencodeur variationnel discret, pourquoi le modèle CLIP publié le même jour joue un rôle discret mais décisif — et replacer cette annonce dans la lignée des travaux qui l'ont rendue possible. L'objectif est simple : comprendre pourquoi cette étape compte, au-delà de l'effet de curiosité, et ce qu'elle laisse entrevoir pour l'avenir de la création assistée par ordinateur.

Un mot de méthode d'abord. DALL-E est un objet spectaculaire, et il serait facile de s'en tenir aux images amusantes qu'il produit. Mais l'essentiel est ailleurs : dans la manière dont ce modèle formule le problème de la génération d'images, et dans ce que cette formulation doit aux avancées récentes du traitement du langage. C'est cette continuité, du texte vers l'image, que nous voulons éclairer.

D'où vient DALL-E : la lignée des grands transformeurs

Avant de plonger dans les rouages, il faut situer le contexte. DALL-E n'est pas apparu de nulle part. Il est l'aboutissement d'une trajectoire de recherche cohérente, menée par OpenAI depuis plusieurs années autour d'une conviction : entraîner de très grands modèles sur de très grandes quantités de données produit des capacités inattendues.

L'année précédente, en 2020, OpenAI avait dévoilé GPT-3, un modèle de langage de 175 milliards de paramètres qui avait marqué les esprits par sa capacité à rédiger, traduire ou répondre à des questions à partir de quelques exemples fournis dans la consigne. GPT-3 reposait sur l'architecture du transformeur, devenue depuis 2017 le socle du traitement automatique du langage. Le principe de cette architecture est d'une élégance redoutable : traiter le texte comme une suite de jetons — de petits fragments de mots appelés tokens — et apprendre à prédire le jeton suivant à partir de tous ceux qui précèdent. En répétant cet exercice sur des milliards de phrases, le modèle finit par capturer une grande part de la structure du langage.

L'intuition qui a présidé à DALL-E est la suivante : et si l'on appliquait exactement la même recette, non plus au seul texte, mais à la combinaison du texte et des images ? Si un transformeur peut apprendre à prédire le mot suivant, pourquoi ne pourrait-il pas apprendre à prédire le morceau d'image suivant ? C'est cette transposition, du langage vers le visuel, qui constitue le cœur de DALL-E.

Un précédent essentiel : Image GPT

Cette idée ne sortait pas non plus du néant. En 2020, OpenAI avait déjà publié Image GPT, une expérience où un transformeur était entraîné à générer des images pixel par pixel, comme il aurait généré du texte caractère par caractère. Le résultat, quoique modeste en résolution, démontrait un point crucial : la même architecture qui excelle sur le langage sait aussi produire des images cohérentes, pour peu qu'on lui présente les pixels comme une séquence à compléter.

Image GPT avait toutefois une limite pratique de taille. Traiter une image pixel par pixel est extraordinairement coûteux : une image de 256 pixels de côté compte plus de 65 000 pixels, chacun décrit par plusieurs valeurs de couleur. Générer une telle séquence, jeton par jeton, dépasse rapidement les capacités des accélérateurs. DALL-E devait donc résoudre ce problème de coût avant de pouvoir passer à l'échelle. La solution est venue d'une compression intelligente de l'image, sur laquelle nous reviendrons en détail. Retenons pour l'instant qu'Image GPT a joué le rôle de preuve de concept : il a montré la voie, et DALL-E l'a empruntée en la rendant praticable.

La grande idée de DALL-E n'est pas de traiter les images comme des images, mais de les traiter comme un langage — une suite de jetons que l'on apprend à compléter.

Comment DALL-E fabrique une image à partir de mots

Entrons maintenant dans le mécanisme. DALL-E est décrit par OpenAI comme une version à 12 milliards de paramètres de GPT-3, entraînée pour générer des images à partir de descriptions textuelles, sur un vaste ensemble de paires texte-image collectées sur Internet. Ce chiffre de 12 milliards mérite d'être noté : c'est considérable, mais bien plus modeste que les 175 milliards de GPT-3. DALL-E est, en un sens, un petit frère de GPT-3, spécialisé dans une tâche différente.

Le principe de fonctionnement repose sur une idée unificatrice : traiter le texte et l'image comme un seul et même flux de jetons. La phrase de description est convertie en jetons de texte, puis l'image est convertie en jetons visuels, et le modèle apprend à prédire la suite de ce flux. Concrètement, on lui présente d'abord la légende, puis on lui demande de générer, jeton après jeton, les morceaux de l'image qui correspondent à cette légende. C'est le même geste que la complétion de texte, appliqué à une séquence mixte.

Le rôle clé de l'autoencodeur variationnel discret

Reste le problème du coût, hérité d'Image GPT : une image brute contient beaucoup trop de pixels pour être traitée directement. C'est ici qu'intervient la pièce maîtresse de l'architecture, l'autoencodeur variationnel discret, ou dVAE (pour discrete variational autoencoder). Son rôle est de compresser drastiquement l'image en une poignée de jetons manipulables.

Le principe se comprend par analogie. Imaginez que vous vouliez décrire un tableau non pas en énumérant chaque pixel, mais en utilisant un vocabulaire fixe de motifs visuels — un peu comme on décrirait une mosaïque en nommant chaque tuile piochée dans un catalogue limité. C'est exactement ce que fait le dVAE. Selon les descriptions techniques publiées, il compresse chaque image de 256×256 pixels en une grille de 32×32 jetons discrets, soit 1 024 jetons visuels au total, chacun choisi dans un « dictionnaire » de 8 192 entrées possibles. On passe ainsi de dizaines de milliers de pixels à un peu plus de mille jetons — une réduction spectaculaire qui rend la génération enfin abordable.

Résumons le pipeline en trois temps :

• D'abord, le dVAE apprend à traduire n'importe quelle image en une courte séquence de 1 024 jetons visuels, et inversement à reconstituer une image plausible à partir de ces jetons ;
• Ensuite, le grand transformeur de 12 milliards de paramètres apprend, sur des paires texte-image, à prédire cette séquence de jetons visuels à partir des jetons de la légende ;
• Enfin, à l'usage, on fournit une légende, le transformeur génère les jetons visuels correspondants, et le dVAE les retransforme en une image finale.

Ce découpage en deux étages — compression par le dVAE, puis génération par le transformeur — est l'astuce d'ingénierie qui rend DALL-E viable. Sans la compression, il faudrait générer des dizaines de milliers de pixels ; avec elle, un peu plus de mille jetons suffisent. C'est la même logique que celle d'un format d'image compressé, mais mise au service de la génération plutôt que du stockage.

Pourquoi « discret » et « variationnel » ?

Les deux qualificatifs de l'autoencodeur méritent une explication, car ils portent chacun une idée précise. Un autoencodeur classique est un réseau en deux parties : un encodeur qui comprime une donnée en une représentation compacte, et un décodeur qui tente de reconstituer la donnée d'origine à partir de cette représentation. En entraînant l'ensemble à minimiser l'écart entre l'image de départ et sa reconstruction, on force le réseau à découvrir une représentation économe mais informative — un condensé fidèle de l'image.

Le terme discret précise la nature de ce condensé. Au lieu de représenter l'image par des nombres continus, le dVAE la représente par des jetons choisis dans un catalogue fini — ici, les 8 192 entrées du dictionnaire. Cette discrétisation est cruciale : elle rend la représentation compatible avec un transformeur, qui manipule précisément des suites de jetons issus d'un vocabulaire fini, exactement comme les mots d'une phrase. C'est ce pont entre le monde continu des pixels et le monde discret des jetons qui permet de traiter l'image « comme du texte ».

Quant au caractère variationnel, il renvoie à une famille de techniques qui apprennent non pas une représentation figée, mais une distribution de représentations plausibles. Cette souplesse aide le modèle à généraliser et à produire des variations, plutôt que de mémoriser mécaniquement chaque image d'entraînement. Sans entrer dans les détails mathématiques, retenons que cette propriété contribue à la diversité et à la créativité des sorties du système.

Générer plusieurs candidats, puis choisir le meilleur

Un modèle génératif de ce type ne produit pas une réponse unique et définitive. Pour une même légende, il peut échantillonner de nombreuses images différentes, toutes cohérentes avec la description mais variées dans leur exécution. DALL-E exploite cette propriété : pour une consigne donnée, il génère un grand nombre de candidats, puis un mécanisme de sélection retient les images les plus fidèles à la légende.

C'est ici qu'intervient le second modèle publié par OpenAI le même jour, dont nous allons parler maintenant, et qui joue le rôle de juge de qualité.

CLIP : le juge discret qui améliore les résultats

Le 5 janvier 2021, OpenAI n'a pas annoncé un, mais deux modèles. Aux côtés de DALL-E, dans un billet de blog distinct publié le même jour, l'équipe a présenté CLIP, pour Contrastive Language-Image Pre-training. Moins spectaculaire au premier regard, CLIP est pourtant une pièce essentielle de l'ensemble, et son influence sur la suite du domaine sera considérable.

CLIP est un réseau de neurones dont la spécialité est d'évaluer à quel point une image et un texte vont ensemble. Donnez-lui une image et un ensemble de légendes possibles, et il vous indiquera laquelle décrit le mieux cette image. Il a été entraîné, selon OpenAI, sur environ 400 millions de paires image-texte collectées sur Internet, ce qui lui confère une compréhension très large du lien entre le langage et le contenu visuel.

Une méthode d'entraînement par contraste

La méthode d'entraînement de CLIP mérite une explication, car elle est à la fois simple et féconde. Plutôt que d'apprendre à classer les images dans des catégories fixes, CLIP apprend à rapprocher, dans un espace commun, chaque image de la légende qui l'accompagne, tout en éloignant les paires qui ne correspondent pas. C'est le sens du mot « contrastif » : le modèle apprend par contraste, en distinguant les bonnes associations des mauvaises. À l'issue de cet entraînement, images et textes vivent dans un même espace de représentation, où la proximité mesure la pertinence sémantique.

Cette approche a une conséquence remarquable : CLIP sait reconnaître des concepts sur lesquels il n'a pas été explicitement entraîné, simplement en comparant une image à des descriptions textuelles libres. On parle de capacité « zéro-shot », c'est-à-dire sans exemple spécifique préalable. C'est une propriété que DALL-E partage, et qui constitue le fil rouge de cette annonce.

Le rôle de CLIP dans la chaîne de DALL-E

Concrètement, CLIP sert à trier les images produites par DALL-E. Une fois que le transformeur a généré de nombreux candidats pour une légende, CLIP évalue chacun d'eux et attribue un score de correspondance avec la description demandée. Les images les mieux notées sont retenues et présentées. Ce mécanisme de reclassement améliore nettement la qualité perçue : au lieu de montrer une image médiocre, on montre la meilleure d'un large lot.

On peut résumer la collaboration entre les deux modèles par une image simple : DALL-E est l'artiste prolifique qui esquisse cent variations, et CLIP est le directeur artistique qui sélectionne les plus réussies. L'un crée, l'autre juge. Ensemble, ils produisent un résultat bien supérieur à ce que le générateur seul livrerait.

Une portée qui dépasse DALL-E

Il vaut la peine de s'arrêter un instant sur CLIP en tant que tel, car sa contribution dépasse le rôle d'auxiliaire qu'il joue ici. En apprenant à situer images et textes dans un même espace de représentation, CLIP fournit une brique réutilisable : un moyen général de mesurer l'accord entre une description et un contenu visuel. Cette capacité intéresse bien d'autres tâches que la simple sélection d'images générées — classification sans exemple préalable, recherche d'images par requête textuelle, filtrage de contenus, pour n'en citer que quelques-unes.

L'entraînement sur environ 400 millions de paires image-texte issues du web est, à cet égard, une force autant qu'une limite. Une force, parce que cette diversité massive confère à CLIP une couverture conceptuelle très large, sans annotation manuelle coûteuse. Une limite, parce que les données du web reflètent aussi leurs propres biais et déséquilibres, dont le modèle hérite mécaniquement. OpenAI, dans sa présentation, invite d'ailleurs à la prudence sur ce point : un modèle appris sur le web reproduit une part des associations, y compris problématiques, présentes dans ses données. C'est un rappel sain, valable pour DALL-E comme pour CLIP.

DALL-E et CLIP forment un tandem : l'un invente une profusion d'images, l'autre choisit celles qui collent le mieux à la demande. La création et le jugement, séparés puis combinés.

Ce que DALL-E sait faire : un éventail surprenant

Passons aux capacités, car c'est ce qui a frappé les observateurs. Les exemples publiés par OpenAI montrent un éventail de talents qui dépasse la simple restitution d'objets connus. DALL-E ne se contente pas de dessiner ce qu'il a vu ; il recombine des concepts de façon inédite.

Combiner des concepts sans rapport

L'exemple emblématique est le fameux « fauteuil en forme d'avocat ». C'est un objet qui n'existe pas, et que le modèle n'a donc jamais pu observer directement. Pourtant, DALL-E produit des images convaincantes : des sièges reconnaissables comme fauteuils, dotés de la texture, de la couleur et de la forme d'un avocat. Comme l'a résumé Aditya Ramesh, qui a travaillé sur le modèle, la chose la plus surprenante est que le modèle sache prendre deux concepts sans rapport et les assembler d'une manière qui aboutit à quelque chose de fonctionnel. Le fauteuil ressemble à un vrai fauteuil ; l'avocat reste identifiable ; et l'ensemble tient debout, au sens propre comme au figuré.

Un autre exemple, tout aussi parlant, est celui d'une illustration d'un bébé radis daikon en tutu promenant un chien. Là encore, il s'agit d'associer des éléments qui ne se rencontrent jamais dans la réalité — un légume anthropomorphe, un vêtement de danse, une scène de promenade — et de les fondre en une image cohérente. Ces démonstrations révèlent une forme de compositionnalité : le modèle ne récite pas des images mémorisées, il compose à partir de briques conceptuelles.

Un catalogue de talents variés

Au-delà de ces cas frappants, OpenAI a documenté une palette de capacités qui donne la mesure de l'outil :

• créer des versions anthropomorphes d'animaux et d'objets, en leur prêtant des attributs humains ;
• combiner des concepts sans lien apparent en des assemblages plausibles ;
• contrôler des attributs précis d'un objet — sa couleur, sa matière, son nombre d'exemplaires ;
• rendre du texte à l'intérieur de l'image, avec des résultats encore imparfaits ;
• appliquer des transformations à une image existante, comme changer l'heure du jour ou le style ;
• tenir compte de repères géographiques et temporels dans la scène demandée.

Cette diversité illustre un point important : DALL-E n'est pas un outil à usage unique. C'est un modèle généraliste de la génération d'images, dont le comportement s'adapte à la consigne fournie, à la manière dont GPT-3 s'adapte à la tâche décrite dans son prompt. La souplesse du langage naturel devient l'interface universelle de la création visuelle.

Le sens du mot « zéro-shot »

Un terme revient sans cesse dans la présentation de DALL-E : la génération « zéro-shot ». Il désigne la capacité du modèle à réaliser une tâche qu'il n'a jamais explicitement apprise, sans exemple dédié fourni au préalable. Le fauteuil-avocat en est l'illustration parfaite : nulle part dans les données d'entraînement ne figurait la catégorie « fauteuil-avocat », et pourtant le modèle sait la produire, simplement parce qu'il a appris séparément ce qu'est un fauteuil et ce qu'est un avocat, et qu'il sait les combiner.

Cette propriété prolonge directement ce que GPT-3 avait montré côté texte. GPT-3 pouvait accomplir des tâches — traduire, résumer, répondre — à partir de quelques exemples glissés dans la consigne, voire aucun, sans réentraînement spécifique. DALL-E transpose cette idée au visuel : une seule et même formation générale, puis une infinité de tâches abordées à la volée par la simple description. Cette généralité est précisément ce qui distingue ces modèles des systèmes antérieurs, souvent taillés pour une tâche unique et incapables d'en sortir.

Contrôler les attributs : couleur, matière, quantité

Un aspect moins spectaculaire mais tout aussi révélateur est la capacité de DALL-E à respecter des attributs précis mentionnés dans la légende. On peut lui demander un objet d'une couleur donnée, fait d'une matière particulière, présent en un certain nombre d'exemplaires, ou disposé d'une certaine manière. Cette obéissance aux détails de la consigne montre que le modèle ne se contente pas de saisir le sujet principal, mais tient compte des qualificatifs qui l'accompagnent.

Cette maîtrise reste toutefois inégale, et OpenAI le reconnaît sans détour. Plus la consigne se complexifie — plusieurs objets, plusieurs attributs à combiner, relations spatiales précises —, plus le modèle risque de se tromper, d'oublier un élément ou de mélanger les attributs. C'est une limite attendue pour une première version, et un axe de progrès identifié. Mais l'essentiel est acquis : le principe d'un contrôle fin par le langage est démontré, même si son exécution demande encore à mûrir.

Un nom qui raconte une ambition

Le nom même du modèle mérite qu'on s'y attarde, car il condense l'intention du projet. DALL-E est un mot-valise qui associe deux références : Salvador Dalí, le peintre surréaliste espagnol célèbre pour ses images oniriques et ses associations improbables, et WALL-E, le petit robot attachant du film d'animation des studios Pixar.

Ce choix n'est pas anodin. Dalí évoque la créativité surréaliste, la capacité à marier des éléments hétéroclites en une composition nouvelle — précisément ce que fait le fauteuil-avocat. WALL-E évoque la machine, l'automate curieux et bienveillant. En croisant les deux, OpenAI signale l'ambition du projet : une machine dotée d'une forme d'imagination visuelle, capable d'inventer plutôt que de simplement reproduire. Le nom est un programme.

Une annonce qui frappe l'imaginaire collectif

La réception de DALL-E, en ce début janvier 2021, dépasse largement les cercles techniques. La presse spécialisée s'empare immédiatement du sujet. La MIT Technology Review titre sur le fauteuil-avocat, y voyant un aperçu de l'avenir de l'intelligence artificielle. Le média Axios souligne, dès le 5 janvier, qu'un nouveau modèle d'apprentissage automatique génère désormais des images à partir de texte. En quelques jours, le fauteuil-avocat devient une sorte de mascotte de la génération d'images par IA.

Pourquoi un tel écho ? Parce que DALL-E rend tangible, pour le grand public, une idée jusque-là abstraite. Les modèles de langage comme GPT-3 impressionnaient les spécialistes, mais leur sortie — du texte — restait aride pour le profane. Une image, elle, se saisit instantanément. Voir une machine dessiner un objet impossible à partir d'une phrase parle immédiatement à l'imagination. C'est cette lisibilité visuelle qui explique la viralité de l'annonce.

Il faut toutefois raison garder, et OpenAI ne s'en cache pas. Cette première version reste expérimentale. Les images produites sont de résolution modeste, souvent floues dans le détail, et le modèle échoue parfois à respecter fidèlement la consigne, surtout lorsqu'elle se complique. DALL-E n'est pas un outil de production prêt à l'emploi ; c'est une démonstration de recherche, une preuve qu'une direction est prometteuse. Confondre la démonstration avec le produit fini serait une erreur d'appréciation.

La portée réelle : une nouvelle interface pour la création

Prenons maintenant un peu de hauteur. Au-delà des images amusantes, quelle est la contribution de fond de DALL-E ? Elle tient, à notre sens, en trois enseignements.

Le premier est méthodologique. DALL-E confirme, dans un nouveau domaine, la puissance de la recette « transformeur à grande échelle ». La même architecture qui a transformé le traitement du langage se révèle féconde pour la génération d'images, dès lors qu'on trouve le bon moyen de représenter l'image comme une séquence de jetons. Cette généralité de l'approche est une découverte importante : elle suggère que d'autres modalités — le son, la vidéo, la structure des molécules — pourraient être abordées de façon analogue.

Le deuxième enseignement concerne l'interface. DALL-E fait du langage naturel le moyen de piloter la création visuelle. Nul besoin de maîtriser un logiciel de dessin ou de retouche : une phrase suffit à formuler une intention, et la machine tente de la réaliser. C'est un déplacement profond de la relation entre l'humain et l'outil créatif. La barrière technique s'abaisse, et l'imagination devient le principal facteur limitant. Pour de nombreux usages — illustration rapide, exploration d'idées, prototypage visuel — cette accessibilité ouvre des perspectives concrètes.

Le troisième enseignement porte sur la compositionnalité. En assemblant des concepts sans rapport de manière plausible, DALL-E montre qu'il a capturé quelque chose de la structure du monde, et pas seulement une collection d'images mémorisées. Cette faculté de recombinaison est le signe d'une compréhension, certes partielle et imparfaite, mais réelle, des relations entre objets, attributs et contextes. C'est peut-être l'aspect le plus prometteur pour la suite : un modèle qui compose plutôt qu'il ne copie ouvre la voie à une créativité assistée bien plus riche.

La vraie nouveauté de DALL-E n'est pas qu'il dessine, c'est qu'il compose : il assemble des idées en images inédites, guidé par une simple phrase.

Ce que cette étape laisse entrevoir

Il serait prématuré de tirer des conclusions définitives d'une première version de recherche. Mais quelques tendances se dessinent, et il est permis de les esquisser avec prudence.

D'abord, la qualité des images va vraisemblablement progresser. La résolution modeste et les imperfections de cette première mouture ne sont pas des limites théoriques, mais des points d'amélioration à portée de recherche. Les architectures de compression, les méthodes de génération et le reclassement par un juge du type CLIP sont autant de leviers sur lesquels les équipes pourront agir. On peut raisonnablement anticiper des versions futures nettement plus nettes et fidèles.

Ensuite, l'articulation entre un générateur et un évaluateur — DALL-E et CLIP — préfigure sans doute une manière durable de concevoir ces systèmes. Séparer la production de la sélection, confier à un modèle spécialisé le soin de juger la pertinence, est un schéma général qui pourrait se retrouver dans bien d'autres applications de l'IA générative. CLIP, en particulier, semble promis à un rôle qui dépasse le seul cadre de DALL-E : sa capacité à mesurer l'accord entre une image et un texte est un outil réutilisable, que d'autres équipes voudront sûrement exploiter.

Enfin, l'usage responsable de ces outils devient une question de premier plan. Une machine qui fabrique des images crédibles à la demande soulève des interrogations légitimes sur les usages, l'attribution et l'authenticité des contenus. OpenAI a choisi, pour cette première version, de ne pas ouvrir un accès public généralisé et de documenter les limites du modèle. C'est une posture prudente, cohérente avec la nature encore expérimentale de l'outil, et qui invite à accompagner le progrès technique d'une réflexion sur ses conditions d'emploi.

Avec le recul

(depuis 2026) Rétrospectivement, l'annonce du 5 janvier 2021 apparaît comme un moment fondateur. DALL-E a inauguré la génération d'images par texte auprès du grand public, et le tandem qu'il formait avec CLIP a essaimé bien au-delà de ce premier modèle. Les années qui ont suivi ont vu se succéder des systèmes de plus en plus performants, portés par de nouvelles approches, mais tous héritiers de l'intuition première : décrire une image par des mots et laisser une machine la composer. Le fauteuil-avocat, lui, est resté comme le symbole modeste et malicieux d'un basculement dont on mesure mieux, aujourd'hui, l'ampleur.

Sources

Cet article s'appuie sur des sources publiques et vérifiables :

• OpenAI, « DALL·E: Creating images from text » (billet de blog du 5 janvier 2021) — openai.com (annonce officielle, capacités, exemples).
• « DALL-E » — Wikipedia (date d'annonce, 12 milliards de paramètres, origine du nom Dalí + WALL-E, rôle de CLIP).
• Will Douglas Heaven, « This avocado armchair could be the future of AI » — MIT Technology Review (5 janvier 2021, réception, citation d'Aditya Ramesh).
• Axios, « OpenAI's new machine learning AI model generates images from text » — axios.com (couverture du 5 janvier 2021).
• TechTarget, « What is Dall-E and How Does it Work? » — techtarget.com (autoencodeur variationnel discret, fonctionnement).
• Aditya Ramesh et al., « Zero-Shot Text-to-Image Generation » — arXiv 2102.12092 (article technique détaillant l'architecture dVAE et transformeur ; publication ultérieure).