Posons d'emblée le cadre, parce qu'il conditionne toute la suite : ce qui suit est une lecture, pas une annonce. xAI n'a pas publié de plan officiel décrivant comment l'entreprise répartirait ses processeurs graphiques entre l'entraînement de ses modèles et leur mise en service. Aucune stratégie interne n'est confirmée ici. Ce que nous proposons, c'est une grille d'analyse : à partir de faits publics et vérifiables — le nombre de cartes déployées, les caractéristiques réelles des puces, les ordres de grandeur documentés par la presse spécialisée et les cabinets d'étude —, on peut esquisser une hypothèse cohérente sur la façon dont un acteur de cette taille pourrait organiser son parc de calcul. L'hypothèse a une logique. Elle n'a pas de certificat d'authenticité.
Cette précaution n'est pas de la coquetterie méthodologique. Le domaine de l'infrastructure de calcul se prête aux chiffres impressionnants et aux extrapolations hâtives. Un compte de cartes graphiques circule, il est repris, arrondi, transformé en affirmation catégorique sur les intentions d'une entreprise. Nous voulons faire l'inverse : séparer soigneusement ce qui est établi de ce qui relève de l'interprétation. Chaque donnée factuelle est sourcée en fin d'article. Chaque lecture stratégique est signalée comme telle, par des formulations qui ne laissent aucun doute : « on peut lire », « cela suggère », « une interprétation possible ». Le lecteur reste maître de son jugement.
Pourquoi xAI comme cas d'étude ? Parce que l'entreprise a construit, en un temps record et sous les projecteurs, l'un des ensembles de calcul les plus commentés du moment, le supercalculateur Colossus installé à Memphis. Son ampleur, sa vitesse de montage et la diversité des puces qui le composent en font un terrain d'observation idéal pour réfléchir à une question qui dépasse largement une seule société : comment un laboratoire d'intelligence artificielle gère-t-il le décalage entre les deux grandes familles de travaux qu'il doit mener en parallèle — apprendre, d'un côté, et servir, de l'autre ?
Le constat : ce que l'on sait vraiment de Colossus
Commençons par le socle vérifiable. En 2024, xAI a mis en service à Memphis un ensemble baptisé Colossus, initialement doté de 100 000 cartes Nvidia H100. Le fait le plus souvent cité à son sujet est la vitesse de construction : cet ensemble a été assemblé en 122 jours, une cadence que la presse technique a largement documentée. Quelques mois plus tard, l'entreprise a annoncé avoir doublé la mise, portant l'installation autour de 200 000 cartes, avec l'ambition affichée d'aller plus loin encore.
La composition rapportée à la mi-2025 est instructive, car elle mélange plusieurs générations de matériel. Selon les recensements publics, l'ensemble comprenait alors de l'ordre de 150 000 cartes H100, 50 000 cartes H200 et 30 000 cartes GB200 — cette dernière appartenant à l'architecture Blackwell, la plus récente de Nvidia à ce moment-là. Un second site dans la région de Memphis était évoqué pour accueillir une vague supplémentaire de cartes Blackwell. Retenons ce point : le parc n'est pas homogène. Il superpose des puces de trois générations distinctes.
Côté énergie, les ordres de grandeur sont eux aussi publics et parlants. La demande de puissance électrique du site est passée d'environ 150 mégawatts au démarrage à une fourchette de 250 à 300 mégawatts au fil de l'expansion. Pour combler un raccordement au réseau initialement très limité, xAI a installé sur place des turbines à gaz — un choix qui a suscité un débat local sur la qualité de l'air, documenté par la presse généraliste. À plus long terme, l'entreprise affiche des ambitions allant au-delà du gigawatt. Ces chiffres situent l'échelle : on parle d'une consommation comparable à celle d'une ville de plusieurs centaines de milliers de foyers.
Colossus a été assemblé en 122 jours, avec 100 000 cartes H100 au départ. La prouesse n'est pas seulement industrielle : elle dit quelque chose de la course actuelle au calcul, où la vitesse de déploiement devient un avantage compétitif à part entière.
Ce que Colossus a servi à faire
Le lien entre cet ensemble et les modèles de xAI est également documenté. Grok 3, présenté en février 2025, a été entraîné sur cette infrastructure. La communication de l'entreprise, relayée par la presse spécialisée, avançait un facteur d'environ dix fois plus de calcul que pour la génération précédente. Des estimations reprises dans les médias techniques évoquent de l'ordre de 200 millions d'heures-carte consacrées à cet apprentissage — un ordre de grandeur, à manier avec prudence, mais qui donne la mesure de l'appétit de l'entraînement d'un modèle de premier plan.
Voilà pour le socle. Notez ce qu'il contient et ce qu'il ne contient pas. Il contient des comptes de cartes, des générations, des chiffres d'énergie, une date de sortie et un ordre de grandeur de calcul. Il ne contient aucune déclaration officielle sur la manière dont ces cartes sont affectées, au jour le jour, entre l'entraînement des futurs modèles et le service des modèles déjà déployés. C'est précisément ce vide que notre lecture va tenter d'éclairer — sans jamais le combler par de la fiction présentée comme un fait.
À retenir. De Colossus, trois faits sont établis : environ 200 000 cartes réparties sur trois générations (H100, H200, GB200), un montage en 122 jours, une demande électrique de 250 à 300 MW. Ce qui ne l'est pas : la part exacte consacrée à l'entraînement et à l'inférence. L'analyse qui suit comble ce vide par une logique, pas par une affirmation.
Deux métiers, deux besoins : entraînement contre inférence
Pour comprendre pourquoi une répartition « à deux vitesses » serait rationnelle, il faut d'abord saisir que l'entraînement et l'inférence sont deux activités techniquement très différentes. Ce ne sont pas deux intensités d'une même tâche : ce sont deux métiers, avec des contraintes matérielles presque opposées.
L'entraînement : un sprint collectif ultra-synchronisé
Entraîner un grand modèle, c'est faire travailler ensemble un très grand nombre de cartes graphiques sur un même calcul, pendant des semaines. La particularité, c'est la synchronisation. À chaque étape, les cartes doivent s'échanger des mises à jour et rester alignées. Cela impose des réseaux d'interconnexion extrêmement rapides entre les cartes, une densité de puissance élevée par armoire — de l'ordre de 130 kilowatts sur les armoires GB200 NVL72 déployées aujourd'hui, avec des feuilles de route sectorielles évoquant jusqu'à environ un mégawatt par armoire pour les générations à venir (horizon 2027-2028) — et une tolérance minimale à la panne : si une carte lâche, tout le calcul peut être affecté. L'entraînement récompense donc la concentration : un très grand bloc homogène, le plus récent et le plus rapide possible, réuni au même endroit.
L'inférence : une multitude de petites tâches indépendantes
Servir un modèle déjà entraîné — répondre aux requêtes des utilisateurs — obéit à une tout autre logique. Chaque requête est largement indépendante des autres. On peut les répartir, les paralléliser, les distribuer sur des machines qui n'ont pas besoin de dialoguer entre elles en permanence. Les analyses d'infrastructure situent l'inférence dans une plage de densité bien plus basse, de l'ordre de 30 à 150 kilowatts par armoire, sur des réseaux plus ordinaires. Surtout, l'inférence tolère beaucoup mieux du matériel de génération antérieure : une carte de la vague précédente, moins rapide qu'une puce neuve, reste parfaitement capable de traiter des requêtes à un coût maîtrisé.
- Couplage. L'entraînement exige des cartes fortement couplées et synchronisées ; l'inférence se satisfait de tâches faiblement couplées, presque autonomes.
- Réseau. L'entraînement réclame les interconnexions les plus rapides ; l'inférence se contente souvent de réseaux plus standards.
- Fraîcheur du matériel. L'entraînement de pointe tire le meilleur des puces les plus récentes ; l'inférence valorise le rapport performance-coût, et donc le matériel amorti.
- Rapport à la dépense. L'entraînement est un investissement massif et ponctuel ; l'inférence est une charge récurrente, directement liée à l'usage réel du service.
Cette dernière opposition est peut-être la plus structurante. Le coût de l'entraînement est un investissement lourd, dont le rendement commercial est difficile à rattacher à une recette précise. Le coût de l'inférence, lui, se répète à chaque requête et suit la fréquentation du service. Optimiser l'inférence, c'est agir directement sur la marge d'exploitation. Cette asymétrie économique, soulignée par plusieurs analyses sectorielles, pousse naturellement à traiter les deux activités avec des outils différents.
L'entraînement veut la puissance brute la plus fraîche, réunie et synchronisée ; l'inférence veut le meilleur rapport performance-coût, distribué et tolérant au matériel plus ancien. Deux métiers, deux logiques d'équipement.
La lecture : pourquoi une répartition à deux vitesses serait cohérente
Assemblons maintenant les pièces. D'un côté, un parc qui superpose trois générations de cartes — H100, H200 et Blackwell. De l'autre, deux métiers aux besoins matériels presque inversés. La lecture que l'on peut proposer, et j'insiste : que l'on propose, sans l'attribuer à xAI, tient en une phrase. Réserver les cartes les plus récentes à l'entraînement des futurs modèles, et redéployer les cartes des générations antérieures vers l'inférence, serait un usage rationnel de ce parc hétérogène.
Cette hypothèse ne sort pas de nulle part : elle décrit un motif que les cabinets d'étude observent, de façon générale, chez les grands acteurs du secteur. Les analyses de marché décrivent une pratique répandue consistant à garder les puces de dernière génération pour l'apprentissage des modèles de fondation, tout en reversant les générations plus anciennes vers les tâches d'inférence, voire vers l'entraînement de modèles plus modestes. Ce n'est donc pas une invention appliquée à un cas isolé, mais une grille de lecture générale que l'on peut, avec prudence, projeter sur le parc de Colossus.
Pourquoi la carte neuve va logiquement à l'entraînement
La génération Blackwell illustre bien l'intérêt de concentrer le matériel le plus récent sur l'apprentissage. Les documents de Nvidia et les comparaisons techniques créditent la configuration GB200 NVL72 d'un gain de l'ordre de quatre fois en entraînement par rapport à une base H100, à grande échelle. La carte B200 embarque 180 gigaoctets de mémoire à haute bande passante selon la fiche technique Nvidia, contre 80 pour la H100 et 141 pour la H200 : de quoi loger des modèles plus volumineux et réduire le nombre de cartes nécessaires pour un même calcul. Quand chaque semaine d'entraînement coûte cher, cette accélération se traduit directement en délais raccourcis. On comprend l'attrait de réserver ces cartes à la tâche qui en profite le plus.
Pourquoi les cartes précédentes trouvent leur place en inférence
Symétriquement, une H100 ou une H200 déjà installée, amortie et rodée, reste un excellent processeur d'inférence. Elle n'est plus la carte la plus rapide du catalogue, mais l'inférence n'en demande pas tant : elle demande de la capacité disponible, à un coût maîtrisé, répartie au plus près des usages. Recycler ces cartes vers le service des modèles, plutôt que de les mettre au rebut à chaque nouvelle génération, prolonge leur valeur et évite un gaspillage. Les analyses d'infrastructure décrivent exactement ce mouvement : du matériel de génération antérieure rappelé en service pour absorber des charges d'inférence atomisées.
Un chiffre éclaire l'enjeu de coût. Les estimations de marché situent une carte H100 autour de 25 000 à 30 000 dollars pièce (courant 2025-2026, indicatif, susceptible d'évoluer) pour l'équipement d'entraînement, tandis que des cartes pensées pour l'inférence, comme les modèles L40S, se négocient plutôt autour de 8 000 à 10 000 dollars sur le marché actuel (mi-2026, indicatif, susceptible d'évoluer) — loin de leur prix catalogue de lancement, nettement plus élevé en 2023. Ces montants sont des ordres de grandeur, sensibles aux volumes et aux négociations, et je les donne comme tels. Ils illustrent néanmoins une réalité simple : l'inférence cherche l'efficience, et une carte déjà payée, même moins performante, offre souvent le meilleur rapport pour ce travail-là.
Une carte d'entraînement (H100, ~25-30 k$) coûte environ trois fois une carte d'inférence neuve (L40S, ~8-10 k$). C'est cet écart qui rend le recyclage rationnel : une carte déjà payée, même moins rapide, offre souvent le meilleur rapport coût-performance pour servir les modèles en production.
La nuance qui change tout : Blackwell n'était pas encore le cheval d'entraînement
Ici, l'honnêteté impose un contrepoint, car il empêche de transformer une lecture élégante en dogme. Une hypothèse trop lisse — « les cartes neuves entraînent, les anciennes servent » — se heurte à un fait technique documenté à la mi-2025. À cette période, selon les analyses spécialisées, les campagnes d'entraînement à la frontière tournaient encore majoritairement sur H100, H200 et sur les processeurs dédiés de Google, tandis que la configuration GB200 NVL72 n'était pas encore pleinement mûre pour l'entraînement à très grande échelle : logiciels en cours de stabilisation, questions de fiabilité à résoudre.
Ce constat complique agréablement le tableau. Si le matériel le plus récent n'est pas immédiatement le meilleur cheval d'entraînement — le temps que son écosystème logiciel se rode —, alors la répartition réelle d'un acteur, quel qu'il soit, ne peut pas suivre mécaniquement la règle « neuf pour l'apprentissage, ancien pour le service ». Pendant une phase de transition, il est tout à fait plausible qu'un opérateur continue d'entraîner sur ses H100 et H200 éprouvées, tout en installant les cartes Blackwell et en montant progressivement en compétence dessus, avant de leur confier les campagnes d'apprentissage majeures.
Une carte n'est vraiment prête pour l'entraînement de pointe que lorsque son écosystème logiciel l'est aussi. La puissance théorique ne suffit pas : la maturité compte autant que les chiffres du catalogue.
La conséquence pour notre analyse est double. D'abord, elle confirme que le principe « deux vitesses » reste une tendance raisonnable, pas une loi automatique : la fraîcheur d'une carte ne détermine pas seule son affectation, sa maturité logicielle pèse tout autant. Ensuite, elle rappelle que toute lecture d'un parc à un instant donné est une photographie, pas un film. La répartition évolue au rythme où les nouvelles cartes gagnent en fiabilité et où les précédentes glissent, doucement, vers les tâches de service. Prétendre figer cette dynamique dans une affirmation définitive serait une erreur.
La mise en perspective : xAI n'est pas seul sur ce chemin
Replacer cette hypothèse dans le paysage plus large aide à en mesurer la portée — et à éviter de la présenter comme une singularité. La tension entre apprendre et servir traverse tout le secteur, et chaque acteur y répond avec ses propres arbitrages.
La bascule vers l'inférence, une lame de fond
Un chiffre résume la dynamique de fond. Selon les projections de McKinsey, la part de l'inférence dans l'ensemble du calcul d'intelligence artificielle serait passée d'environ un tiers en 2023 à la moitié en 2025, et pourrait atteindre les deux tiers en 2026. Autrement dit, la valeur se déplace de l'apprentissage vers le service. Cette bascule explique pourquoi la question de l'inférence, longtemps secondaire dans les conversations sur le calcul, devient centrale. Quand la majorité des cycles de calcul sert à répondre aux utilisateurs plutôt qu'à créer de nouveaux modèles, l'optimisation du parc d'inférence cesse d'être un détail pour devenir un levier de rentabilité majeur.
Des architectures qui se séparent
Cette évolution pousse une partie de l'industrie à distinguer physiquement les installations d'entraînement des installations d'inférence. Là où un opérateur peut se contenter d'un petit nombre de très grands ensembles d'apprentissage, il peut déployer de nombreuses installations d'inférence plus modestes, réparties au plus près des utilisateurs. Les deux types d'infrastructure n'ont pas les mêmes exigences de réseau ni de densité, et les traiter séparément permet d'optimiser chacun sans compromis. Cette séparation croissante est le décor général dans lequel notre hypothèse « à deux vitesses » prend son sens.
La diversification des puces
Autre signal du même mouvement : la recherche d'alternatives pour la seule inférence. Plusieurs grands acteurs explorent des processeurs différents pour servir leurs modèles, notamment les puces spécialisées de Google, motivés en bonne partie par le coût récurrent de l'inférence. Des retours publics font état de fortes baisses de dépense mensuelle d'inférence après migration vers ce type de matériel — des chiffres à prendre avec la réserve d'usage, car ils dépendent des configurations. Cette diversification confirme la thèse générale : l'inférence est devenue un poste que chacun cherche à optimiser pour lui-même, avec le matériel le plus adapté, quitte à s'écarter de la carte reine de l'entraînement.
| Critère | Entraînement de pointe | Inférence à grande échelle |
|---|---|---|
| Génération de carte privilégiée | La plus récente et mûre (ex. Blackwell une fois rodée) | Matériel amorti des vagues précédentes (H100, H200) |
| Densité par armoire | ~130 kW aujourd'hui (GB200 NVL72) ; jusqu'à ~1 MW visé sur les feuilles de route 2027-2028 | Environ 30 à 150 kW |
| Couplage entre cartes | Fort, synchronisation permanente | Faible, tâches largement indépendantes |
| Réseau requis | Interconnexions ultra-rapides | Réseaux plus standards |
| Nature de la dépense | Investissement lourd et ponctuel | Charge récurrente liée à l'usage |
| Part du calcul IA (tendance) | De ~2/3 (2023) vers ~1/3 (2026) | De ~1/3 (2023) vers ~2/3 (2026) |
L'économie souterraine d'une répartition à deux vitesses
Descendons d'un cran vers le concret. Si l'on admet, comme hypothèse de travail, qu'un grand opérateur oriente ses cartes les plus fraîches vers l'apprentissage et ses cartes précédentes vers le service, quelles conséquences pratiques cela emporte-t-il ? Trois méritent d'être détaillées, car elles montrent que cette organisation n'est pas une élégance théorique, mais une réponse à des contraintes matérielles bien réelles.
Amortir plutôt que jeter
La première conséquence touche à la durée de vie du matériel. Une carte graphique de calcul représente un investissement conséquent, et son cycle d'utilité ne s'arrête pas le jour où une génération plus rapide arrive. Reléguer une carte de la vague précédente à l'inférence, c'est prolonger son service utile de plusieurs années au lieu de la considérer comme dépassée. Sur un parc de plusieurs centaines de milliers de cartes, cette prolongation change l'équation financière : chaque carte rappelée en service sur les requêtes est une carte dont l'investissement continue de produire de la valeur. À l'inverse, immobiliser du matériel récent sur des tâches de service qu'une carte plus ancienne accomplirait aussi bien reviendrait à sous-employer une ressource rare et coûteuse. La logique d'affectation par génération est donc, avant tout, une discipline d'amortissement.
Combien vaut le recyclage en inférence ?
Amortissement linéaire · ordres de grandeur indicatifs
Valeur captée : 120 M $ sur un parc de 300 M $ — 40 % de l'investissement prolongé
Placer chaque charge là où l'électricité le permet
La deuxième conséquence est énergétique, et elle est loin d'être secondaire. Nous avons vu que l'entraînement de pointe concentre une puissance élevée par armoire, tandis que l'inférence s'accommode de densités bien plus basses. Un site comme Colossus, dont la demande électrique se compte en centaines de mégawatts et dont le raccordement au réseau a nécessité des solutions d'appoint, illustre à quel point l'électricité est devenue le facteur limitant. Répartir les charges selon leur profil de consommation — l'apprentissage massé là où l'alimentation la plus dense est disponible, le service distribué là où l'on dispose de capacité plus modeste — n'est pas un raffinement, mais une nécessité imposée par la physique de l'alimentation. La contrainte énergétique renforce, plutôt qu'elle ne contredit, la logique de séparation des métiers.
Aligner la dépense sur la recette
La troisième conséquence est comptable. L'apprentissage est une dépense en amont, dont on espère qu'elle produira un modèle de valeur ; le service est une dépense en aval, qui suit la fréquentation réelle. En confiant le service à du matériel amorti et efficient, un opérateur rapproche la structure de ses coûts de celle de ses recettes : chaque requête servie mobilise une ressource dont le coût marginal a été optimisé. Cette recherche d'efficience sur l'inférence n'a rien d'anecdotique quand la part du service dans le calcul total ne cesse de croître. Elle devient, au contraire, l'un des principaux terrains où se joue la rentabilité d'un laboratoire.
Réserver le neuf à l'apprentissage et recycler le précédent vers le service, c'est autant une discipline d'amortissement qu'un choix technique. La bonne carte au bon endroit prolonge la valeur de tout le parc.
Comment un tel parc pourrait évoluer
Puisque toute lecture d'un ensemble de calcul est une photographie, il est utile d'esquisser comment le film pourrait se dérouler — toujours au conditionnel, sans attribuer d'intention à quiconque. Trois pentes se dessinent, cohérentes avec les faits observés.
La première est le glissement progressif des cartes d'une tâche à l'autre à mesure qu'elles vieillissent. Une carte installée aujourd'hui pour l'apprentissage pourrait, dans quelques années, rejoindre les rangs du service, remplacée sur les campagnes de pointe par une génération plus récente. Ce glissement n'est pas brutal : il accompagne l'arrivée de chaque nouvelle vague de matériel. On peut imaginer un parc où les cartes descendent lentement l'échelle des usages, de l'apprentissage de premier plan vers l'apprentissage de modèles secondaires, puis vers le service, avant d'être retirées. Cette cascade d'affectations est la manière la plus naturelle de tirer parti d'un parc qui croît par couches.
La deuxième pente concerne la maturation de la génération la plus récente. Nous avons noté qu'à la mi-2025, la génération Blackwell n'était pas encore le cheval d'apprentissage dominant, le temps que son écosystème logiciel se stabilise. Une évolution plausible consisterait à voir ces cartes gagner en fiabilité, absorber une part croissante des campagnes d'apprentissage, et libérer d'autant les cartes des vagues précédentes pour le service. Le rythme de cette bascule dépend de facteurs que l'on n'observe pas de l'extérieur, mais la direction paraît cohérente avec ce que le secteur a connu à chaque changement de génération.
La troisième pente est la spécialisation croissante des installations. Si la part du service continue de progresser dans le calcul total, on peut s'attendre à ce que la distinction entre sites d'apprentissage et sites de service se marque davantage, chacun optimisé pour son métier propre. Un opérateur pourrait concentrer l'apprentissage dans quelques ensembles très denses, et multiplier des installations de service plus légères, réparties au plus près des usages. Cette pente rejoint la tendance générale du secteur à séparer physiquement les deux métiers. Elle ne préjuge d'aucun choix particulier, mais elle décrit un horizon crédible vers lequel la logique économique pousse.
Ces trois pentes ne sont pas des prédictions. Ce sont des trajectoires compatibles avec les faits et avec l'économie du calcul, proposées comme aides à la réflexion. Le réel les combinera à sa manière, avec ses accidents et ses arbitrages propres. Mais les garder en tête permet de lire l'actualité de l'infrastructure avec un cadre, plutôt que de réagir chiffre par chiffre à chaque annonce.
À retenir. Les trois trajectoires décrites — glissement progressif des cartes vers le service, maturation de Blackwell comme cheval d'entraînement, spécialisation physique des sites — ne sont pas des prédictions. Ce sont des pentes cohérentes avec les faits et avec l'économie du calcul. Le réel les combinera à sa manière. Les garder en tête fournit un cadre pour lire l'actualité, plutôt que de réagir annonce par annonce.
Les limites de la lecture : ce que cette grille ne dit pas
Une bonne analyse connaît ses angles morts. Avant d'en tirer des enseignements, listons honnêtement ce que notre hypothèse ne permet pas d'affirmer.
Elle ne dit rien de la répartition précise, carte par carte, au sein de Colossus. Nous n'avons pas de ventilation officielle indiquant quelle fraction du parc sert à l'entraînement et quelle fraction à l'inférence, à un instant donné. Toute proportion chiffrée que l'on avancerait serait une invention. Nous restons donc au niveau du principe : une logique d'affectation plausible, pas une comptabilité.
Elle ne dit rien non plus des calendriers internes. Le moment où un opérateur bascule ses campagnes d'entraînement d'une génération de cartes à la suivante dépend de facteurs — maturité logicielle, disponibilité, arbitrages de priorité — que l'on ne peut observer de l'extérieur. Nous savons qu'à la mi-2025 la génération Blackwell n'était pas encore le cheval d'entraînement dominant ; nous ne savons pas précisément quand elle l'est devenue, ni pour quel acteur en premier.
Enfin, elle ne prétend pas que la frontière entre les deux métiers soit étanche. En pratique, une même carte peut, à différents moments, servir à l'un ou à l'autre. Des cartes récentes peuvent traiter de l'inférence exigeante ; des cartes plus anciennes peuvent participer à l'entraînement de modèles secondaires. La « double vitesse » est une tendance de fond, une pente naturelle du parc, pas une séparation rigide gravée dans le silicium.
Distinguer ce que l'on sait de ce que l'on suppose n'affaiblit pas l'analyse : c'est ce qui la rend digne de confiance. Une hypothèse assumée vaut mieux qu'une certitude fabriquée.
Ce qu'on peut en retenir, sans prédiction péremptoire
Que reste-t-il, une fois les précautions posées ? Plusieurs enseignements solides, précisément parce qu'ils ne dépendent d'aucune information interne non vérifiable.
D'abord, l'idée qu'un grand parc de calcul contemporain est, par nature, hétérogène. Colossus superpose au moins trois générations de cartes, et ce n'est pas un accident : c'est la conséquence mécanique d'une croissance rapide, où l'on ajoute des vagues successives sans démonter les précédentes. Cette hétérogénéité n'est pas un défaut à corriger, mais une ressource à orchestrer. Savoir affecter la bonne carte au bon travail devient une compétence stratégique à part entière.
Ensuite, l'idée que la valeur se déplace de l'apprentissage vers le service. Si la part de l'inférence dans le calcul continue de croître, alors la capacité à servir efficacement — au bon coût, au bon endroit, avec le matériel le plus adapté — pèsera de plus en plus lourd dans la rentabilité d'un laboratoire. L'entraînement fait les gros titres ; l'inférence fera de plus en plus les comptes. C'est peut-être là le vrai basculement des prochaines années.
Enfin, l'idée qu'une lecture stratégique honnête vaut mieux qu'une prédiction assurée. Nous avons décrit une logique plausible — réserver le plus récent à l'apprentissage, recycler le précédent vers le service — en la reliant à des faits vérifiables et en signalant ses limites, notamment le décalage entre la sortie d'une carte et sa pleine maturité pour l'entraînement. Cette logique éclaire une pente probable du secteur. Elle ne prétend pas révéler un plan secret. Et c'est très bien ainsi : comprendre la dynamique d'un domaine ne suppose pas d'en connaître tous les arbitrages internes, mais d'en saisir les forces à l'œuvre.
En définitive, l'exemple de xAI et de son ensemble Colossus sert de miroir grossissant à une question qui concerne tout le secteur. Comment concilier deux métiers aux besoins opposés, avec un parc qui vieillit par couches ? La réponse la plus raisonnable ressemble à une division du travail entre les générations de puces — chacune à la tâche où elle excelle. Que cette réponse corresponde exactement aux choix internes de tel ou tel acteur, nous ne pouvons l'affirmer. Qu'elle décrive une tendance crédible et déjà observable dans le secteur, en revanche, les faits le soutiennent. Et une tendance bien comprise éclaire souvent mieux l'avenir qu'une certitude fragile.
Sources
- Colossus (data center) — Wikipedia : composition du parc (H100 / H200 / GB200), calendrier de construction, puissance électrique.
- Tom's Hardware — Colossus : 100 000 H100 en service, plan de montée à 200 000.
- Tom's Hardware — Grok 3 : ~10x le calcul de Grok 2, entraîné sur Colossus.
- Nvidia — GB200 NVL72 : gains annoncés en entraînement et inférence, caractéristiques Blackwell.
- SemiAnalysis — H100 vs GB200 NVL72 : maturité de l'entraînement à grande échelle mi-2025.
- McKinsey — bascule des charges vers l'inférence, densités et stratégies.
- EdgeCore — différences d'infrastructure entre entraînement et inférence.
- CNN — turbines à gaz du site de Memphis et débat local.