Le 16 mai 2024, CNN révélait les détails d'une affaire qui allait devenir le cas d'école de l'année : un employé du cabinet d'ingénierie Arup, basé à Hong Kong, avait viré 25,6 millions de dollars à des escrocs après avoir participé à une visioconférence où tous ses interlocuteurs — y compris le directeur financier du groupe — étaient des reconstitutions générées par IA. Quinze virements frauduleux en une seule journée, aucun humain réel de l'autre côté de l'écran. Cette affaire a cristallisé une question que l'industrie de l'IA générative se pose depuis l'explosion des outils de génération d'images, de voix et de vidéos : comment distinguer un contenu authentique d'un contenu synthétique quand l'œil et l'oreille ne suffisent plus ?
La réponse qui se construit, brique par brique, depuis 2019, porte deux noms techniques : le watermarking (filigrane numérique) et la provenance (traçabilité déclarative). Ce ne sont pas des concepts théoriques : ils sont aujourd'hui intégrés par défaut dans les outils de génération d'images de Google, dans les images produites par DALL-E 3, dans les publications Facebook et Instagram, et ils sont devenus une obligation légale en Chine (depuis le 1er septembre 2025) comme en Europe (depuis le 2 août 2026). Cet article fait le point sur ce qui existe réellement, comment ça fonctionne techniquement, ce que ça permet — et ce que ça ne permet pas encore.
Le fil conducteur de cette chronique : la traçabilité des contenus IA n'est pas un totem de communication, c'est un problème d'ingénierie cryptographique et statistique qui avance vite, avec des solutions déjà déployées à l'échelle de milliards de contenus. Comprendre ces mécanismes, c'est se donner les moyens d'évaluer sereinement ce qui est réellement possible aujourd'hui.
Pourquoi la traçabilité devient un sujet d'ingénierie à part entière
Pendant longtemps, la question de l'origine d'une image ou d'un texte ne se posait pas vraiment : la production de contenu convaincant demandait du temps, des compétences et des outils spécialisés. La démocratisation des modèles de diffusion pour l'image, puis des grands modèles de langage pour le texte, a changé l'équation. Générer une photo réaliste d'une scène qui n'a jamais existé, un enregistrement vocal imitant une personne précise ou un article de plusieurs milliers de mots ne demande plus qu'une poignée de secondes et une invite bien rédigée.
Ce changement d'échelle a des conséquences concrètes, illustrées par l'affaire Arup : la vidéoconférence n'était pas un trucage grossier, mais une reconstitution suffisamment convaincante pour tromper un professionnel aguerri, en temps réel, pendant plusieurs dizaines de minutes. Au-delà de la fraude financière, les mêmes techniques posent des questions pour l'intégrité de l'information publique, la protection des droits des créateurs et la confiance dans les contenus qui circulent en ligne — élections, actualité, preuves judiciaires, réputation individuelle.
Face à cela, deux réponses complémentaires se sont développées en parallèle. La première consiste à faire porter au contenu généré un signal caché qui permet, a posteriori, de dire « ceci vient d'un modèle d'IA » : c'est le watermarking. La seconde consiste à faire porter au contenu, dès sa création, une carte d'identité vérifiable qui décrit son origine, ses outils et ses modifications successives : c'est la provenance. Les deux approches ne s'opposent pas — elles se complètent, et c'est précisément leur articulation qui structure l'état de l'art actuel.
Watermarking et provenance : deux philosophies, un même objectif
Il est utile de bien distinguer ces deux familles avant d'entrer dans le détail technique, car elles répondent à des questions différentes et ont des propriétés très différentes.
Le watermarking : un signal caché dans le contenu lui-même
Le watermarking consiste à modifier légèrement le contenu généré — les pixels d'une image, la distribution statistique des mots d'un texte, les fréquences d'un signal audio — de manière imperceptible pour un humain, mais détectable par un algorithme qui connaît la clé du filigrane. L'avantage de cette approche est qu'elle survit, dans une certaine mesure, à la circulation du fichier : si quelqu'un fait une capture d'écran, recadre une image ou copie un texte dans un autre document, le filigrane peut rester détectable parce qu'il fait partie intégrante du contenu et non d'une couche de métadonnées séparée.
La provenance : une déclaration vérifiable qui accompagne le fichier
La provenance fonctionne différemment : elle attache au fichier un « manifeste » — un ensemble d'informations signées cryptographiquement qui déclarent qui a créé le contenu, avec quel outil, à quelle date, et quelles modifications ont été appliquées depuis. C'est l'approche portée par la norme C2PA (Coalition for Content Provenance and Authenticity), dont nous détaillerons le fonctionnement plus loin. Son atout principal est la richesse de l'information transportée — bien plus qu'un simple « généré par IA, oui/non » — et sa robustesse cryptographique : toute modification du fichier invalide la signature, ce qui rend la falsification du manifeste détectable. Sa limite est symétrique à l'atout du watermarking : si les métadonnées sont supprimées — ce qu'une simple capture d'écran fait déjà —, l'information de provenance disparaît avec elles.
Le watermarking répond à la question « ce contenu a-t-il été généré par une IA ? » même quand il a été recadré ou capturé. La provenance répond à la question « qui l'a créé, avec quel outil, et a-t-il été modifié depuis ? » tant que les métadonnées survivent au trajet du fichier.
Schéma 1 — Les deux approches survivent à des dégradations différentes. Leur déploiement conjoint (Google, OpenAI, Meta) maximise les chances qu'au moins un signal survive.
C'est précisément parce qu'aucune des deux approches n'est suffisante seule que les grands acteurs du secteur — Google, OpenAI, Adobe, Meta, Microsoft — les déploient aujourd'hui en parallèle, souvent sur le même contenu : un filigrane statistique dans les pixels ou dans le texte, doublé d'un manifeste C2PA dans les métadonnées du fichier.
Le watermarking des images : la logique de SynthID
Le cas le plus abouti et le plus documenté publiquement est SynthID, développé par Google DeepMind. Lancé en août 2023 pour les images produites par Imagen, le système a depuis été étendu au texte, à l'audio et à la vidéo, et s'intègre désormais par défaut à l'ensemble des produits génératifs de Google.
Le principe technique repose sur une modification ciblée des pixels de l'image, réalisée au moment même de la génération. Le filigrane est embarqué directement dans les valeurs de pixels, ce qui le rend imperceptible à l'œil humain tout en restant détectable par un modèle spécialisé. L'algorithme sélectionne soigneusement quels aspects de l'image modifier afin que le signal survive aux transformations courantes : recadrage, redimensionnement, compression, application de filtres. Selon Google DeepMind, cette approche présente un avantage pratique important : parce que le watermark vit dans les pixels et non dans un fichier de métadonnées séparé, il reste détectable même lorsque les métadonnées ont été supprimées — ce qui est le cas de la quasi-totalité des images partagées sur les réseaux sociaux, où les plateformes retraitent systématiquement les fichiers uploadés.
Un signal, deux réseaux de neurones
Techniquement, SynthID pour l'image repose sur deux réseaux de neurones complémentaires : l'un intégré au processus de génération pour insérer le filigrane, l'autre entraîné spécifiquement pour le détecter. Cette architecture en paire permet d'optimiser conjointement l'imperceptibilité du signal — pour ne pas dégrader la qualité perçue de l'image — et sa robustesse — pour qu'il résiste aux manipulations ultérieures. Le compromis n'est jamais parfait : Google DeepMind reconnaît elle-même que SynthID « n'est pas infaillible face à des manipulations extrêmes de l'image », mais souligne qu'il constitue une approche technique prometteuse pour permettre à chacun de travailler de façon responsable avec du contenu généré.
L'ampleur du déploiement mérite d'être soulignée : le watermarking par SynthID est désormais activé par défaut dans les principaux produits génératifs de Google — Imagen pour l'image, Veo pour la vidéo, Lyria pour l'audio, Gemini pour le texte — ce qui signifie que chaque contenu produit par ces systèmes porte, dès sa création, un signal détectable sans action supplémentaire de l'utilisateur.
À retenir. SynthID est activé par défaut — sans action de l'utilisateur — dans Imagen (image), Veo (vidéo), Lyria (audio) et Gemini (texte). Chaque contenu produit par ces systèmes porte un signal détectable dès sa création. La traçabilité n'est plus une option à activer : c'est le comportement standard.
Watermarker du texte généré : un défi d'une autre nature
Filigraner une image est déjà complexe, mais filigraner du texte pose un problème d'une nature différente. Une image dispose de millions de pixels dont on peut ajuster imperceptiblement la valeur ; un texte, lui, est une suite discrète de mots, où chaque altération est potentiellement visible pour un lecteur attentif. Il n'existe pas d'équivalent du « bruit imperceptible dans les pixels » pour du langage naturel.
La méthode des listes vertes et rouges
La solution la plus étudiée académiquement, publiée en 2023 par John Kirchenbauer et ses coauteurs dans l'article fondateur « A Watermark for Large Language Models » (présenté à la conférence ICML), repose sur une idée élégante. À chaque étape de génération, le modèle utilise le contexte des tokens précédents pour partitionner, par une fonction de hachage pseudo-aléatoire, l'ensemble du vocabulaire en deux groupes : une liste « verte » et une liste « rouge ». L'algorithme ajuste alors légèrement les probabilités d'échantillonnage pour favoriser les tokens de la liste verte, sans jamais interdire totalement les tokens de la liste rouge — ce qui préserve la fluidité et la cohérence du texte généré.
Un texte non filigrané contient, en théorie, une proportion à peu près égale de tokens issus des deux listes, puisque celles-ci changent à chaque position en fonction du contexte. Un texte filigrané, en revanche, présente une proportion significativement plus élevée de tokens « verts ». C'est cet écart statistique, mesurable sans avoir besoin d'accéder au modèle qui a généré le texte, qui permet la détection : plus le texte est long, plus le test statistique gagne en puissance, car l'écart entre proportion attendue et proportion observée s'accumule sur un plus grand nombre de tokens.
Schéma 2 — Le filigrane textuel repose sur un biais statistique : les tokens « verts » sont surreprésentés. Plus le texte est long, plus cet écart devient détectable.
Ajustez les paramètres du filigrane et observez comment la longueur du texte et la force du biais déterminent la détectabilité — illustrant concrètement pourquoi SynthID Text et la méthode Kirchenbauer gagnent en précision sur les textes longs.
Modèle : schéma de Kirchenbauer et al. (« A Watermark for Large Language Models », ICML 2023). Le z-score mesure l'écart entre la proportion de tokens « verts » observée et celle attendue sous l'hypothèse d'un texte non filigrané. La calibration du biais effectif (c = 0,18) est ajustée sur les données publiées dans l'article original, à température d'échantillonnage T ≈ 1,0.
SynthID appliqué au texte : une variante affinée
Google DeepMind a publié en octobre 2024, dans la revue Nature, une évaluation à grande échelle de sa propre méthode de watermarking textuel, baptisée SynthID Text. L'article, intitulé « Scalable watermarking for identifying large language model outputs », décrit un schéma qui ne modifie en rien l'entraînement du modèle de langage : seule la procédure d'échantillonnage — c'est-à-dire la façon dont le modèle choisit le mot suivant parmi les candidats probables — est ajustée. La détection, de son côté, est peu coûteuse en calcul et ne nécessite pas d'accéder au modèle original. Un point technique notable : la méthode reste opérationnelle sur des textes courts, dès trois phrases, et sa robustesse comme sa précision de détection augmentent mécaniquement avec la longueur du texte analysé. Google DeepMind a par la suite rendu ce schéma librement accessible, permettant à d'autres équipes travaillant sur des modèles de langage similaires de l'intégrer à leurs propres systèmes.
SynthID-Text ne touche pas à l'entraînement du modèle : il modifie uniquement la façon dont les mots sont choisis au moment de la génération — un ajustement chirurgical, invisible à la lecture, mais statistiquement détectable.
Une fragilité intrinsèque au texte
Le watermarking textuel a toutefois une limite structurelle que le watermarking d'image n'a pas dans les mêmes proportions : il suffit de reformuler un texte — par un correcteur humain, ou plus simplement en le faisant repasser par un autre modèle de langage chargé de le paraphraser — pour perturber suffisamment la distribution statistique des tokens et affaiblir, voire annuler, la détection. C'est une différence de nature avec l'image, où une recompression ou un léger recadrage laisse généralement le filigrane pixel intact. Cette vulnérabilité au « scrubbing » par paraphrase reste, à ce jour, l'un des points de recherche les plus actifs sur le watermarking de texte.
À retenir. Le watermarking de texte est structurellement plus fragile que celui de l'image : un simple reformulage — humain ou par un autre modèle — peut effacer le signal statistique. C'est pourquoi la longueur du texte analysé est le facteur déterminant. La détection gagne en fiabilité avec la longueur du texte ; les seuils exacts dépendent du schéma et de ses réglages.
C2PA et les Content Credentials : la carte d'identité cryptographique du fichier
Si le watermarking cherche à cacher un signal dans le contenu, la norme C2PA prend le problème à l'envers : elle rend l'origine du fichier explicite, lisible et vérifiable, en l'accompagnant d'un « manifeste » de provenance protégé par une signature numérique.
Une origine associative, avant de devenir une norme technique
L'initiative trouve sa source en novembre 2019, quand Adobe, le New York Times et Twitter fondent la Content Authenticity Initiative (CAI), une association dont l'objectif affiché est de lutter contre la désinformation en donnant aux créateurs et aux plateformes les moyens de prouver l'origine d'un contenu. En février 2021, cette initiative associative se transforme en norme technique ouverte lorsque Adobe, Arm, la BBC, Intel, Microsoft et Truepic cofondent la Coalition for Content Provenance and Authenticity (C2PA), chargée de spécifier précisément le format des manifestes de provenance. Selon le bilan publié par Adobe pour les cinq ans de la CAI, l'initiative rassemble aujourd'hui plusieurs milliers de membres, allant d'organisations à but non lucratif à des médias, en passant par des fabricants d'appareils photo comme Nikon et des institutions publiques.
Comment fonctionne un manifeste C2PA
Concrètement, un manifeste C2PA voyage avec le fichier et consigne qui a créé le contenu, à quel moment, avec quel outil, et s'il a été modifié depuis — le tout protégé par une signature numérique. Le mécanisme technique repose sur trois éléments :
- Le hachage cryptographique du contenu : le fichier est hashé (généralement en SHA-256) et cette empreinte est incluse dans le manifeste signé, ce qui crée un lien cryptographique fort — un « hard binding » — entre le manifeste et le contenu exact qu'il décrit ;
- Le format de conteneur JUMBF (JPEG Universal Metadata Box Format), qui permet d'embarquer le manifeste dans une grande variété de formats de fichiers : JPEG, PNG, MP4, PDF, WebP, AVIF, HEIC ;
- La chaîne de provenance : lorsqu'un fichier déjà porteur d'un manifeste est édité, le manifeste d'origine devient une « référence d'ingrédient » dans le nouveau manifeste, ce qui construit une chaîne traçable d'éditions successives plutôt qu'un simple instantané figé.
La conséquence pratique de ce hachage cryptographique est importante : toute modification, même minime, au niveau du pixel invalide le hash inscrit dans le manifeste, ce qui rend la falsification détectable. C'est une différence fondamentale avec les anciens standards de métadonnées comme l'EXIF ou l'IPTC, que C2PA vient d'ailleurs englober et sécuriser plutôt que remplacer : le standard est conçu pour interopérer avec ces formats existants et les transformer en assertions vérifiables au sein d'un même manifeste signé.
Qui a déjà déployé quoi : un état des lieux concret
La théorie est une chose ; l'adoption effective par les grandes plateformes en est une autre. Sur ce terrain, les années 2023 et 2024 ont vu une accélération notable, avec des annonces qui se sont enchaînées à un rythme soutenu depuis le début de l'année 2024.
OpenAI a ouvert le bal le 6 février 2024, en annonçant que les images générées par DALL-E 3, que ce soit via l'API ou via ChatGPT, embarqueraient désormais des métadonnées C2PA. Le déploiement complet sur les applications mobiles était achevé dès le 12 février. Les images produites via l'API portent une signature indiquant qu'elles proviennent de DALL-E 3 ; celles produites dans l'interface ChatGPT portent un manifeste supplémentaire précisant qu'elles ont transité par ChatGPT, ce qui construit une double chaîne de provenance. Un détail technique intéressant, révélateur du coût réel de la traçabilité : l'ajout de ces métadonnées augmente la taille du fichier d'environ 3 à 5 % pour les images produites via l'API, et jusqu'à 32 % pour celles produites dans ChatGPT, où le manifeste est plus riche. OpenAI a d'ailleurs précisé que ces métadonnées ne constituent pas une solution parfaite à elles seules pour déterminer quels outils ont été utilisés pour créer une image.
Meta a suivi une trajectoire en deux temps. En février 2024, l'entreprise annonce l'étiquetage des images générées par IA sur Facebook, Instagram et Threads, fondés sur la détection de signaux techniques partagés par l'industrie — notamment les manifestes C2PA — ou sur la déclaration volontaire des utilisateurs au moment de la publication. En avril 2024, à la suite des retours de son Oversight Board, Meta précise son approche : les labels « Made with AI » s'appliqueront à un périmètre élargi de contenus vidéo, audio et image, avec un début de déploiement effectif en mai 2024. En juillet 2024, Meta a remplacé l'étiquette « Made with AI » par « AI info ». Techniquement, le système de Meta examine les métadonnées IPTC, EXIF et XMP des fichiers uploadés, en cherchant spécifiquement la présence de manifestes C2PA ou d'autres marqueurs techniques reconnus par l'industrie.
Comparatif des principaux dispositifs déployés
| Acteur | Dispositif | Date de lancement | Type de contenu couvert |
|---|---|---|---|
| Google DeepMind | SynthID (images) | Août 2023 | Images (Imagen) |
| Adobe / CAI | Content Authenticity Initiative | Novembre 2019 | Association, norme en devenir |
| C2PA (Adobe, BBC, Microsoft, Intel, Arm, Truepic) | Norme technique C2PA | Février 2021 | Images, vidéo, audio, PDF |
| OpenAI | Métadonnées C2PA sur DALL-E 3 | Février 2024 | Images |
| Meta | Labels « AI info » / « Made with AI » | Février puis avril 2024 | Image, vidéo, audio |
| Google DeepMind | SynthID Text (Nature) | Octobre 2024 | Texte (Gemini et modèles compatibles) |
Ce tableau ne représente qu'une partie du paysage — d'autres acteurs, notamment Microsoft avec ses propres outils de vérification, ou des entreprises spécialisées comme Truepic, développent des briques complémentaires — mais il illustre une dynamique claire : en un peu plus d'un an, la traçabilité des contenus IA est passée du statut de sujet de recherche académique à celui de fonctionnalité déployée par défaut dans des produits utilisés par des centaines de millions de personnes.
Les limites techniques : ce que le watermarking ne garantit pas encore
Il serait malhonnête de présenter ces dispositifs comme des solutions définitives. La recherche académique documente, avec la même rigueur que celle appliquée au développement des filigranes, leurs limites actuelles — et c'est précisément cette transparence scientifique qui permet d'améliorer les générations suivantes de ces systèmes.
Les filigranes pixel peuvent être effacés
Un article de référence publié en juin 2023 par Xuandong Zhao et ses coauteurs, intitulé « Invisible Image Watermarks Are Provably Removable Using Generative AI », démontre par la preuve formelle et par l'expérimentation qu'un filigrane invisible inséré au niveau des pixels peut être supprimé à l'aide d'un modèle génératif. La méthode proposée consiste à ajouter du bruit aléatoire à l'image pour détruire le filigrane, puis à reconstruire l'image à l'aide d'algorithmes de débruitage et de modèles génératifs préentraînés, notamment des modèles de diffusion. Les auteurs prouvent formellement que cette attaque garantit la suppression de tout filigrane invisible qui ne perturbe l'image que dans une plage limitée, mesurée en distance euclidienne dans l'espace des pixels — ce qui couvre la plupart des schémas de watermarking pixel existants au moment de la publication.
Les filigranes qui préservent la similarité sémantique de l'image, plutôt que de se cantonner à une perturbation pixel de faible amplitude, constituent une piste de défense plus robuste face à ce type d'attaque par régénération — un déplacement de l'effort de recherche que les auteurs appellent explicitement de leurs vœux.
Cette découverte n'invalide pas l'intérêt du watermarking pixel — pour l'écrasante majorité des usages courants, recadrage, compression JPEG standard, changement de format, le signal résiste bien, comme le montrent les tests de robustesse publiés par Google DeepMind pour SynthID. Mais elle établit une limite claire : face à un acteur disposant des compétences et des moyens de calcul pour mener une attaque de régénération ciblée, un filigrane pixel seul ne constitue pas une garantie absolue. C'est un rappel utile : le watermarking est une couche de défense parmi d'autres, pas un verrou infalsifiable.
Le texte reste le maillon le plus fragile
Comme évoqué plus haut, le watermarking de texte souffre d'une vulnérabilité structurelle à la paraphrase, qu'elle soit humaine ou automatisée. La littérature académique distingue généralement trois familles d'attaques contre les schémas de watermarking : le vol (reproduire le comportement du filigrane sans en connaître la clé, pour produire de faux positifs), le spoofing (fabriquer un texte non généré par IA mais qui déclenche la détection) et le scrubbing (effacer un filigrane réellement présent). Les schémas les plus récents, dont SynthID Text, cherchent à limiter ces trois vecteurs, mais aucun ne les élimine totalement — un point que Google DeepMind reconnaît explicitement dans sa publication.
Les métadonnées disparaissent facilement
Du côté de la provenance déclarative, la limite est différente mais tout aussi réelle : une simple capture d'écran, un envoi par une messagerie qui recompresse systématiquement les images, ou un export depuis un logiciel qui ne préserve pas les métadonnées suffisent à faire disparaître un manifeste C2PA. C'est précisément la raison pour laquelle les grands acteurs combinent aujourd'hui watermarking pixel — qui résiste mieux à ces pertes — et manifeste C2PA — qui transporte une information plus riche tant qu'il survit au trajet du fichier.
Le cadre réglementaire : l'Europe et la Chine ouvrent la marche
Face à ces enjeux, les régulateurs ne sont pas restés inactifs. Deux cadres juridiques structurent d'ores et déjà le paysage, avec des approches sensiblement différentes.
L'Article 50 du règlement européen sur l'IA
Le règlement européen sur l'intelligence artificielle (AI Act), entré en vigueur en 2024, comprend un article spécifiquement dédié à la transparence des contenus générés : l'Article 50. Ce texte impose aux fournisseurs de systèmes d'IA générant du contenu synthétique — audio, image, vidéo ou texte — de veiller à ce que les sorties de leurs systèmes soient marquées dans un format lisible par machine et détectables comme artificiellement générées ou manipulées. Une obligation complémentaire vise les déployeurs : ceux qui utilisent l'IA pour créer des hypertrucages (deepfakes) doivent en informer explicitement le public, et cette obligation s'étend aux textes générés ou manipulés par IA publiés pour informer le public sur des questions d'intérêt public, sauf si le texte a fait l'objet d'un contrôle humain ou éditorial et qu'une personne en assume la responsabilité éditoriale. Ces obligations de transparence s'appliquent depuis le 2 août 2026.
À retenir. Deux dates clés structurent le calendrier de conformité : le 1ᵉʳ septembre 2025 (entrée en vigueur des mesures chinoises, norme GB 45438-2025) et le 2 août 2026 (application de l'Article 50 de l'AI Act européen). Les entreprises qui déploient déjà C2PA ou SynthID disposent d'une longueur d'avance : les standards techniques attendus par les régulateurs sont précisément ceux que l'industrie a construits ces cinq dernières années.
Les mesures chinoises de marquage
De son côté, la Chine a pris une longueur d'avance calendaire. L'Administration du cyberespace de Chine (Cyberspace Administration of China, CAC) a publié le 14 mars 2025 la version finale de ses Mesures pour l'étiquetage du contenu généré par l'intelligence artificielle, accompagnées d'une norme technique nationale contraignante, la GB 45438-2025. Ces mesures imposent aux fournisseurs de services de génération et de synthèse de contenu d'ajouter des étiquettes explicites et implicites au contenu produit — textes, images, fichiers audio, vidéos et scènes virtuelles. Les étiquettes explicites prennent la forme de marques visibles ou audibles directement perceptibles par l'utilisateur (la mention « IA » insérée dans le texte, en filigrane visuel, ou dans le rythme d'une voix de synthèse, par exemple), tandis que les étiquettes implicites sont intégrées aux métadonnées du fichier, sur un principe proche de celui de C2PA. Ces mesures sont entrées en vigueur le 1er septembre 2025.
Deux philosophies réglementaires, un objectif commun
| Dimension | Union européenne (AI Act, Article 50) | Chine (Mesures CAC, GB 45438-2025) |
|---|---|---|
| Publication du texte | Règlement adopté en 2024 | Version finale publiée le 14 mars 2025 |
| Entrée en application | 2 août 2026 | 1er septembre 2025 |
| Obligation principale | Marquage machine-lisible + information du public sur les deepfakes | Étiquetage explicite et implicite combiné |
| Portée | Fournisseurs et déployeurs de systèmes d'IA générative | Fournisseurs de services de génération et plateformes de diffusion |
Le point commun de ces deux cadres est net : ni l'Union européenne ni la Chine ne se contentent d'une déclaration d'intention. Les deux textes s'appuient sur des standards techniques déjà éprouvés par l'industrie — le marquage machine-lisible pour l'Europe se prête naturellement à des implémentations de type C2PA ou watermarking statistique, tandis que la norme technique chinoise détaille précisément les formats de métadonnées attendus. Cette convergence entre régulation et standardisation technique est de bon augure pour l'interopérabilité : les entreprises qui déploient déjà SynthID ou C2PA ne partent pas de zéro pour se conformer à ces nouvelles obligations.
Détection a posteriori et provenance déclarative : deux logiques complémentaires
Un point mérite d'être clarifié, car il est souvent source de confusion dans les discussions publiques : watermarking et provenance ne répondent pas à la même question de fond, et les confondre conduit à des attentes mal calibrées.
Le watermarking relève d'une logique de détection a posteriori. Il ne nécessite aucune action de la part de l'utilisateur final : le signal est intégré au moment de la génération, et il suffit ensuite qu'un outil de détection, disposant de la bonne clé ou du bon modèle, analyse le contenu pour déterminer statistiquement s'il porte le filigrane. C'est un mécanisme puissant précisément parce qu'il ne repose sur aucune bonne volonté déclarative : même un contenu partagé sans aucune mention de son origine peut, en théorie, être identifié.
La provenance C2PA relève d'une logique différente, celle de la déclaration vérifiable. Elle ne cherche pas à détecter un signal caché, mais à transporter, de façon infalsifiable tant que le manifeste survit, une information explicite sur l'origine du contenu. Sa force est la richesse de l'information — outil utilisé, date, chaîne d'éditions — là où le watermarking se limite le plus souvent à un signal binaire ou à une identification de la famille de modèles. Sa faiblesse est sa dépendance à la survie des métadonnées tout au long du trajet du fichier.
En pratique, les deux logiques s'articulent bien : un fournisseur de modèle peut, comme le font déjà Google et OpenAI, appliquer les deux à la fois sur un même contenu. Si les métadonnées survivent, l'utilisateur dispose d'une information de provenance riche et vérifiable. Si elles sont perdues en cours de route — ce qui reste le cas le plus fréquent sur les réseaux sociaux —, le filigrane statistique offre un filet de sécurité, moins riche en information mais plus robuste à la circulation du fichier.
Schéma 3 — Aucune méthode n'est universellement robuste. La combinaison watermarking + C2PA augmente les chances qu'au moins un signal survive dans les scénarios courants. ≈ pour le manifeste C2PA : il survit seulement si l'outil d'édition est compatible C2PA et ajoute un nouveau manifeste.
Des cas d'usage concrets, au-delà de la seule lutte contre la fraude
Si l'affaire Arup illustre l'enjeu défensif le plus spectaculaire, la traçabilité des contenus IA sert des usages positifs qui vont bien au-delà de la prévention de la fraude.
Le journalisme et la vérification des sources
Pour les rédactions, la capacité à vérifier qu'une image ou une vidéo n'a pas été altérée, ou à l'inverse à identifier clairement qu'un visuel d'illustration est généré, devient un outil de travail quotidien. C'est d'ailleurs l'une des motivations premières qui a conduit le New York Times à cofonder la Content Authenticity Initiative dès 2019, bien avant l'essor des générateurs d'images grand public : la question de la provenance des visuels ne date pas de l'IA générative, mais celle-ci l'a rendue considérablement plus pressante.
La protection des créateurs et de leurs droits
Pour les photographes, illustrateurs et créateurs de contenu, un manifeste de provenance permet d'associer de façon vérifiable une œuvre à son auteur, y compris lorsqu'elle circule et est réutilisée par des tiers. Les fabricants d'appareils photo, à l'image de Nikon, membre de la Content Authenticity Initiative, intègrent désormais la capacité de signer les métadonnées de provenance directement au moment de la prise de vue — ce qui étend le principe bien au-delà du seul contenu généré par IA, vers l'authentification de tout contenu visuel dès sa capture.
La confiance dans les contenus éducatifs et institutionnels
Les établissements publics et les organismes d'enseignement qui produisent des supports pédagogiques assistés par IA peuvent, grâce à ces dispositifs, indiquer clairement à leur public quelle part du contenu relève de la génération automatisée, sans que cela nuise à la crédibilité de l'ensemble — bien au contraire : la transparence explicite renforce la confiance dans le contenu qui n'est pas signalé comme généré.
Ce que ces dispositifs changent concrètement, pour les entreprises et les créateurs
Au-delà de la mécanique technique, ces avancées ont des implications directes pour quiconque produit ou diffuse du contenu.
Pour une entreprise qui intègre des générateurs d'images ou de texte dans ses outils internes, le premier réflexe pratique consiste à vérifier si les modèles utilisés — via une API comme celle d'OpenAI ou de Google — embarquent déjà un dispositif de watermarking ou de métadonnées C2PA par défaut. Dans l'affirmative, aucune action supplémentaire n'est nécessaire pour bénéficier de cette traçabilité ; il suffit de veiller, dans les pipelines de traitement d'image ou de publication, à ne pas supprimer ces métadonnées par un traitement trop agressif — un export mal configuré peut, sans mauvaise intention, effacer un manifeste utile.
Pour une rédaction ou une équipe de communication, la bonne pratique qui se dessine consiste à ne pas se reposer uniquement sur la détection automatique, mais à documenter elle-même, de façon transparente, l'usage de l'IA dans la production de contenu — ce que font déjà la plupart des médias qui publient des visuels générés, en les signalant explicitement dans la légende, en complément d'un éventuel manifeste technique.
Pour un développeur qui construit un système de vérification, l'articulation la plus robuste combine plusieurs signaux plutôt que de s'appuyer sur un seul : présence d'un manifeste C2PA, détection d'un filigrane statistique de type SynthID, et éventuellement des méthodes de détection complémentaires fondées sur l'analyse forensique des artefacts propres aux modèles de génération. Aucun signal isolé n'offre une garantie absolue ; leur combinaison réduit sensiblement le taux d'erreur.
La bonne question n'est pas « ce contenu porte-t-il un filigrane ? » mais « combien de signaux indépendants convergent vers la même conclusion ? » — c'est cette redondance, plus que la perfection d'une seule méthode, qui fait la fiabilité d'un système de vérification.
Vers un écosystème de confiance : ce qui se dessine
La trajectoire observée depuis 2019 permet de dégager une tendance de fond claire : la traçabilité des contenus IA est en train de passer du statut d'initiative isolée à celui de brique standard de l'écosystème numérique, portée conjointement par l'industrie et par la régulation.
Trois évolutions structurent cette dynamique. D'abord, la convergence technique : les grands fournisseurs de modèles n'inventent plus chacun leur propre format propriétaire, mais s'appuient de plus en plus sur des standards partagés — C2PA pour la provenance, des architectures de watermarking largement documentées et, pour partie, mises à disposition d'autres équipes, comme l'a fait Google DeepMind pour SynthID Text. Cette convergence facilite l'interopérabilité entre plateformes : un manifeste C2PA créé par un outil Adobe reste lisible par un outil Microsoft ou par les systèmes de vérification de Meta.
Ensuite, l'alignement réglementaire : l'AI Act européen et les mesures chinoises, bien que distinctes dans leur calendrier et leur formulation, convergent vers la même exigence de fond — un marquage détectable et une information explicite du public. Cet alignement, même partiel, réduit la fragmentation à laquelle les entreprises opérant à l'international auraient dû faire face si chaque juridiction avait imposé un format radicalement différent.
Enfin, la maturation de la recherche sur la robustesse : les travaux qui documentent les limites actuelles des filigranes — comme celui de Zhao et ses coauteurs sur la suppression des filigranes pixel, ou les recherches sur la vulnérabilité du watermarking textuel à la paraphrase — ne sont pas des signaux d'échec, mais le moteur normal de l'amélioration itérative de ces systèmes. Chaque limite documentée publiquement devient la spécification du prochain schéma de watermarking à concevoir.
Ce qu'il faut retenir
Le watermarking et la provenance ne sont plus des concepts de laboratoire : SynthID a déjà marqué plus de contenus que la plupart des internautes ne l'imaginent, les métadonnées C2PA accompagnent par défaut les images générées par DALL-E 3, et Meta examine ces signaux sur Facebook, Instagram et Threads pour informer ses utilisateurs. Deux logiques complémentaires structurent cet écosystème naissant : un signal caché, statistiquement détectable, qui résiste à la circulation du fichier ; et un manifeste explicite, cryptographiquement signé, qui transporte une information riche tant qu'il n'est pas perdu en route.
Aucune de ces deux approches n'est parfaite isolément — les chercheurs qui les développent le documentent eux-mêmes avec la même rigueur que celle qui a présidé à leur conception. Mais leur combinaison, désormais déployée par les principaux fournisseurs de modèles et désormais encadrée par la loi en Europe comme en Chine, dessine un écosystème où la question « ce contenu a-t-il été généré par une IA ? » cesse d'être une devinette pour devenir, de plus en plus souvent, une réponse vérifiable.
Pour qui suit l'actualité de l'IA générative, la leçon utile n'est pas de céder à une confiance aveugle dans ces dispositifs, ni de les rejeter parce qu'ils ne sont pas absolus. C'est de comprendre leurs mécanismes — la distribution statistique des tokens, le hachage cryptographique d'un fichier, la logique du signal pixel imperceptible — pour évaluer, cas par cas, le niveau de certitude qu'ils permettent réellement d'établir. C'est, au fond, tout l'objet de cette chronique.
Sources
Cet article s'appuie sur des sources publiques et vérifiables :
- Google DeepMind, « Identifying AI-generated images with SynthID » — deepmind.google (mécanisme du watermarking d'image).
- Google DeepMind, « Watermarking AI-generated text and video with SynthID » — deepmind.google.
- Dathathri, S. et al., « Scalable watermarking for identifying large language model outputs » — Nature, octobre 2024 (SynthID Text).
- Kirchenbauer, J. et al., « A Watermark for Large Language Models » — Proceedings of ICML 2023 (méthode des listes vertes et rouges).
- Zhao, X. et al., « Invisible Image Watermarks Are Provably Removable Using Generative AI » — arXiv 2306.01953 (limites et attaques par régénération).
- C2PA, « Frequently Asked Questions » — c2pa.org (fonctionnement du manifeste de provenance).
- Adobe Blog, « 5-Year Anniversary of the Content Authenticity Initiative » — blog.adobe.com (histoire de la CAI et du C2PA).
- DailyAI, « OpenAI to add C2PA metadata to images created by DALL-E 3 » — dailyai.com.
- Meta (About Meta), « Labeling AI-Generated Images on Facebook, Instagram and Threads » — about.fb.com.
- Meta (About Meta), « Our Approach to Labeling AI-Generated Content and Manipulated Media » — about.fb.com.
- EU Artificial Intelligence Act, « Article 50: Transparency Obligations » — artificialintelligenceact.eu.
- China Law Translate, « Measures for Labeling of AI-Generated Synthetic Content » — chinalawtranslate.com.
- CNN Business, « Arup revealed as victim of $25 million deepfake scam involving Hong Kong employee » — cnn.com.
