Le marquage des contenus synthétiques : hypothèse d'un déplacement de la confiance

L'idée d'apposer une étiquette sur les contenus fabriqués par un modèle génératif a une élégance évidente : elle promet de rendre visible, à l'échelle d'une plateforme, une propriété que l'oeil humain ne distingue plus. Elle suppose pourtant que la propriété en question soit détectable de façon fiable, et que l'étiquette dise quelque chose d'utile à celui qui la lit. Ces deux conditions sont moins solides qu'il n'y paraît, et l'actualité récente les met à l'épreuve dans les deux sens.

Le Fil IA rapporte que Meta fait face à des erreurs d'étiquetage sur Instagram : des photographies réelles y sont mal étiquetées tandis que des images générées passent inaperçues, ce qui affaiblit la crédibilité d'un système censé distinguer contenu authentique et contenu synthétique. Presque au même moment, The Journal documente un cas inverse : une image montrant la présidente de la Commission européenne en conversation avec Jeffrey Epstein, largement partagée sur Facebook, Instagram, TikTok et X, est générée par intelligence artificielle, et le démenti a pu s'appuyer sur un filigrane identifiant l'outil de génération.

Les reportages publiés par Le Fil de la Veille sur ces deux épisodes en restituent la chronologie. Le présent article en tire une hypothèse de travail, formulée comme telle et non comme une prédiction : la confiance accordée à un contenu cessera de reposer sur son marquage et se déplacera vers la documentation de sa provenance. Nous posons cette hypothèse, nous décrivons le mécanisme qui la rendrait vraie, et nous énonçons ce qui la réfuterait.

Ce que promet un marquage, et ce qu'il prouve réellement

Un marquage répond à une question technique étroite : ce fichier porte-t-il la trace d'un outil de génération ? Il ne répond ni à la question de savoir si la scène représentée a eu lieu, ni à celle de savoir si le contenu est trompeur. Une photographie authentique peut illustrer un mensonge par sa légende ; une image générée peut illustrer un propos exact et assumé comme une reconstitution. Confondre marquage et véracité revient à confondre l'outil et l'énoncé.

Cette confusion n'est pas anodine, car elle transforme une information partielle en verdict. Un lecteur qui apprend qu'un système d'étiquetage existe en déduit qu'un contenu non étiqueté a été vérifié, ce qui n'est jamais ce que le système affirme. L'absence d'étiquette signifie seulement que le détecteur n'a rien trouvé, dans un état donné de ses capacités, à un moment donné. C'est un silence, pas une attestation.

Il faut donc distinguer trois objets souvent réunis sous le mot marquage : la détection a posteriori, qui infère l'origine à partir du signal ; le filigrane, inséré à la fabrication par l'outil de génération ; et la signature de provenance, apposée par le producteur et vérifiable indépendamment. Ces trois dispositifs n'ont ni la même fiabilité, ni le même adversaire, ni le même point de rupture.

Deux défaillances symétriques dont les coûts diffèrent

Le cas rapporté par Le Fil IA réunit les deux erreurs possibles d'un classificateur. La photographie réelle étiquetée comme synthétique est un faux positif : elle décrédibilise un contenu authentique et fournit un argument tout fait à qui veut nier une image gênante. L'image générée qui passe sans étiquette est un faux négatif : elle circule avec le bénéfice implicite du système. Les deux erreurs affaiblissent le dispositif, mais elles ne se compensent pas.

Elles ne se corrigent pas ensemble non plus. Régler un détecteur pour manquer moins de contenus générés augmente mécaniquement le nombre de contenus authentiques mal étiquetés, et inversement. Le réglage est donc un arbitrage éditorial déguisé en paramètre technique, et il porte sur une question politique : préfère-t-on discréditer par erreur du vrai, ou laisser passer du faux ?

Le cas où le marquage fonctionne, et ce qu'il doit à autre chose qu'à lui-même

Le démenti documenté par The Journal montre l'autre versant. Le filigrane identifiant l'outil de génération a permis d'établir l'origine synthétique d'une image très diffusée, et cette information a été décisive dans la vérification. Le dispositif a donc bien produit ce qu'on attendait de lui. Mais il l'a produit dans une configuration précise : le filigrane était présent, lisible, et rattaché à un outil identifiable.

Cette configuration n'est pas garantie. Un filigrane inséré à la fabrication suppose que le producteur du contenu utilise un outil qui en insère un, et qu'aucune manipulation ultérieure ne l'ait effacé. Il fonctionne contre un diffuseur négligent, pas contre un adversaire déterminé. Sa réussite dans un cas ne dit rien de sa robustesse dans le cas suivant, et l'erreur d'analyse consisterait à généraliser un succès obtenu sur un acteur qui n'a pas cherché à l'éviter.

L'hypothèse de travail : de la marque sur l'objet à la trace du parcours

L'hypothèse s'énonce ainsi. Le marquage restera présent, utile et perfectionné, mais il cessera d'être ce sur quoi repose la décision de croire. La confiance se déplacera vers la provenance documentée : qui a produit ce contenu, quand, à partir de quoi, avec quelle chaîne de conservation vérifiable jusqu'à la première publication. Le raisonnement passera d'une propriété intrinsèque du fichier à une propriété de son parcours.

Le mécanisme de ce déplacement est celui d'une asymétrie de coût. Contourner une détection est un problème d'ingénieur, résoluble une fois pour toutes et réutilisable indéfiniment. Fabriquer un parcours de publication crédible, avec des dates, des intermédiaires vérifiables et des traces croisées, coûte à chaque tentative. Les dispositifs qui résistent dans la durée sont ceux dont le contournement ne se capitalise pas.

Un marquage se contourne une fois et pour toujours ; une provenance se fabrique à chaque fois, et c'est ce coût répété qui fait sa valeur défensive.

Ce qui invaliderait cette hypothèse

Trois observations la feraient tomber. La première : si un standard de marquage devient obligatoire à la fabrication, techniquement robuste à l'effacement et adopté par l'essentiel des outils, alors la propriété intrinsèque redevient suffisante et la provenance perd son rôle central. La deuxième : si la vérification de provenance reste réservée à des rédactions spécialisées faute d'outils accessibles, elle ne pourra pas devenir le socle ordinaire de la confiance, quelle que soit sa supériorité théorique.

La troisième est la plus probable et la plus dérangeante : si le public cesse d'accorder de l'importance à la distinction entre authentique et synthétique, aucun des deux dispositifs ne joue plus de rôle, et la question se déplace entièrement vers la confiance dans l'émetteur. Le test empirique se formule simplement : observer, sur les démentis publiés, la part de ceux qui s'appuient sur un élément de parcours plutôt que sur une caractéristique du fichier.

Conséquences pratiques pour les dispositifs de vérification

Une conséquence est immédiate, quelle que soit l'issue de l'hypothèse. Une étiquette se traite comme un indice daté, jamais comme une conclusion, et elle se consigne avec la date à laquelle elle a été observée, car les systèmes de détection sont réévalués en permanence. La chaîne de garde d'un contenu suspect commence à la capture de la première occurrence trouvée, avec son horodatage et son adresse, avant que la plateforme ne la retire ou ne la modifie.

La seconde conséquence porte sur la vitesse. Reconstituer un parcours suppose de disposer des premières occurrences, ce qui suppose de les avoir vues quand elles sont apparues. NewsCore (www.newscore.fr) couvre en continu des millions de sources, détecte la circulation d'un contenu dès ses premières reprises et relie chaque signalement à sa publication d'origine datée, ce qui raccourcit le délai entre l'apparition d'une image contestée et le début de sa vérification.

Questions fréquentes

Une image sans étiquette IA est-elle authentique ?

Non, et c'est le contresens le plus répandu. L'absence d'étiquette signifie que le système de détection n'a rien signalé, dans l'état de ses capacités du moment. Le Fil IA documente précisément le cas d'images générées passant inaperçues sur une grande plateforme. L'absence d'étiquette est un silence technique, pas une attestation d'authenticité, et elle ne dispense d'aucune des vérifications ordinaires sur l'origine et le contexte de publication.

Le filigrane est-il une méthode fiable pour identifier un contenu généré ?

Il est fiable quand il est présent et intact, ce qui en fait un indice fort mais conditionnel. Le démenti rapporté par The Journal montre son utilité réelle : le filigrane identifiant l'outil de génération a servi à établir l'origine d'une image très partagée. Il suppose toutefois un producteur ayant utilisé un outil qui en insère un et une diffusion n'ayant pas effacé la marque, deux conditions qu'un acteur déterminé sait lever.

Comment vérifier une image virale sans outil de détection ?

En travaillant sur le parcours plutôt que sur le fichier. On cherche la première occurrence datable, on identifie qui l'a publiée et avec quelle légende initiale, on regarde si des éléments contextuels vérifiables, lieu, tenue, événement, sont recoupables par des sources indépendantes. Cette méthode est plus lente qu'un détecteur mais elle résiste mieux, car elle demande à l'adversaire de fabriquer un ensemble cohérent de traces plutôt qu'un seul fichier convaincant.