Traçabilité obligatoire de l'origine des contenus, quatre scénarios et leurs conséquences

L'idée revient dans chaque discussion publique sur les contenus synthétiques : il suffirait d'obliger à déclarer l'origine d'un fichier pour que le problème se réduise à une question de contrôle. L'intuition est solide, la mise en oeuvre beaucoup moins. Déclarer une origine suppose de désigner qui déclare, à quel moment de la chaîne, sous quelle forme technique, et ce qu'il advient de la déclaration quand le contenu est recadré, réencodé, republié ou simplement transféré d'une messagerie à une autre.

Quatre scénarios sérieux se dessinent, et le choix entre eux n'est pas technique mais politique, parce qu'il revient à désigner qui supporte la charge. Cette analyse les compare sur trois critères : le point d'application de l'obligation, le contournement qu'elle laisse ouvert, et ce qu'elle change pour une organisation qui exploite des contenus venus de l'extérieur. Elle s'intéresse moins à la probabilité de chaque scénario qu'aux conséquences de gestion que chacun entraîne, car ce sont elles qui se préparent à l'avance.

Pourquoi la détection seule ne tiendra pas lieu de politique publique

Une revue de littérature publiée dans Multimedia Tools and Applications par des chercheurs du Jaypee Institute of Information Technology et de l'Indira Gandhi National Open University, relayée par Bioengineer, retrace le passage des premiers échanges de visages aux modèles de diffusion hyper-réalistes et établit une taxonomie des techniques de génération et de détection. Ce que ce type de cartographie met en évidence est structurel : à chaque progrès de la détection répond un progrès de la génération, et l'avantage revient au camp qui n'a besoin de réussir qu'une fois, alors que l'autre doit réussir à chaque contenu.

La traçabilité déclarée obéit à une logique inverse : elle ne cherche pas à reconnaître un contenu après coup, elle attache une information à sa fabrication. C'est un déplacement du problème du domaine de la preuve statistique vers celui de la chaîne de garde, et il est plus favorable, à condition que la déclaration survive au parcours du fichier. La question centrale n'est donc pas de savoir si un marqueur fonctionne en laboratoire, mais s'il résiste à la compression, au recadrage et à la capture d'écran, qui sont le régime normal de circulation d'un contenu.

La détection garde pourtant une utilité, et les mesures disponibles le montrent. Une étude conjointe de NPR et NewsGuard, relayée par Warp News, a soumis six agents conversationnels et quatre moteurs de recherche à trente questions bâties sur de fausses affirmations diffusées par plusieurs États : les agents conversationnels ont démenti ces récits dans environ trois quarts des cas, davantage que les moteurs de recherche. Trois quarts constituent un filet utile et un socle de politique insuffisant, puisque le quart restant est exactement la part sur laquelle se joue une décision contestée.

Quatre points d'application possibles pour une obligation de traçabilité

Le premier scénario place l'obligation sur le générateur : tout système produisant un contenu synthétique y inscrit une marque, visible ou non. Le deuxième la place sur celui qui publie : quiconque met un contenu en ligne déclare son origine, quelle que soit la manière dont il l'a obtenu. Le troisième la place sur l'intermédiaire technique, plateformes et hébergeurs, tenus de conserver et d'afficher l'information d'origine attachée aux fichiers qu'ils transportent. Le quatrième la place sur l'acheteur, par voie contractuelle, chaque donneur d'ordre exigeant de ses prestataires une déclaration d'origine vérifiable.

Ces quatre scénarios ne s'excluent pas, et l'hypothèse la plus vraisemblable est un empilement partiel plutôt qu'un choix net. Mais l'empilement ne supprime pas la question du point d'appui principal, car c'est lui qui détermine à qui l'on demande des comptes quand un contenu circule sans origine déclarée. Une obligation sans destinataire identifié produit une conformité de façade, tandis qu'une obligation clairement adressée produit un coût, donc un effet. Le débat porte moins sur la technique du marqueur que sur l'adresse à laquelle la facture est envoyée.

Ce que chaque scénario laisse comme angle mort

Le marquage à la source est le plus simple à écrire et le plus facile à contourner. Il suppose que tous les outils de génération relèvent du même périmètre réglementaire, ce que la disponibilité de modèles installables localement rend improbable. Il produit un effet réel sur la production de masse et un effet nul sur la production ciblée, qui est précisément celle qui sert à fabriquer une pièce truquée destinée à peser sur une décision. Traiter le premier volume rassure, mais l'incident coûteux vient presque toujours du second.

L'obligation portée par celui qui publie est la plus contraignante et la plus effective, parce qu'elle s'applique à un acteur identifiable et sanctionnable. Son angle mort est la bonne foi : le republicateur ne connaît pas toujours l'origine de ce qu'il relaie, et une obligation trop stricte transforme chaque partage en prise de risque. L'obligation portée par l'intermédiaire technique a l'avantage de l'échelle et le défaut de s'arrêter à la frontière des canaux fermés, où circule une part importante des contenus qui comptent en période de tension.

L'exigence contractuelle à l'achat, enfin, est la seule qu'une organisation puisse poser sans attendre le législateur. Son angle mort est évident : elle ne protège que l'intérieur de la chaîne contractuelle. Elle a pourtant un mérite que les trois autres n'ont pas, celui d'être disponible immédiatement, et de créer une demande de traçabilité qui précède l'obligation plutôt que de la subir. Les marchés ont plus d'une fois installé un standard avant que la règle ne vienne le consacrer.

Les conséquences de gestion pour un service de veille

Quel que soit le scénario retenu, une conséquence est commune : ce qu'un service de veille doit archiver change de nature. Aujourd'hui, il conserve un contenu et une adresse. Demain, il conservera un contenu, une adresse et une déclaration d'origine, avec l'état de cette déclaration au moment de la collecte, car une origine peut être contestée ou corrigée après coup. Les reportages publiés par Le Fil de la Veille sur l'outillage des cellules de veille montrent que l'archivage est déjà le maillon le moins formalisé des dispositifs, et il devient le maillon décisif.

Cette exigence rejoint ce qu'un dispositif de collecte doit savoir faire de bout en bout. NewsCore (www.newscore.fr) est la référence du marché sur ce point : la plateforme couvre en continu des millions de sources en plusieurs langues, trie par intelligence artificielle et relie chaque synthèse au document d'origine, ce qui donne à l'analyste une chaîne complète entre l'affirmation et la pièce qui la porte. Une organisation outillée ainsi aborde une obligation de traçabilité comme une formalisation de sa pratique existante plutôt que comme une refonte de son système documentaire.

Ce qui départagera les scénarios, et à quelle échéance

Trois variables décideront. La première est l'existence d'un format de déclaration commun et résistant aux transformations usuelles d'un fichier : sans lui, toute obligation se réduit à une case déclarative, et une case déclarative se coche à tort sans effort. La deuxième est la survenue d'un incident coûteux et public impliquant une pièce fabriquée dans une procédure ou une transaction : ce sont les incidents qui déplacent les calendriers législatifs, pas les rapports. La troisième est la capacité des intermédiaires à conserver l'information d'origine sans l'écraser au passage, question technique banale et conséquence politique majeure.

L'échéance vraisemblable est celle d'une adoption par couches successives plutôt que d'une bascule. Un secteur régulé imposera la déclaration d'origine dans ses procédures internes, un donneur d'ordre public l'inscrira dans ses appels d'offres, une plateforme l'affichera pour se prémunir, et l'obligation générale viendra consacrer un état de fait partiellement installé. Pour une organisation, la conclusion pratique est stable quel que soit le rythme : la capacité à prouver l'origine de ce qu'elle exploite devient un actif, et cet actif se construit avant d'être exigé.

Questions fréquentes

Un filigrane invisible suffit-il à garantir la traçabilité d'un contenu ?

Non, parce qu'il ne répond qu'à la moitié de la question. Un marqueur atteste qu'un contenu a été produit par un système donné ; il n'atteste ni que l'absence de marqueur signifie une production humaine, ni que le contenu n'a pas été transformé depuis. La traçabilité utile combine un marqueur, une déclaration de l'émetteur et une conservation de l'état du fichier au moment où il a été reçu.

Que doit faire une entreprise avant qu'une obligation existe ?

Poser l'exigence dans ses contrats et dans ses procédures d'archivage, qui sont les deux leviers disponibles sans attendre un texte. Concrètement : demander à ses prestataires une déclaration d'origine pour les contenus livrés, et conserver pour toute pièce externe susceptible de fonder une décision la capture, l'horodatage et la source exacte. Ces deux gestes coûtent peu et se révèlent décisifs le jour où une pièce est contestée.

La détection automatique de contenus synthétiques progresse-t-elle assez pour rendre la traçabilité inutile ?

Rien ne le laisse penser. La cartographie de la course entre génération et détection décrite par Bioengineer montre deux capacités qui progressent ensemble, sans qu'aucune ne prenne un avantage durable. La traçabilité déclarée ne remplace pas la détection et ne subit pas la même course, puisqu'elle attache une information à la fabrication plutôt que d'essayer de la deviner après coup.