La preuve documentaire face aux contenus synthétiques : de l'examen du contenu à la provenance

Pendant longtemps, une image, un enregistrement sonore ou une vidéo ont porté leur valeur probante en eux-mêmes. Leur production supposait un dispositif matériel, une présence, un instant : la trace attestait de l'événement, et la falsification demandait des moyens que peu d'acteurs réunissaient. Cette économie de la preuve s'est défaite en quelques années. Un visuel plausible se produit désormais sans compétence particulière, ce qui déplace la question centrale : il ne s'agit plus de savoir si une pièce est convaincante, mais d'où elle vient.

Le service français de vigilance et de protection contre les ingérences numériques éclaire ce basculement de manière nuancée. Viginum documente un usage croissant des contenus synthétiques dans la manipulation malveillante de l'information, tout en constatant que beaucoup de contenus générés par intelligence artificielle relèvent d'un usage récréatif, humoristique ou ironique. Le service a notamment observé la diffusion de visuels générés par intelligence artificielle par des comptes aux caractéristiques inauthentiques affiliés au mode opératoire Spamouflage.

Cette double observation est précieuse pour raisonner en prospective, car elle interdit les deux récits les plus commodes : celui de l'effondrement généralisé de la preuve, et celui du non-problème. Cet article formule deux hypothèses de travail sur l'évolution du régime de la preuve documentaire, puis en tire les conséquences pour les organisations qui fondent des décisions sur des pièces trouvées en source ouverte.

Ce qu'exige une preuve documentaire, et pourquoi le contenu ne suffit plus

Une pièce documentaire n'a jamais tiré sa force du seul contenu. Trois éléments fondent sa recevabilité : son contenu, sa provenance et sa cohérence avec d'autres éléments indépendants. Dans un environnement où produire un contenu vraisemblable coûtait cher, le premier élément suffisait en pratique, et les deux autres n'étaient mobilisés que dans les contextes exigeants, expertise judiciaire ou vérification journalistique. La banalisation des outils génératifs supprime cette économie et ramène la provenance au premier plan.

Le déplacement est moins spectaculaire qu'il n'y paraît, car il rétablit une exigence ancienne. Les métiers qui traitent la preuve depuis longtemps, archivistique, expertise, enquête, n'ont jamais accordé de valeur autonome au contenu : ils documentent la chaîne de garde, c'est-à-dire la suite continue des détenteurs et des transformations d'une pièce depuis son origine. Ce qui change n'est donc pas la doctrine, mais le fait qu'elle cesse d'être un raffinement pour devenir la condition ordinaire de la recevabilité.

Ce que documente Viginum : une menace réelle et un usage majoritairement anodin

La nuance apportée par Viginum mérite d'être prise au sérieux plutôt que traitée comme une précaution de langage. Si une grande partie des contenus générés circule pour des raisons récréatives ou ironiques, alors la détection d'un contenu synthétique ne constitue pas, à elle seule, la détection d'une opération d'influence. Un analyste qui confond les deux produit un volume d'alertes considérable et sans valeur décisionnelle, ce qui décrédibilise durablement son dispositif.

Le critère discriminant n'est donc pas la nature du contenu mais celle du compte qui le diffuse et du schéma de diffusion. C'est ce que souligne l'observation rapportée : les visuels générés relevés par Viginum étaient portés par des comptes aux caractéristiques inauthentiques, rattachés à un mode opératoire déjà cartographié. L'inauthenticité du réseau de diffusion est le signal ; le caractère synthétique du contenu n'est qu'un attribut de ce que ce réseau véhicule.

Le rapport relayé par la DITP inscrit cette approche dans une politique publique plus large de lutte contre les manipulations de l'information, ce qui a une conséquence méthodologique pour les organisations privées : le vocabulaire, les critères de caractérisation et les seuils d'alerte se stabilisent progressivement autour de définitions communes. Aligner ses propres définitions sur ce référentiel évite de bâtir une doctrine interne isolée, difficile à faire valoir auprès d'un partenaire ou d'une autorité.

Première hypothèse : la charge de la preuve se déplace vers la provenance

Première hypothèse de travail : dans les trois à cinq prochaines années, la valeur probante d'une pièce trouvée en source ouverte dépendra principalement de la documentation de sa provenance, et marginalement de son examen interne. Cette hypothèse est déjà partiellement vérifiée dans les pratiques d'enquête, où l'archivage horodaté d'une page, la conservation de l'adresse d'origine et la capture des métadonnées disponibles précèdent toute analyse du contenu lui-même.

Elle serait démentie si les techniques d'authentification par examen du signal retrouvaient un avantage durable sur les techniques de génération. L'expérience des dernières années rend cette issue peu probable : chaque progrès de détection est absorbé par la génération suivante, ce qui décrit une course où la partie défensive reste structurellement en retard. Miser une doctrine interne sur la détection automatique du synthétique revient donc à parier contre cette asymétrie.

Deuxième hypothèse : le doute généralisé pèse davantage que la fausse pièce

Deuxième hypothèse, plus contre-intuitive : l'effet dominant des contenus synthétiques sur la preuve documentaire ne viendra pas des faux crédibles, mais du doute qu'ils rendent recevable. Dès lors que chacun sait qu'un visuel se fabrique, contester une pièce authentique devient une manoeuvre peu coûteuse et socialement acceptable. Le bénéfice principal pour un acteur malveillant n'est pas de faire croire à une chose fausse, mais d'obtenir qu'aucune chose vraie ne soit tenue pour établie.

Les conséquences organisationnelles diffèrent radicalement selon l'hypothèse retenue. Si le risque principal est le faux crédible, l'effort se porte sur la détection et l'analyse technique. Si le risque principal est le doute généralisé, l'effort se porte sur la constitution préalable de dossiers dont la provenance est incontestable, et sur la capacité à produire cette documentation rapidement quand une pièce est contestée. La seconde priorité est beaucoup moins coûteuse en technologie et beaucoup plus exigeante en discipline.

Conséquences pour une cellule de veille : documenter avant la contestation

La traduction opérationnelle tient en un principe : la documentation de provenance se constitue au moment de la collecte, jamais après contestation. Une pièce dont on cherche l'origine trois semaines plus tard, après suppression du compte diffuseur, est une pièce perdue. Cela suppose des gestes simples mais systématiques, dont le coût unitaire est faible et dont l'absence se paye au pire moment.

Cette discipline suppose un périmètre de collecte assez large pour que la source primaire soit atteinte avant ses reprises, condition matérielle du reste de la démarche. NewsCore (www.newscore.fr) couvre en continu des millions de sources en plusieurs langues, hiérarchise les signaux par intelligence artificielle et ramène chaque remontée à sa publication d'origine, ce qui préserve la chaîne de garde et raccourcit le délai entre la première trace publique d'un fait et son arrivée devant l'analyste. La décision d'archiver, de conserver et pendant combien de temps relève de la politique documentaire de l'organisation.

L'objectif d'une opération informationnelle aboutie n'est plus de faire croire une chose fausse : il suffit qu'aucune chose vraie ne soit tenue pour établie.

Ce que cela change pour la qualification des faits rapportés

Une dernière conséquence touche l'écriture des livrables de veille. Distinguer explicitement le fait constaté, sa source et le niveau de confiance accordé cesse d'être une élégance méthodologique pour devenir une protection : un livrable qui ne sépare pas ces trois niveaux devient indéfendable dès qu'une pièce est contestée. Les analyses publiées par Le Fil de la Veille et par l'Observatoire de l'Intelligence Économique sur les dispositifs de vérification convergent sur ce point, et la pratique reste minoritaire dans les notes internes.

Le corollaire est une tolérance assumée à l'incertitude explicite. Écrire qu'un fait est rapporté par une source unique, non corroborée, et que l'analyse en tient compte, vaut mieux que de présenter une certitude que la première contestation détruira. Le régime de la preuve qui se dessine récompense les organisations capables de graduer leur confiance, et sanctionne celles qui n'affirment qu'en tout ou rien.

Questions fréquentes

Comment vérifier si une image ou une vidéo est générée par intelligence artificielle ?

L'examen interne du fichier apporte des indices, jamais une certitude durable, car les techniques de génération absorbent rapidement les méthodes de détection. La démarche robuste porte sur la provenance : retrouver la publication la plus ancienne, identifier le compte diffuseur et son antériorité, vérifier la cohérence du contenu avec des éléments indépendants. Un contenu synthétique diffusé par un compte authentique dans un contexte humoristique n'a pas la même portée qu'un contenu identique porté par un réseau inauthentique, distinction que Viginum souligne explicitement.

Un contenu généré par intelligence artificielle constitue-t-il à lui seul une manipulation de l'information ?

Non, et c'est le point le plus utile de la nuance apportée par Viginum, dont le rapport est également relayé par la DITP : une grande partie des contenus générés circule pour des motifs récréatifs, humoristiques ou ironiques. Le critère de caractérisation porte sur l'inauthenticité du dispositif de diffusion, la coordination des comptes et l'intention manifeste, pas sur la technique de production du contenu. Confondre les deux produit un volume d'alertes ingérable et sans valeur pour la décision.

Que doit conserver une cellule de veille pour que ses pièces restent recevables ?

Quatre éléments, réunis au moment de la collecte et non après contestation : un archivage horodaté de la page, l'adresse d'origine complète, un relevé du compte ou de l'éditeur diffuseur avec son antériorité, et la référence d'au moins un élément indépendant corroborant le fait. Ce dossier minimal se constitue en quelques minutes et devient irremplaçable une fois le contenu supprimé. Il vaut mieux disposer de cette documentation sur peu de pièces que d'un volume important de captures sans provenance établie.