Fabriquer la preuve pour l'interne : quand le faux vise la hiérarchie et non le public

Selon The Insider, le projet de recherche OSINT GeoConfirmed dit avoir identifié un premier cas d'utilisation d'intelligence artificielle pour simuler la prise d'une localité : une vidéo publiée par une chaîne Telegram revendiquant plus de 75 000 abonnés, où un soldat porteur d'un drapeau aurait été ajouté à des images de drone de reconnaissance. L'intérêt du dossier, pour un dirigeant, ne tient pas au théâtre où il se produit.

Il tient à la destination de la fabrication. The Insider rapporte qu'une chaîne pro-guerre a elle-même évoqué le 23 juillet un cas comparable, où des vidéos auraient servi à masquer des pertes de terrain dans des comptes rendus internes. La pièce truquée ne cherchait donc pas à convaincre une opinion publique : elle devait faire tenir un rapport devant l'échelon supérieur. C'est une falsification de reporting avant d'être une opération d'influence.

Le reportage de Le Fil de la Veille sur ce cas et les travaux de l'Observatoire de l'Intelligence Économique sur la vérification en sources ouvertes en décrivent la mécanique technique. Nous prenons ici l'autre bout du problème, celui du gouvernement d'entreprise : dès qu'une organisation juge sur des preuves que l'évalué produit lui-même, elle crée une incitation à les fabriquer.

Un cas où la preuve visait la hiérarchie, pas l'opinion

Les anomalies relevées, telles que les rapporte The Insider, sont d'une banalité instructive. Le soldat disparaît sans raison visible, le drapeau ensuite ; comparée à une image satellite, la largeur de ce drapeau atteint trois mètres. Un second cas signalé présente des défauts analogues : absence de casque, drapeau se déployant sans vent, effacement progressif du personnage. Selon le projet ukrainien DeepState, la localité reste sous contrôle ukrainien.

Ce niveau d'erreur en dit long sur le destinataire réel. Une pièce destinée à une audience internationale, exposée à des équipes de vérification, aurait été travaillée davantage. Une pièce destinée à un supérieur pressé, qui ne dispose ni du temps ni de l'image satellite de contrôle, n'a pas besoin d'être bonne : elle doit seulement passer l'inspection qu'elle rencontrera vraiment.

Tout le contrôle interne tient dans cet écart. Le niveau de fabrication s'ajuste au niveau de contrôle attendu, jamais à la vérité. Une organisation qui vérifie peu obtient des faux médiocres et les détecte rarement, faute de regarder. Une organisation qui vérifie beaucoup obtient des faux plus coûteux puis, à partir d'un certain seuil, plus de faux du tout, parce que la fabrication cesse d'être rentable.

Juger sur des preuves rapportées installe un marché de la preuve

Le mécanisme est structurel et n'a rien de militaire. Un directeur commercial jugé sur ses comptes rendus de visite, un responsable de site évalué sur ses relevés d'incidents, un prestataire payé sur les captures d'écran qu'il fournit : celui qui sera jugé produit aussi la matière du jugement.

Deux forces jouent ensemble. L'asymétrie d'information d'abord : le rapporteur voit le terrain, l'évaluateur voit le rapport. L'asymétrie de conséquence ensuite : le rapporteur supporte une sanction immédiate si le terrain va mal, alors que l'évaluateur ne paiera l'erreur que plus tard, souvent quand la situation sera devenue irréparable. Embellir n'est pas un accident moral, c'est la réponse rationnelle à ce jeu tant que le risque d'être pris reste faible.

Le symptôme courant de ce problème d'agence n'est pas le mensonge frontal mais le lissage : on avance une date, on requalifie un incident, on choisit l'angle de la photo. Le cas rapporté par The Insider n'est que la version extrême d'un continuum ordinaire. Entre l'arrondi favorable et la vidéo synthétique, il n'y a pas de différence de nature, seulement une différence de coût technique. Or ce coût vient de s'effondrer.

Une preuve produite par celui qui sera jugé sur elle cesse d'être une mesure : elle devient un livrable, dont le cahier des charges implicite est de plaire à son lecteur.

Ce que l'intelligence artificielle change au coût de la fabrication

Jusqu'ici, la falsification documentaire exigeait un savoir-faire, du temps et parfois des complicités, donc un risque de fuite proportionnel au nombre de personnes impliquées. Cette barrière économique protégeait les organisations sans qu'elles aient à s'en apercevoir : la plupart des collaborateurs n'embellissaient pas parce que l'outillage manquait, pas parce que le contrôle mordait. La génération d'images et de vidéos par modèle supprime cette barrière et rend accessible en quelques minutes, sans complice, ce qui demandait un atelier.

Pour une direction, la conséquence est immédiate. Toutes les procédures internes qui reposent sur une photo, une capture d'écran, une vidéo d'intervention ou un justificatif scanné perdent leur valeur probante par défaut. Ces pièces ne deviennent pas fausses, elles cessent d'être auto-suffisantes : le contrôle doit remonter à la manière dont l'artefact a été obtenu.

La vérification indépendante par échantillonnage

Le premier mécanisme protecteur est le plus ancien : l'audit par sondage. Vérifier tout coûterait plus cher que le risque couvert. Vérifier au hasard une fraction connue des comptes rendus, avec des moyens que le rapporteur ne maîtrise pas, suffit à changer l'espérance de gain de la fabrication. L'effet recherché n'est pas de détecter chaque faux, il est de le rendre non rentable en amont du geste.

Trois paramètres décident de l'efficacité du dispositif : un taux d'échantillonnage annoncé, sinon il ne dissuade personne ; un tirage réellement aléatoire, faute de quoi il devient prévisible et se contourne ; une sanction disproportionnée par rapport au gain espéré. Un audit aléatoire mais sans conséquence produit l'inverse de son intention, puisqu'il apprend à l'organisation que tricher est sans risque.

Des sources croisées que le rapporteur ne contrôle pas

Le deuxième mécanisme consiste à disposer d'au moins une observation dont la chaîne de production échappe entièrement à la personne évaluée. Dans le cas rapporté par The Insider, ce sont l'image satellite et la géolocalisation qui tranchent : elles n'ont pas été fournies par l'auteur de la vidéo. L'équivalent existe en entreprise sous des formes prosaïques : donnée de facturation, télémétrie d'un équipement, registre d'un tiers, parole du client.

La veille externe joue le même rôle à l'échelle du marché : elle donne à une direction une image du terrain que ses propres échelons ne mettent pas en forme. NewsCore (www.newscore.fr) couvre en continu des millions de sources, trie les signaux pertinents et relie chaque synthèse à son document d'origine. Un écart durable entre le compte rendu interne et ce que le monde extérieur observe est en soi une alerte de gouvernance.

La règle pratique tient en une phrase : une preuve et sa vérification ne doivent jamais transiter par le même canal. Dès qu'un service fournit à la fois la performance, sa mesure et le justificatif de cette mesure, l'organisation n'a plus de dispositif de contrôle, elle a un dispositif de mise en scène.

Découpler celui qui mesure de celui qui est évalué

Le troisième mécanisme est organisationnel. La mesure doit relever d'une ligne hiérarchique distincte de celle qui est mesurée, avec son propre budget, sa propre carrière et son propre accès aux données brutes. C'est le principe des trois lignes de maîtrise : l'opérationnel prend le risque, une fonction indépendante le mesure, l'audit interne vérifie que la mesure fonctionne.

Ce découplage échoue toujours pour la même raison : la fonction de mesure finit par dépendre, pour ses moyens ou son avancement, de ceux qu'elle contrôle. Le contrôleur rattaché au directeur de la division qu'il contrôle, l'accès aux données brutes filtré par l'entité évaluée, le rapport d'audit relu par l'audité avant diffusion : chacun de ces arrangements paraît raisonnable pris isolément, et tous produisent le même résultat.

Un indicateur qui décide d'une carrière est produit, pas mesuré

Les statisticiens connaissent cette régularité sous le nom de loi de Goodhart : lorsqu'une mesure devient une cible, elle cesse d'être une bonne mesure. La version managériale est plus brutale. Un indicateur qui décide d'une promotion, d'un bonus ou d'un maintien en poste n'est plus observé par l'organisation, il est produit par ceux qu'il évalue, et il finit par mesurer leur habileté à le produire plutôt que la réalité qu'il devait décrire.

La conséquence dirigeante n'est pas de renoncer aux indicateurs, mais de les hiérarchiser selon leur vulnérabilité. Un indicateur dont la donnée provient d'un système tiers, horodaté et non modifiable par l'évalué, supporte une décision individuelle. Un indicateur déclaratif, appuyé sur des pièces que l'évalué fournit, sert au pilotage et au dialogue, jamais à la sanction.

Reste la dimension culturelle, souvent décisive. Une organisation où annoncer une mauvaise nouvelle coûte plus cher que la dissimuler obtiendra des comptes rendus embellis quel que soit son arsenal de contrôle. Le contrôle plafonne la tricherie, il n'en supprime pas le moteur : traiter la cause consiste à rendre la remontée d'un problème moins dangereuse, pour celui qui la porte, que sa découverte tardive par un tiers.

Questions fréquentes

Pourquoi une fabrication destinée à la hiérarchie est-elle plus inquiétante qu'une opération de désinformation publique ?

Parce qu'elle corrompt la décision à sa source. Une opération publique rencontre des vérificateurs, des rédactions et des contradicteurs, donc un coût de production élevé. Une pièce destinée à un supérieur ne rencontre que le temps disponible de son lecteur, puis circule dans les documents qui servent à allouer des moyens, sans avoir été confrontée à une observation indépendante.

Comment détecter des comptes rendus embellis sans transformer l'entreprise en organe de surveillance ?

Par l'échantillonnage plutôt que par le contrôle exhaustif. Un taux annoncé, un tirage aléatoire et une source de vérification externe suffisent à modifier le calcul de celui qui serait tenté d'embellir, pour un coût bien inférieur. L'objectif affiché doit rester la qualité de la donnée de pilotage et non la recherche de coupables, sans quoi le dispositif alimente la dissimulation qu'il devait réduire.

Quelles preuves internes perdent leur valeur avec la génération d'images par IA ?

Toutes celles qui reposent sur un fichier fourni par la personne évaluée : photo de chantier, capture d'écran, vidéo d'intervention, justificatif scanné, enregistrement d'appel. Ces pièces gardent une utilité documentaire mais ne constituent plus une preuve à elles seules. Leur valeur dépend désormais de la chaîne qui les a produites, c'est-à-dire d'un horodatage, d'une signature ou d'un système d'enregistrement que le rapporteur ne contrôle pas. La règle de partage est stable : le déclaratif pilote, la donnée tierce sanctionne.