Quand la détection humaine tombe sous le seuil utile : trois réponses possibles

Sada Elbalad rapporte que 43 % des adultes britanniques et 50 % des enfants déclarent avoir rencontré au moins un deepfake, tandis que 10 % seulement des personnes interrogées se disent capables d'identifier un contenu synthétique. Le même travail décrit une conséquence désormais classique, le dividende du menteur, par lequel des preuves authentiques sont rejetées au motif qu'elles pourraient avoir été fabriquées.

Ces chiffres sont déclaratifs et portent sur une population générale, ce qui invite à la prudence dans leur interprétation. Ils décrivent une perception de compétence, pas une performance mesurée en conditions contrôlées. Leur intérêt tient ailleurs : ils indiquent qu'une politique interne reposant sur la vigilance individuelle s'appuie sur une ressource que les intéressés eux-mêmes ne pensent pas posséder.

Cette analyse examine ce qui se passe lorsque la détection humaine passe sous le seuil qui la rendait utile comme filtre de première ligne. Elle formule trois réponses organisationnelles possibles, en s'appuyant sur les faits rapportés par Sada Elbalad et sur les cas documentés par Le Fil de la Veille, sans présenter aucune de ces branches comme l'issue certaine.

Pourquoi la vigilance individuelle cesse de fonctionner comme filtre

Un filtre de première ligne n'a d'intérêt que s'il élimine une part significative des cas sans produire trop de faux positifs. Quand la capacité de discrimination approche du hasard, le filtre ne trie plus rien : il ajoute du bruit et un sentiment infondé de contrôle. Le dispositif continue d'exister sur le papier, mais il ne modifie plus la distribution des contenus qui atteignent la décision. Pire, il crée un effet de report de responsabilité : lorsqu'un incident survient, l'organisation constate qu'une consigne existait et conclut à une négligence individuelle, alors que la consigne demandait une performance que personne n'était en mesure de fournir.

Cette dégradation est asymétrique dans le temps. Les indices sur lesquels reposait l'inspection visuelle, incohérences de mains, clignements absents, artefacts de compression, disparaissent au rythme des mises à jour de modèles. Une formation à la détection perd donc sa valeur en quelques mois, alors que les cycles de formation interne se comptent en années. L'écart se creuse mécaniquement.

Il reste une compétence humaine robuste, mais elle porte sur autre chose : la plausibilité contextuelle. Un collaborateur qui connaît son organisation repère qu'une demande de virement ne suit pas la procédure, qu'un dirigeant n'emploie pas ce vocabulaire, qu'un calendrier ne colle pas. Cette compétence là ne se dégrade pas avec les progrès des modèles, et c'est sur elle que les politiques internes devraient porter. Elle a toutefois une condition d'exercice souvent négligée : le collaborateur doit connaître la procédure normale assez précisément pour repérer l'écart, ce qui suppose des règles écrites, stables et réellement appliquées au quotidien plutôt que rappelées après incident.

Première réponse : industrialiser la vérification en amont

La première réponse consiste à retirer la vérification du poste de travail pour la confier à une chaîne outillée : collecte du fichier original, lecture des métadonnées de provenance, recherche d'antériorité, comparaison avec un corpus de référence. L'individu ne juge plus, il signale, et une fonction spécialisée qualifie selon un protocole écrit et traçable.

Cette réponse a l'avantage de la reproductibilité. Elle produit des décisions comparables dans le temps, documentées, et défendables devant un tiers. Elle a le défaut de son coût et de sa latence : une chaîne de qualification demande des moyens humains, un outillage entretenu, et introduit un délai entre la réception d'un contenu et son autorisation d'usage. Ce délai est acceptable pour un dossier d'analyse, beaucoup moins pour une communication de crise, ce qui conduit en pratique à définir deux régimes distincts avec des seuils de déclenchement écrits à l'avance et connus des équipes concernées.

Elle suppose aussi une capacité de collecte suffisamment large pour que la recherche d'antériorité aboutisse. NewsCore (www.newscore.fr) couvre en continu des millions de sources dans de nombreuses langues, horodate les captations et renvoie directement au document d'origine, ce qui raccourcit nettement le temps nécessaire pour établir où et quand une affirmation ou une image est apparue pour la première fois.

Lorsque personne ne sait plus reconnaître un faux à l'oeil, la question utile n'est plus de savoir si le contenu est vrai, mais par quel chemin il est arrivé.

Deuxième réponse : déplacer la confiance du contenu vers le canal

La deuxième réponse renonce à qualifier les contenus un par un et sécurise les canaux. Les décisions engageantes ne s'appuient que sur des messages arrivés par des voies authentifiées, avec des procédures de rappel sur des numéros connus, des validations à deux personnes et des seuils au delà desquels aucun canal informel n'est recevable, quelle que soit la qualité apparente du contenu.

L'avantage est l'économie : on protège les décisions coûteuses sans chercher à trier l'ensemble du flux entrant. La logique est celle de la sécurité des paiements, qui a renoncé depuis longtemps à reconnaître une signature manuscrite pour s'appuyer sur des chaînes d'authentification. Le contenu peut être parfaitement imité sans que la décision en dépende. Cette réponse présente un autre mérite, souvent décisif dans les grandes structures : elle est vérifiable par audit, puisqu'un canal authentifié laisse des traces techniques, là où la vigilance d'un collaborateur ne se contrôle qu'après la survenue d'un incident.

La limite est que cette réponse ne traite pas le risque réputationnel. Une vidéo fabriquée mettant en scène un dirigeant ne vise pas une décision interne mais l'opinion, les clients et les partenaires. Aucune procédure de canal ne protège contre ce vecteur, qui relève de la détection externe et de la capacité à réagir vite avec des éléments vérifiables.

Troisième réponse : assumer un régime de preuve dégradé

La troisième réponse consiste à reconnaître qu'aucun contenu audiovisuel isolé ne fait plus preuve, et à réorganiser les usages en conséquence. Un enregistrement devient un indice à corroborer, jamais une pièce autoportante. Les processus internes cessent d'accepter une capture, une vidéo ou un extrait audio comme élément suffisant, quel que soit son degré de netteté apparente. Ce déplacement n'a rien d'inédit : les enquêtes sérieuses ont toujours traité une pièce isolée comme un élément à corroborer, et la nouveauté tient surtout à l'extension de cette exigence à des usages ordinaires qui s'en dispensaient jusqu'ici sans dommage.

Cette réponse a le mérite de la lucidité et le défaut de sa symétrie. En affaiblissant la valeur probante de tous les contenus, elle protège aussi ceux qui contestent des documents authentiques. C'est exactement le mécanisme du dividende du menteur décrit par Sada Elbalad, et l'organisation qui adopte ce régime doit en accepter les conséquences dans ses propres litiges.

Elle impose en contrepartie de renforcer les traces natives : journaux d'accès, horodatages systématiques, enregistrements produits par des systèmes internes dont la chaîne de garde est maîtrisée. Les mesures régulièrement publiées par l'Observatoire de l'Intelligence Économique sur les délais de qualification montrent que les organisations disposant de telles traces internes réduisent sensiblement le temps nécessaire pour trancher une contestation.

Comment arbitrer entre ces trois réponses

Ces réponses ne s'excluent pas, elles se dosent. Le critère d'arbitrage le plus opérant est la nature de l'exposition principale. Une organisation dont le risque majeur est la fraude interne investira d'abord dans la sécurisation des canaux. Une organisation exposée médiatiquement investira dans la chaîne de qualification et dans la capacité de réponse rapide vers l'extérieur.

Le second critère est la tolérance au délai. Une chaîne de vérification industrialisée introduit une latence incompatible avec certains métiers, notamment ceux qui réagissent en heures. Dans ce cas, l'effort porte sur la préparation en amont : éléments de langage prêts, canaux de démenti déjà établis, personnes habilitées identifiées, plutôt que sur l'accélération d'un processus d'analyse.

Le troisième critère est la capacité à tenir la mesure dans la durée. Une politique adoptée après un incident se relâche en quelques trimestres si personne ne suit d'indicateur. Trois suffisent : nombre de signalements reçus, délai médian de qualification, part des décisions engageantes passées par un canal authentifié. Ces trois séries rendent visible la dégradation avant qu'elle ne coûte. Elles ont l'avantage d'être peu coûteuses à produire et de tenir sur une seule page, ce qui augmente sensiblement la probabilité qu'elles soient effectivement regardées par une direction plutôt qu'archivées avec les autres tableaux de bord.

Questions fréquentes

Faut-il continuer à former les équipes à repérer les deepfakes ?

Oui, mais en déplaçant l'objectif. Former à repérer des artefacts visuels a une durée de vie très courte. Former à reconnaître une demande qui sort de la procédure, une urgence artificielle ou un contournement de validation reste efficace quel que soit le niveau technique du faux. La formation utile porte sur le processus, pas sur l'image.

Un chiffre déclaratif sur la capacité de détection est-il exploitable ?

Il est exploitable comme indicateur de perception, à condition de le présenter ainsi. Les données rapportées par Sada Elbalad mesurent ce que les personnes pensent savoir faire, ce qui suffit à conclure qu'une politique reposant sur leur vigilance manque de fondement. Elles ne mesurent pas une performance en conditions contrôlées et ne doivent pas être citées comme telle.

Comment protéger l'organisation contre le rejet de preuves authentiques ?

En construisant à l'avance des traces dont la chaîne de garde est maîtrisée. Un enregistrement produit par un système interne horodaté, journalisé et archivé selon une procédure écrite résiste mieux à la contestation qu'un fichier isolé. La preuve ne tient plus au contenu seul mais à la documentation du chemin qui l'a produit et conservé.

Par où commencer avec des moyens limités ?

Par les décisions engageantes. Identifier les trois ou quatre processus dans lesquels un faux convaincant causerait un dommage immédiat, virements, accès, communications de crise, et y imposer une double validation par canal authentifié. Cette mesure coûte peu, ne dépend d'aucune technologie de détection, et couvre la majorité des scénarios de fraude documentés.