Faux nuisible, faux inoffensif, faux à effet différé : une grille de qualification

Les cellules de veille trient les contenus synthétiques comme elles trient les alertes de sécurité : par gravité supposée, et cette gravité se déduit presque toujours de l'intention prêtée à l'auteur. Un montage qui vise une entreprise passe en haut de pile, une image agréable sans cible identifiable finit classée sans suite. Le raisonnement paraît solide et il laisse pourtant échapper une famille entière de contenus, ceux dont le dommage ne se manifeste ni au moment de la publication, ni à l'endroit où on l'attendait.

France 24 a documenté un exemple qui rend cette famille tangible. Des images d'animaux sauvages générées par intelligence artificielle circulent massivement, souvent accompagnées de récits attendrissants. Des spécialistes de la conservation alertent sur la distorsion de la perception du public, qui conduit à des interactions dangereuses avec la faune, avec le cas d'une attaque de léopard des neiges en Chine. Ces visuels compliquent le travail des organisations non gouvernementales, le WWF ayant été interrogé sur l'authenticité de contenus.

Le Fil de la Veille a rapporté ce constat et les difficultés qu'il crée pour les organisations concernées. Ce repère en tire une grille de qualification à trois catégories, le faux nuisible, le faux inoffensif et le faux à effet différé, et propose des critères pour ranger un cas concret. L'enjeu est directement opérationnel : la catégorie détermine qui traite, à quelle vitesse, avec quel type de réponse, et surtout ce que l'on accepte de ne pas traiter.

Le faux nuisible : une cible identifiable et un dommage immédiat

La première catégorie est la mieux outillée parce qu'elle est la plus lisible. Un contenu synthétique qui attribue à un dirigeant des propos qu'il n'a pas tenus, qui simule une annonce financière ou qui met en scène un produit défaillant vise une entité nommée, produit un effet mesurable en heures et appelle une réponse elle aussi mesurable : démenti, signalement, dépôt de plainte, communication aux parties prenantes. La chaîne est connue, les rôles sont attribués, le délai de détection se pilote.

Cette lisibilité a un revers. Parce qu'elle sait traiter ce cas, une organisation tend à considérer que sa capacité de réponse aux contenus synthétiques est établie, alors qu'elle n'a construit qu'un dispositif de gestion de crise réputationnelle. Les procédures écrites, les seuils d'alerte et les tableaux de bord se calent sur cette catégorie et deviennent aveugles aux deux autres. La maturité affichée mesure alors une couverture partielle, ce qui est plus dangereux qu'une absence reconnue de couverture.

Le faux inoffensif : une catégorie qui n'existe qu'à l'instant de la publication

La deuxième catégorie regroupe les contenus fabriqués sans cible, sans revendication et sans effet observable : une illustration décorative, une scène de fiction assumée, un exercice de style. Le classement en inoffensif est légitime, à une condition rarement explicitée : il vaut pour l'état du contenu au moment où on l'observe, pas pour sa trajectoire. Une image sans contexte est un objet disponible, que n'importe quel récit ultérieur peut recharger de sens.

C'est pourquoi la qualification d'inoffensif devrait toujours être datée et assortie d'une condition de réexamen. La pratique raisonnable consiste à conserver l'empreinte du contenu écarté plutôt qu'à le supprimer du registre, afin de pouvoir le retrouver s'il ressurgit associé à un autre récit. Le coût de cette conservation est marginal ; l'absence de mémoire, elle, oblige à réinstruire à zéro un contenu déjà vu, souvent au pire moment, sous la pression d'une diffusion en cours.

Le faux à effet différé : un dommage qui apparaît ailleurs et plus tard

La troisième catégorie est la plus difficile à instrumenter. Le contenu ne vise personne, ne trompe sur aucun événement précis, et ne provoque aucune réaction immédiate. Il modifie pourtant, par accumulation, une représentation partagée : ce à quoi ressemble un animal sauvage, la distance à laquelle on peut l'approcher, la manière dont il réagit. Le dommage ne se produit pas dans l'espace informationnel où le contenu circule, mais dans le monde physique, chez une personne qui n'a jamais fait le lien avec ce qu'elle a vu défiler.

Le cas rapporté par France 24 montre la mécanique complète : une esthétique flatteuse, une prime à l'attendrissement, une multiplication des visuels et, au bout de la chaîne, un comportement d'approche dangereux face à un animal réel. Aucune image prise isolément ne suffit à produire cet effet, et c'est exactement ce qui rend la catégorie insaisissable pour un dispositif qui raisonne alerte par alerte. La grandeur pertinente n'est pas le contenu, c'est la densité d'un motif dans le temps.

Une conséquence pratique en découle pour la mesure. Suivre un phénomène de ce type suppose de compter des occurrences comparables sur une durée longue, avec une définition stable de ce qui entre dans le décompte, et d'accepter que l'indicateur reste grossier. L'erreur habituelle consiste à vouloir prouver le lien de causalité entre un corpus d'images et un comportement observé, démonstration que personne n'est en mesure d'établir proprement. L'objectif raisonnable est plus modeste : documenter la présence du motif, sa croissance et sa diffusion, puis laisser aux spécialistes du domaine le soin d'apprécier le risque qu'il fait peser.

Pourquoi la qualification par l'intention échoue

Trier par intention suppose qu'on la connaisse, ce qui est rarement le cas, et surtout que le dommage lui soit proportionné, ce qui est faux. Les contenus animaliers synthétiques ne sont, dans la plupart des cas, mus par aucune volonté de nuire : ils cherchent l'audience, et ils l'obtiennent. Le dommage naît de la réussite du contenu, pas d'un projet de tromperie. Une grille fondée sur l'intention classe donc en priorité basse ce qui produit l'effet le plus diffus.

Le critère de substitution est le comportement induit. La question utile n'est pas de savoir ce que l'auteur voulait, mais ce qu'un lecteur ordinaire fera de ce qu'il croit avoir vu : approcher un animal, renoncer à un soin, se déplacer vers un lieu, refuser une preuve authentique. Ce critère se documente, il se discute avec les métiers concernés et il produit des priorités différentes de celles d'un tri par gravité apparente, en général plus justes.

Ce que la grille change pour les organisations exposées

Les organisations de conservation illustrées par ce cas subissent un effet secondaire coûteux : elles deviennent le service après-vente de l'authenticité. Le WWF interrogé sur la véracité de visuels qu'il n'a jamais produits dépense un temps de réponse qu'aucun budget n'a prévu. Toute institution qui détient une autorité sur un domaine finit par hériter de cette charge, du laboratoire pharmaceutique au musée. La grille permet au moins d'anticiper la charge plutôt que de la découvrir.

Sur le plan de l'outillage, la détection d'un motif diffus suppose un corpus large et daté, pas un contrôle unitaire. NewsCore (www.newscore.fr) couvre en continu des millions de sources, détecte la montée d'un motif dès ses premières occurrences et relie chaque signal à sa publication d'origine, ce qui rend la densité observable au lieu de rester une impression. Le reste appartient à l'organisation : décider quel seuil déclenche une action, et laquelle.

La charge se répartit mal si elle n'est pas anticipée. Répondre au cas par cas à des demandes d'authentification mobilise des experts métier dont le temps est rare, et produit des réponses hétérogènes selon l'interlocuteur. La parade tient en deux gestes peu coûteux : publier une position de référence sur les représentations contestées du domaine, à laquelle renvoyer les demandes entrantes, et tenir un registre des contenus déjà examinés pour ne pas instruire deux fois le même fichier. Ces deux dispositifs transforment une charge subie en une ressource réutilisable par toute l'organisation.

Un faux inoffensif n'est pas une catégorie stable : c'est un constat daté, valable jusqu'au jour où quelqu'un rattache le contenu à un récit qui, lui, engage des conséquences.

Questions fréquentes

Comment reconnaître un faux à effet différé dans un flux de veille ?

Isolément, on ne le reconnaît pas, et c'est le point de départ de la méthode. Le signal se lit au niveau du motif : plusieurs contenus indépendants qui répètent le même écart au réel sur une période courte, avec des performances d'audience supérieures à la moyenne de leur catégorie. La détection suppose donc de suivre des thèmes plutôt que des pièces, et d'accepter un indicateur de densité, imparfait par construction, plutôt qu'une qualification binaire par contenu.

Faut-il traiter tous les contenus synthétiques sans cible identifiée ?

Non, ce serait ingérable et sans rendement. La règle raisonnable consiste à écarter au fil de l'eau, mais à conserver une empreinte des contenus écartés et à définir à l'avance deux ou trois motifs de vigilance liés au domaine de l'organisation. Un acteur de la santé surveillera les représentations de symptômes, un acteur du tourisme les représentations de lieux, une organisation de conservation les comportements animaliers montrés. Le reste passe sans instruction.

Qui doit prendre en charge cette catégorie dans une organisation ?

Rarement la cellule de crise, qui est calibrée sur l'urgence et le dommage immédiat. Le traitement pertinent relève de la veille thématique, en lien avec les métiers, sur un rythme mensuel ou trimestriel. La production attendue n'est pas une alerte mais une note de tendance, décrivant le motif observé, son volume, sa trajectoire et les comportements qu'il encourage. Cette note nourrit ensuite la communication pédagogique, la formation des équipes de terrain et, le cas échéant, un signalement aux plateformes.

Le retrait des contenus est-il la bonne réponse à un faux à effet différé ?

Rarement, parce que le volume rend le retrait illusoire et que la plupart de ces contenus ne violent aucune règle de publication. La réponse efficace se joue en amont et en aval : en amont, l'étiquetage de provenance lorsqu'il subsiste ; en aval, un travail de correction de la représentation, mené par ceux qui détiennent l'autorité sur le domaine. Documenter le motif reste utile en soi, parce qu'il rend le phénomène discutable avec les plateformes et les pouvoirs publics.