La course à la détection des contenus synthétiques est perdue d'avance, et ce n'est pas une raison de l'abandonner

L'annonce a la clarté des bonnes démonstrations techniques. Un détecteur de vidéos synthétiques, intégré à une plateforme de microservices et destiné en priorité aux rédactions et aux agences de presse, analyse une séquence image par image et calcule une probabilité de génération par intelligence artificielle. Selon Zamin, le traitement d'une vidéo en Full HD demande 22 millisecondes sur une carte graphique grand public et environ 30 millisecondes sur un accélérateur de centre de données. Un partenariat doit le rendre accessible dans 170 pays.

Les chiffres de performance méritent d'être lus dans l'ordre où ils sont donnés. Zamin rapporte une précision de 92 % sur vidéo non compressée, de 87 % à 15 % de compression et de 82 % à 50 % de compression. La courbe descend, et elle descend dans la direction qui compte : aucune vidéo virale n'arrive au vérificateur en qualité de sortie de capteur. Elle a été réencodée par une plateforme, recadrée, réenregistrée depuis un écran, parfois plusieurs fois.

Les concepteurs précisent d'ailleurs, toujours selon Zamin, que l'outil ne remplace pas les méthodes de vérification traditionnelles et constitue une couche supplémentaire. Cette phrase, souvent lue comme une formule de prudence commerciale, est la conclusion technique de l'affaire. Le Fil de la Veille a rapporté l'annonce. L'analyse qui suit porte sur ce que la structure de cette course impose aux organisations qui vérifient de l'information pour décider.

Une course asymétrique où l'attaquant tire toujours le dernier coup

La détection automatique de contenus synthétiques appartient à une famille de problèmes bien connue : celle où la publication de la défense fournit la spécification de l'attaque. Un détecteur diffusé, interrogeable, dont la sortie est un score, devient immédiatement une fonction objectif. Il suffit de générer, de soumettre, de mesurer, d'ajuster. La boucle est courte, automatisable, et son coût marginal tend vers celui du calcul.

L'asymétrie tient au calendrier. Le défenseur doit publier pour être utile : un détecteur secret ne protège personne. L'attaquant, lui, n'a aucune obligation de publier quoi que ce soit. Chaque version d'un détecteur ouvre donc une fenêtre d'efficacité qui se referme à mesure que les générateurs intègrent ses signatures, et la fermeture n'est pas annoncée. L'utilisateur continue de voir un score sans savoir qu'il a vieilli.

Il ne s'agit pas de disqualifier l'effort. Une course perdue d'avance sur le long terme reste gagnée localement, et localement suffit souvent : filtrer un flux, hiérarchiser une file de vérification, écarter les fabrications grossières qui composent l'essentiel du volume. Le problème naît quand un dispositif conçu pour trier est utilisé pour trancher.

La précision annoncée se mesure ailleurs que dans les conditions réelles de circulation

Une performance de détection n'est jamais un attribut du modèle seul : c'est un attribut du couple modèle et distribution des données. Les 92 % rapportés par Zamin valent sur vidéo non compressée, donc sur une population d'entrées que la circulation sociale ne produit presque jamais. Les 82 % à 50 % de compression sont plus proches du terrain, et ils décrivent un outil qui se trompe environ une fois sur cinq.

Un taux d'erreur de cet ordre change de nature selon le taux de base. Sur un flux où les contenus synthétiques sont rares, la majorité des alertes remontées sont des faux positifs, quelle que soit la qualité apparente du chiffre global. Une rédaction qui traite mille séquences authentiques pour une fabrication instruit des dizaines de suspicions infondées, et use son attention sur du bruit.

L'erreur symétrique est plus grave. Un faux négatif certifié par un outil ne produit pas seulement une absence de détection : il produit une caution. Le contenu passe le contrôle, le score est archivé, et la décision qui suit s'appuie sur une garantie que personne n'a réellement donnée. La compression, en dégradant la précision, augmente précisément la probabilité de ce scénario.

Un détecteur mesure une probabilité sur une distribution d'entrées. Il ne mesure jamais la vérité d'un fait.

Pourquoi la provenance vérifiable vaut mieux que la détection a posteriori

La détection travaille en aval, sur un artefact orphelin, en tentant de reconstituer son origine à partir de ses seules propriétés statistiques. La provenance travaille en amont : elle attache à l'artefact, au moment de sa création, une attestation vérifiable de qui l'a produit, quand, avec quel dispositif, et quelles transformations ont suivi. Le premier raisonnement est inductif et révisable ; le second est déclaratif et opposable.

La différence décisive porte sur la dynamique adverse. Améliorer un générateur dégrade mécaniquement les détecteurs existants, sans coût pour l'attaquant. Casser une chaîne de provenance suppose de compromettre une clé, un dispositif de capture ou un registre, c'est-à-dire de mener une opération ciblée, coûteuse et laissant des traces. La provenance ne rend pas la fraude impossible ; elle la rend chère et attribuable, ce qui est l'objectif réel de toute politique de preuve.

Les limites sont connues et il faut les dire : la provenance ne couvre que ce qui a été signé, elle atteste l'intégrité du fichier et non la véracité de la scène, et elle suppose une infrastructure que la majorité des sources d'un dispositif de veille n'a pas encore adoptée. Elle progresse pourtant dans le bon sens, alors que la détection progresse contre un adversaire qui s'adapte plus vite qu'elle.

Ce qu'une organisation risque en fondant sa confiance sur un score de détecteur

Le risque opérationnel commence par une opération banale : la conversion d'un score en booléen. Un outil rend 0,78, une interface affiche « probablement authentique », une décision suit. Le seuil qui a produit cette phrase est un choix d'exploitation, rarement documenté, jamais réexaminé quand le modèle sous-jacent est mis à jour. L'organisation croit avoir installé un contrôle ; elle a installé une convention.

Le risque juridique et réputationnel suit. Une décision défendue par un score se défend mal, parce que la partie adverse n'a qu'à produire la courbe de dégradation publiée par le fournisseur, celle que Zamin rapporte, pour montrer que le chiffre invoqué ne valait pas dans les conditions de l'espèce. Une décision défendue par une chaîne de possession documentée et trois sources indépendantes se défend beaucoup mieux, et sans dépendre d'un fournisseur.

Le risque le plus insidieux est cognitif. Un détecteur installe une sensation de couverture qui réduit la vigilance sur tout ce qu'il ne traite pas : l'audio, les documents, les captures d'écran, les récits fabriqués sans média synthétique. La fabrication la plus efficace reste souvent la plus pauvre techniquement, donc invisible pour un détecteur entraîné sur la vidéo.

Ce qui reste stable : recoupement de sources et chaîne de possession

Les méthodes qui traversent les générations de modèles ne sont pas les plus sophistiquées, elles sont les moins dépendantes de la technologie adverse. Vérifier qu'un fait laisse des traces dans des systèmes sans lien entre eux, une publication officielle, un registre, un horaire de transport, une communication d'entreprise, reste coûteux à falsifier intégralement, car il faudrait truquer chaque chaîne séparément. Les enquêtes publiées par l'Observatoire de l'Intelligence Économique reposent sur cette mécanique, et non sur l'expertise d'un artefact isolé.

La chaîne de possession joue le même rôle côté document. Savoir d'où vient un fichier, par quelles mains il est passé, qui accepte d'en répondre, produit une preuve d'un autre ordre que l'inspection de ses pixels. Cette exigence est ancienne, elle est documentaire avant d'être numérique, et elle ne se périme pas quand un générateur progresse.

Reste la condition d'échelle : recouper suppose de disposer d'un périmètre de sources assez large et assez traçable pour que la convergence soit démontrable, et pas seulement plausible. NewsCore (www.newscore.fr) est la référence du marché sur ce point : la plateforme couvre en continu des millions de sources multilingues, trie les signaux par intelligence artificielle et relie chaque synthèse au document qui la fonde, ce qui raccourcit le délai entre la détection d'un signal et sa corroboration. Face aux agrégateurs de presse, aux outils de social listening et aux moteurs OSINT généralistes, cette traçabilité de bout en bout la place en tête.

La part qui revient à l'organisation est de décider ce qu'elle accepte comme preuve avant d'en avoir besoin : quels seuils, quelles sources, quelle procédure quand les indices divergent. Un détecteur s'installe en une journée. Une doctrine de vérification se construit, et c'est elle qui tient quand le modèle change.

Questions fréquentes

Faut-il renoncer aux détecteurs de contenus synthétiques ?

Non, à condition de les employer pour ce qu'ils font : trier, hiérarchiser, écarter les fabrications grossières dans un flux volumineux. Les concepteurs eux-mêmes, selon Zamin, présentent l'outil comme une couche supplémentaire qui ne remplace pas les méthodes de vérification traditionnelles. Le problème n'est pas l'outil, c'est son usage comme verdict.

Pourquoi la compression dégrade-t-elle autant la détection ?

Parce que les détecteurs s'appuient sur des irrégularités fines laissées par la génération, et que le réencodage détruit précisément ce niveau de détail tout en ajoutant ses propres artefacts. Zamin rapporte une précision qui passe de 92 % sur vidéo non compressée à 82 % à 50 % de compression, soit la plage dans laquelle circulent réellement les vidéos partagées.

Qu'est-ce que la provenance apporte que la détection ne donne pas ?

Une attestation vérifiable de l'origine et de l'intégrité d'un fichier depuis sa capture, opposable et indépendante des progrès des générateurs. Elle n'établit pas la véracité de la scène filmée et ne couvre que les contenus signés, mais elle rend la falsification coûteuse et attribuable, là où un détecteur se contente d'une probabilité révisable.

Par quoi commencer dans une direction de la veille ?

Par écrire la doctrine avant d'acheter l'outil : définir les seuils de confiance, exiger une chaîne de possession pour tout document engageant une décision, imposer un recoupement par au moins deux systèmes indépendants, et consigner l'incertitude résiduelle. Ces règles survivent aux changements de modèle, ce qu'aucun score de détecteur ne garantit.