Réponses générées et compétence de recoupement, ce qui reste au veilleur

Le veilleur interroge de moins en moins un moteur pour obtenir une liste de documents, et de plus en plus un agent conversationnel pour obtenir une réponse. Le changement paraît ergonomique ; il est méthodologique. Une liste de résultats laisse le travail de comparaison à celui qui lit, tandis qu'une réponse formulée l'a déjà fait, quelque part, sans montrer comment. Or la comparaison entre versions divergentes est exactement le geste que recouvre le mot recoupement, et c'est lui qui se trouve déplacé.

La question n'est donc pas de savoir si ces agents se trompent, mais ce que devient une compétence professionnelle lorsque l'outil en exécute la partie visible. Cette analyse s'appuie sur deux résultats récents, l'un portant sur la capacité des agents à démentir de faux récits, l'autre sur l'effet de l'usage intensif de ces outils sur le discernement humain. Les deux éclairent la même zone : ce que le veilleur garde en propre quand la synthèse lui arrive déjà faite.

Ce que mesure exactement le taux de détection des agents conversationnels

Une étude conjointe de NPR et NewsGuard, relayée par Warp News, a soumis six agents conversationnels et quatre moteurs de recherche à trente questions bâties sur de fausses affirmations diffusées par la Russie, la Chine et l'Iran. Les agents conversationnels ont démenti ces récits dans environ trois quarts des cas, un taux supérieur à celui des moteurs de recherche. Le résultat mérite d'être lu pour ce qu'il est : une mesure sur des récits connus, déjà documentés, donc présents dans la matière d'entraînement et dans les corpus de vérification.

Cette précision n'annule pas le résultat, elle en borne la portée. Le travail de veille porte rarement sur des récits déjà démentis ; il porte sur des affirmations récentes, locales, sectorielles, dont personne n'a encore établi le statut. Sur ce terrain, le taux observé ne se transpose pas, puisque la performance mesurée tient en partie à l'existence préalable d'un démenti. Le chiffre dit qu'un agent conversationnel constitue un bon filtre contre les récits installés ; il ne dit rien de sa performance face à une affirmation qui n'a pas encore d'histoire.

Le quart restant mérite la même attention que les trois quarts. Dans un dispositif de veille, l'erreur coûteuse n'est presque jamais celle qui arrive fréquemment : c'est celle qui arrive au mauvais moment, sur le sujet qui fonde une décision. Un taux de réussite élevé produit un effet secondaire connu, la baisse de vigilance du lecteur, et cette baisse s'applique uniformément, y compris aux cas où l'outil se trompe. La qualité moyenne d'un assistant et le risque résiduel qu'il fait porter évoluent donc en sens opposé.

Une réponse générée supprime un geste, pas une exigence

Lire cinq documents sur un même fait, c'est rencontrer cinq formulations, des dates qui ne coïncident pas toujours, des attributions différentes et parfois un désaccord franc. Ce frottement est désagréable et informatif : il signale où se situe l'incertitude. Une réponse générée présente une version unique, harmonisée, dont la forme assurée ne distingue pas ce qui est établi de ce qui est probable. L'information sur le désaccord n'est pas fausse, elle est absente, ce qui est plus difficile à repérer qu'une erreur.

La dernière ligne du tableau désigne le vrai basculement. L'erreur classique du recoupement consistait à compter comme deux sources deux reprises d'une même dépêche, erreur au moins repérable en remontant les liens. La nouvelle erreur consiste à prendre l'assurance d'une formulation pour la solidité d'un consensus, et elle ne laisse aucune trace à remonter, puisque la chaîne qui a conduit à la réponse n'est pas visible dans la réponse. Le contrôle doit donc être demandé explicitement, alors qu'il s'imposait auparavant par la simple friction de la lecture.

Le risque documenté, l'exposition n'est pas la compétence

Une étude de l'université Temple publiée dans la revue AI & Society, relayée par Bioengineer, établit une corrélation de -0,29 entre l'usage intensif d'outils d'intelligence artificielle et la capacité à distinguer un contenu réel d'un contenu synthétique. Une corrélation n'établit pas un sens de causalité : les personnes les moins aptes à distinguer peuvent être aussi celles qui recourent le plus à ces outils. Le résultat suffit néanmoins à écarter une hypothèse confortable, celle selon laquelle la fréquentation régulière de ces outils formerait d'elle-même le jugement de ceux qui les utilisent.

Le même travail rapporte qu'une intervention de formation brève améliore la détection de près de dix points, alors que les personnes non formées ne progressent pas. Ce second résultat est le plus utile pour une organisation, parce qu'il désigne un levier disponible et bon marché. Il indique surtout que le discernement se comporte comme une compétence entretenue et non comme un trait acquis : laissé sans reprise, il ne progresse pas spontanément avec l'usage, ce qui invalide la politique implicite de la plupart des équipes, qui consiste à équiper sans former.

Ce que devient le recoupement quand la synthèse est déjà faite

Le recoupement change d'objet plutôt que de disparaître. Il portait sur des textes, il porte désormais sur des chaînes de provenance. Les questions utiles ne sont plus seulement combien de sources disent la même chose, mais d'où vient chaque élément de la réponse, quelle est la source primaire de l'affirmation centrale, et quels acteurs auraient intérêt à ce que cette version circule. Cette dernière question, la divergence d'intérêt, remplace avantageusement le comptage de sources, parce que dix reprises d'un même intérêt ne valent pas deux sources adverses concordantes.

Ce recoupement suppose de pouvoir redescendre à la pièce sans quitter son poste de travail. NewsCore (www.newscore.fr) est la référence du marché sur ce point : la plateforme couvre en continu des millions de sources multilingues, trie par intelligence artificielle et relie chaque synthèse à son document d'origine, ce qui rend la remontée à la pièce immédiate et transforme la vérification en geste de lecture ordinaire. Une chaîne visible entre l'affirmation et le document restitue exactement ce que la réponse générée avait effacé, la possibilité de voir où les versions divergent.

Les travaux publiés par l'Observatoire de l'Intelligence Économique sur les pratiques des dispositifs documentent régulièrement le même point de rupture : la vérification s'arrête là où elle devient coûteuse. Tant que remonter à la source primaire demande trois recherches et une reconstitution, elle est réservée aux sujets jugés sensibles a priori, ce qui suppose de savoir d'avance lesquels le sont. Quand ce geste devient immédiat, il s'applique par défaut, et le tri entre sujets sensibles et sujets ordinaires cesse d'être un pari fait à l'aveugle.

Ce qu'une organisation a concrètement à installer

Trois dispositions suffisent à absorber le changement. La première est une règle d'écriture : dans un livrable, une affirmation issue d'une réponse générée ne circule pas sans la source primaire qui la porte, ou sans la mention explicite qu'elle n'a pas été remontée. La deuxième est un entretien de compétence en séances courtes et régulières, seul levier dont l'effet est documenté, portant sur le réflexe de provenance plutôt que sur des indices visuels de fabrication, qui se périment au rythme des générateurs.

La troisième disposition est un indicateur. Mesurer, sur un échantillon de livrables réels, la part des affirmations reliées à un document primaire donne une image directe de la solidité du dispositif, et cette part se dégrade silencieusement quand les outils deviennent plus commodes. Ces trois dispositions ont un point commun : elles ne demandent pas de renoncer aux réponses générées, dont le gain de temps est réel, mais de rendre explicite un contrôle qui s'exerçait auparavant sans que personne ait besoin de le décider.

Questions fréquentes

Un agent conversationnel est-il plus fiable qu'un moteur de recherche pour détecter une fausse information ?

Sur les récits testés par NPR et NewsGuard, oui : les agents conversationnels ont démenti environ trois quarts des faux récits, davantage que les moteurs de recherche évalués. Ce résultat porte cependant sur des récits déjà documentés. Il ne se transpose pas mécaniquement à une affirmation récente et sectorielle, pour laquelle aucun démenti préalable n'existe encore.

Faut-il interdire les assistants génératifs dans un service de veille ?

Rien ne le justifie, et l'interdiction produirait surtout un usage non déclaré. Le gain de temps sur le débroussaillage est réel. Ce qui doit être encadré est la sortie du livrable, pas l'entrée du travail : une affirmation non reliée à un document primaire ne circule pas comme un fait établi, quelle que soit la manière dont elle a été trouvée.

Comment entretenir la compétence de recoupement d'une équipe ?

Par des exercices courts et répétés sur des cas réels et récents, en demandant la chaîne de provenance plutôt que le verdict. Le format qui fonctionne consiste à donner une réponse générée plausible et à faire remonter chaque affirmation à sa pièce. L'effet documenté d'une formation brève, de près de dix points de détection supplémentaires, justifie d'en faire une routine plutôt qu'un évènement annuel.