Comment piéger les revues scientifiques ? – Sciences Critiques
Une étude réalisée par intelligence artificielle a été publiée dans une revue scientifique internationale, sans vérification apparente. La publication de cet article frelaté, rapidement déjouée, montre à quel point les revues scientifiques, a priori rigoureuses et sérieuses, sont en réalité vulnérables.
* * *
E
N FÉVRIER 2024, une image issue d’une étude scientifique fait beaucoup de bruit sur les réseaux sociaux. On y découvre ce qui s’apparente au schéma d’une souris de laboratoire… Problème : l’animal est doté d’appendices anormaux − d’immenses boules avec ce qui ressemble à des veines, et une sorte de cordon ombilical démesuré qui mène vers on ne sait où (voir image ci-dessous).
Une image ridicule, même pour un œil non averti, et entièrement réalisée par intelligence artificielle (IA). Pourtant, elle a bien été publiée dans la revue Frontiers in Cells and Developmental Biology. Écrite par des chercheurs chinois sous le titre « Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway », l’étude dans laquelle l’image figurait a depuis été retirée, trois jours après sa publication et suite au tollé provoqué sur X (ex-Twitter).
ces journaux publient tout et n’importe quoi.
Mais comment une telle situation peut-elle se produire ? Comment une revue censée être sérieuse peut-elle se faire berner à ce point ? « C’est le problème des revues prédatrices, résume Florian Cova, chercheur en philosophie à l’Université de Genève. Pour Frontiers, il y a débat pour savoir si c’en est une ou pas. Mais, dans l’ensemble, ces journaux publient tout et n’importe quoi sans vérifier. Leur intérêt, c’est de recevoir l’argent des chercheurs, et peu importe le contenu. » En effet, dans ces revues en libre-accès, l’équilibre financier est assuré par les auteurs qui payent pour être dans les pages, et ainsi avoir des références à indiquer sur leur curriculum vitæ.
« UNE CRISE DE PRODUCTION SCIENTIFIQUE »
Florian Cova en sait quelque chose, puisqu’il a lui-même publié dans une revue prédatrice en 2020. Alors que le débat faisait rage autour de l’hydroxychloroquine censée soigner de la Covid, il avait écrit une étude qui assurait, expérience à l’appui, que cette substance permettrait d’éviter les accidents de trottinette. Un canular évident, mais qui avait eu l’honneur d’être publié par une revue. « On avait des biais partout, des résultats idiots, des corrélations sans aucun sens… Mais c’est passé, explique-t-il. On a même eu une demande de révision parce que nous n’avions pas précisé le lieu de l’expérience. On a donc dit que c’était sur notre chaise de bureau, et ça a suffi ! »
des biais partout, des résultats idiots.
Mais si tromper une revue prédatrice est, semble-t-il, relativement facile, il n’en va pas de même pour les journaux scientifiques plus rigoureux, qui sont censés faire relire les études par des spécialistes avant toute publication. Surtout avec l’arrivée de l’IA : moyen d’automatisation des études bidon, et de plus en plus difficile à détecter. « Il y a un souci au niveau de l’évaluation des études, reconnaît Arnaud Saint-Martin, sociologue au Centre européen de sociologie et de science politique (CESSP). Il y a de plus en plus de revues. On est noyé sous la littérature et dans ce déluge, il y a des grumeaux ! C’est une crise de la production scientifique. »
Mais cette surproduction n’est pas uniquement le fait des scientifiques qui chercheraient plus de prestige, elle est encouragée par le monde de la recherche, selon Arnaud Saint-Martin : « C’est un modèle qui nous vient des États-Unis mais qui se diffuse. Pour être titularisé, il faut publier. Pour être influent, il faut publier. Pour gagner de l’argent, il faut publier. C’est tout un système à revoir, une lame de fond qui contraint tout l’effort de la connaissance. » En France également, le problème se pose. « Au Centre national de la recherche scientifique (CNRS), nous sommes un peu protégés, nuance Arnaud Saint-Martin. Nous sommes tout de même encouragés à publier, mais il n’y a pas la menace d’être viré ou quoi que ce soit. Les injonctions sont peut-être moins officielles, mais elles existent tout de même. Nous avons des comptes à rendre. »
DES USINES À ÉTUDES SCIENTIFIQUES
Un phénomène qui a donné naissance aux « Paper mills », ou usines à papiers. Des systèmes dans lesquels des « producteurs d’études » publient au nom des chercheurs qui en font la demande. Ainsi, les scientifiques peuvent se voir crédités de plusieurs dizaines de publications sans rien faire. Ce qui a été dénoncé par plusieurs revues comme Nature, qui évoque des centaines de publications frauduleuses venues d’Iran, de Chine ou de Russie.
« On en trouve notamment en médecine ou en biologie, précise Florian Cova. Ce sont des domaines très compétitifs. Les gens qui écrivent peuvent très bien inventer des données, publier du vide… Et comme leur nombre augmente, il est difficile de faire le tri, et certaines se retrouvent publiées. »
C’est une industrialisation de la science qui a des conséquences néfastes.
La crainte, c’est que l’intelligence artificielle ne vienne automatiser ce processus. Aujourd’hui, ChatGPT peut très bien construire une étude scientifique qui paraîtra crédible pour un observateur peu attentif. Avec le risque que ces résultats faux ne passent à travers les mailles du filet et finissent par intégrer le corpus « officiel » des connaissances scientifiques. Ainsi, si un chercheur veut, plus tard, faire une méta-analyse, qui consiste à recenser toutes les études sur un sujet précis, il tombera sur une ou plusieurs études écrites pour le compte de paper mills avec l’aide de l’intelligence artificielle, ce qui faussera l’analyse finale faite de bonne foi.
« Le monde des revues est malheureusement pris dans ce système, affirme Arnaud Saint-Martin. Ce n’est pas l’affaire de quelques brebis galeuses, mais bien un problème structurel qu’il faut réintégrer dans une vision globale. La fraude est un symptôme de ce qui ne va pas. »
Face à l’IA et à la multiplication des articles scientifiques, les garde-fous habituels ne suffisent pas. Le peer-reviewing (la relecture par les pairs), qui consiste à faire relire l’article avant publication, est incapable d’absorber tout le contenu. Une autre solution pourrait être le post-reviewing, avec une relecture après publication. C’est le principe mis en œuvre, par exemple, sur le serveur ArXiv, où les chercheurs peuvent pré-publier leurs études et attendre les retours de la communauté avant une éventuelle soumission à un « vrai » journal.
Ce n’est pas l’affaire de quelques brebis galeuses, mais bien un problème structurel qu’il faut réintégrer dans une vision globale.
« Le peer-reviewing reste assez récent dans l’histoire des sciences, rappelle Florian Cova. Jusqu’à la moitié du XXe siècle, les scientifiques publiaient, puis on faisait le tri après. C’était un système valable à une époque où la science n’intéressait pas grand monde en dehors des scientifiques. »
Mais le monde a changé. Aujourd’hui, le grand public peut également se tenir au courant de l’actualité scientifique. Et lorsqu’une étude est publiée, elle est présentée comme véridique. « C’est une industrialisation de la science qui a des conséquences néfastes, déplore Arnaud Saint-Martin. Avec ces fraudes, c’est l’intégrité scientifique qui est menacée. »
La crise du Covid a montré une certaine défiance à l’égard de la science de la part d’une partie de la population. Les frasques de Didier Raoult autour de l’hydroxychloroquine et les nombreuses incertitudes sur la nature de l’épidémie ont contribué à générer le doute autour de la fiabilité du monde de la recherche. « Je ne crois pas qu’il y ait une résistance à la science en tant que telle, tempère Florian Cova. Les études sur le sujet montrent qu’il y a plutôt une défiance envers certains scientifiques mais pas contre toute la fabrique de la science. Et puis, c’est assez sain de questionner le fait que les études publiées ne soient pas forcément vraies. C’est une remise en question nécessaire. »
Hugo Ruher, journaliste / Sciences Critiques.
Auteur : Gautier Demouveaux
Aller à la source
