Des scientifiques consternés par l’étrange rat généré par une IA et doté d’énormes organes génitaux dans une étude publiée
L‘utilisation discutable de contenus générés par l’IA dans des revues universitaires pose un problème pour la crédibilité de la communauté scientifique. Certains coupables sont plus faciles à éliminer que d’autres, mais personne ne pouvait s’attendre à un exemple aussi ridicule que ce dernier cas.
Comme l’a repéré un utilisateur sur X anciennement Twitter, une nouvelle étude publiée cette semaine dans la revue Frontiers in Cell and Developmental Biology, qui est censée faire l’objet d’un examen par les pairs, comporte de nombreux chiffres et diagrammes qui sont manifestement générés par une IA.
Image d’entête : figure de l’étude générée par l’IA. Cette image est censée montrer des cellules souches spermatogoniales isolées, purifiées et cultivées à partir de testicules de rats. (Guo et col./ Front. Cell Dev. Biol.)
Par exemple, le diagramme en entête d’une souris extrêmement bien pourvue. La morphologie est tellement grotesque et comique qu’elle défie toute explication, affichant ce qui semble être une vue disséquée de testicules presque aussi grands que la souris elle-même. Les testicules sortent également de l’estomac de la souris et pendent en quelque sorte à l’air libre, attachés à une anatomie supérieure inconnue hors du cadre.
Notez l’accent mis sur « semble être », car les étiquettes sur le diagramme sont faites de charabia comme « testtomcels », « retat » et « dck ». Mais il y a quand même des choses correctes, comme cette ligne utile qui pointe vers le milieu de la créature intitulée « Rat ».
À la décharge des chercheurs, ils n’étaient pas trompeurs, puisqu’ils ont indiqué que les « images de cette étude ont été générées par Midjourney”. Pourtant, ils semblent n’avoir fait que peu ou pas d’efforts pour les modifier, ce qui finit par saper leur crédibilité. Morale de l’histoire : vérifiez à deux fois ce qui a été halluciné par une IA.
La figure 2 de l’étude est un diagramme de la voie de signalisation JAK-STAT, ou du moins c’est ce qu’elle est censée être. (Guo et col./ Front. Cell Dev. Biol.)
À propos de double vérification, certains membres de la communauté scientifique avertissent que Frontiers est ce que l’on appelle une « revue prédatrice« , un type de publication qui prétend de manière trompeuse procéder à une évaluation par les pairs tout en profitant des scientifiques qui cherchent désespérément à faire publier leur étude. Si c’est le cas, cela pourrait expliquer pourquoi ces images absolument déroutantes n’ont pas suscité de réactions d’alarme. Personne, semble-t-il, ne procède à de véritables vérifications.
La figure 3 montre en principe les relations entre la voie et les aspects des cellules souches. (Guo et col./ Front. Cell Dev. Biol.)
Il convient toutefois de noter que tout le monde n’est pas d’accord avec cette caractérisation de la revue Frontiers, car la question de savoir quelles revues sont considérées comme « prédatrices » reste un sujet brûlant dans la communauté. En réponse à cette récente controverse, l’éditeur a reconnu qu’il avait vu la « surveillance » se développer sur les médias sociaux.
Selon Frontiers sur X (Twitter) :
Nous remercions les lecteurs pour leur examen minutieux de nos articles : lorsque nous nous trompons, la dynamique de crowdsourcing de la science ouverte signifie que les commentaires de la communauté nous aident à corriger rapidement le dossier.
Quelle que soit la publication, il est indéniable que l’IA générative a fait d’inquiétantes percées dans le monde universitaire. Certaines publications ont été plus directes en mentionnant ChatGPT comme coauteur. D’autres ne l’ont pas fait, mais ont tout de même réussi à passer le cap de l’examen par les pairs.
Ceux qui se font prendre commettent souvent des erreurs d’inattention, en oubliant par exemple de supprimer des phrases révélatrices de l’IA telles que « régénérer la réponse ». Quoi qu’il en soit, le contenu généré est généralement truffé d’erreurs factuelles.
L’étude incriminée publiée dans Frontiers in Cell and Developmental Biology : Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway, repéré par l’utilisateur clifford de X (Twitter). Jeudi dernier, l’éditeur de l’étude, Frontiers, a publié une « expression de préoccupation », indiquant qu’il était conscient des problèmes liés à l’étude publié : An expression of concern on: ‘Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway’ by Guo X, Dong L and Hao D (2024) Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway.