Une grande revue scientifique humiliée après avoir publié un faux article gé-néré par l’IA sur un rat doté d’un pénis géant
Le Telegraph rapporte que la revue Frontiers in Cell and Development Biology a publié un article qui prétendait montrer la voie de signalisation des cellules souches spermatiques, mais qui représentait un rat assis à la verticale avec une énorme pénis et quatre testicules géants.
L’illustration aurait été créée à l’aide de Midjourney, l’outil d’imagerie de l’IA, qui a ajouté des étiquettes au diagramme ridicule en utilisant des termes qui n’existent pas, notamment « dissilced », « testtomcels » et « senctolic ».
Une autre image ridicule, à droite du rat, montre des « cellules stériles » dans une boîte de Pétri en train d’être retirées à la cuillère.
Les images suivantes du document présentaient également des termes et des systèmes biologiques qui ne sont tout simplement pas réels.
Fait remarquable, l’article a été publié dans la revue, où il a été lu par des scientifiques qui ont immédiatement reconnu que les images et les descriptions n’étaient fondées sur « aucune biologie connue ».
La revue a retiré l’article, présenté ses excuses et annoncé qu’elle s’efforçait de « rectifier le tir ».
Adrian Liston, professeur de pathologie à l’université de Cambridge et rédacteur en chef de la revue Immunology & Cell Biology, a mis en garde contre les dangers de l’utilisation de l’IA pour créer des diagrammes scientifiques : « L’IA générative est très douée pour faire des choses qui semblent provenir d’un être humain. Elle ne vérifie pas si ces choses sont correctes ».
« C’est comme un acteur qui joue le rôle d’un médecin dans une série télévisée : il a l’air d’un médecin, il parle comme un médecin, il utilise même des mots qu’un médecin utiliserait. Mais vous ne voudriez pas obtenir de conseils médicaux de la part de cet acteur », a-t-il ajouté, avertissant que « le problème des vrais journaux devient de plus en plus difficile, car l’IA générative facilite la tâche des tricheurs ».
« Autrefois, il était très facile de distinguer les articles frauduleux d’un simple coup d’œil. C’est de plus en plus difficile, et de nombreuses personnes travaillant dans le domaine de l’édition scientifique commencent à craindre que nous atteignions un point de basculement où nous ne pourrons plus déterminer manuellement si un article est authentique ou frauduleux », a ajouté Liston.
Depuis, des personnes ont créé leurs propres images de rats d’IA pour tenter de comprendre ce que les « chercheurs » chinois ont tapé dans Midjourney pour créer les images qui ont été publiées.
yogaesoteric
3 mars 2024