Une intelligence artificielle invente 40.000 armes chimiques en seulement 6 heures
L’I.A. ne fait que commencer à montrer ce qu’elle peut faire pour la médecine moderne.
Dans la société actuelle, l’intelligence artificielle (IA) est surtout utilisée à bon escient. Mais que se passerait-il si elle ne l’était pas ?
C’est la question que se sont posée des chercheurs de Collaborations Pharmaceuticals en menant des expériences avec une IA conçue pour rechercher des médicaments utiles.
Ils ont donc modifié cette IA pour qu’elle recherche des armes chimiques et, chose impressionnante, l’algorithme d’apprentissage automatique a trouvé 40.000 options en six heures seulement, selon un article publié dans la revue Nature Machine Intelligence.
Une pensée naïve
« L’idée ne nous avait jamais effleuré auparavant. Nous étions vaguement conscients des problèmes de sécurité liés au travail avec des agents pathogènes ou des produits chimiques toxiques, mais cela ne nous concernait pas ; nous travaillons principalement dans un environnement virtuel. Notre travail consiste à construire des modèles d’apprentissage automatique pour les cibles thérapeutiques et toxiques afin de mieux aider à la conception de nouvelles molécules pour la découverte de médicaments », écrivent les chercheurs dans leur article.
« Nous avons passé des décennies à utiliser les ordinateurs et l’intelligence artificielle pour améliorer la santé humaine, et non pour la dégrader. Nous avons été naïfs en pensant au mauvais usage potentiel de notre métier, car notre objectif avait toujours été d’éviter les caractéristiques moléculaires qui pourraient interférer avec les nombreuses classes de protéines essentielles à la vie humaine. »
Les chercheurs ont déclaré que même leurs travaux sur Ebola et les neurotoxines, qui auraient pu susciter des inquiétudes quant aux implications négatives potentielles de leurs modèles d’apprentissage automatique, n’avaient pas déclenché leur sonnette d’alarme. Ils étaient parfaitement inconscients des dommages qu’ils pouvaient infliger.
Comment leur expérience a-t-elle fonctionné ?
Collaborations Pharmaceuticals avait publié des modèles d’apprentissage automatique pour la prédiction de la toxicité. Les chercheurs n’ont eu qu’à adapter leur méthodologie pour rechercher, plutôt qu’éliminer, la toxicité et ils ont obtenu un exercice de réflexion qui s’est transformé en une preuve de concept informatique pour la fabrication d’armes biochimiques.
Cette expérience montre clairement pourquoi nous devons surveiller de plus près les modèles d’IA et réfléchir réellement aux conséquences de notre travail.
yogaesoteric
28 juin 2022
