Les machines à lire dans les pensées sont là : est-il temps de s’inquiéter ?

La petite voix à l’intérieur de votre tête peut maintenant être décodée par un scanner cérébral – au moins de temps en temps. Les chercheurs ont développé la première méthode non invasive pour déterminer l’essentiel de la parole imaginée, présentant une possibilité de communication pour les personnes qui ne peuvent pas parler. Mais à quel point la technologie – qui n’est actuellement que modérément précise – est-elle proche de la réalisation d’une véritable lecture de l’esprit ? Et comment les responsables politiques peuvent-ils s’assurer que ces évolutions ne sont pas utilisées à mauvais escient ?

La plupart des technologies de pensée à la parole existantes utilisent des implants cérébraux qui surveillent l’activité dans le cortex moteur d’une personne et prédisent les mots que les lèvres essaient de former. Pour comprendre le sens réel de cette pensée, les informaticiens Alexander Huth et Jerry Tang de l’Université du Texas à Austin et leurs collègues ont combiné l’imagerie par résonance magnétique fonctionnelle (IRMf), un moyen non invasif de mesurer l’activité cérébrale, avec l’intelligence artificielle (IA ) algorithmes appelés grands modèles de langage (LLM), qui sous-tendent des outils tels que ChatGPT et sont formés pour prédire le mot suivant dans un morceau de texte.

Dans une étude publiée dans Nature Neuroscience le 1er mai, les chercheurs ont demandé à 3 volontaires de s’allonger dans un scanner IRMf et ont enregistré l’activité cérébrale des individus pendant qu’ils écoutaient 16 heures de podcasts chacun[1]. En mesurant le flux sanguin dans le cerveau des volontaires et en intégrant ces informations aux détails des histoires qu’ils écoutaient et à la capacité du LLM à comprendre comment les mots sont liés les uns aux autres, les chercheurs ont développé une carte codée de la façon dont le cerveau de chaque individu réagit à différents mots et phrases.

Ensuite, les chercheurs ont enregistré l’activité IRMf des participants pendant qu’ils écoutaient une histoire, imaginaient raconter une histoire ou regardaient un film qui ne contenait aucun dialogue. En utilisant une combinaison des modèles qu’ils avaient précédemment encodés pour chaque individu et des algorithmes qui déterminent comment une phrase est susceptible d’être construite sur la base d’autres mots qu’elle contient, les chercheurs ont tenté de décoder cette nouvelle activité cérébrale. La vidéo ci-dessous montre les phrases produites à partir d’enregistrements cérébraux réalisés pendant qu’un participant à l’étude regardait un extrait du film d’animation Sintel, sur une fille prenant soin d’un bébé dragon.

Frapper et manquer

Le décodeur a généré des phrases qui comprenaient l’essentiel de ce que la personne pensait : la phrase « Je n’ai pas encore mon permis de conduire », par exemple, a été décodée comme « elle n’a même pas encore commencé à apprendre à conduire ». Et il a fait un travail assez précis pour décrire ce que les gens voyaient dans les films. Mais bon nombre des phrases qu’il produisait étaient inexactes.

Les chercheurs ont également découvert qu’il était facile de tromper la technologie. Lorsque les participants pensaient à une histoire différente tout en écoutant une histoire enregistrée, le décodeur ne pouvait pas déterminer les mots qu’ils entendaient. La carte codée différait également entre les individus, ce qui signifie que les chercheurs ne pouvaient pas créer un décodeur qui fonctionnait sur tout le monde. Huth pense qu’il deviendra encore plus difficile de développer un décodeur universel à mesure que les chercheurs créeront des cartes plus détaillées du cerveau des individus.

Déterminer comment le cerveau crée du sens à partir du langage est extrêmement difficile, explique Francisco Pereira, neuroscientifique à l’Institut national américain de la santé mentale à Bethesda, dans le Maryland. « C’est impressionnant de voir quelqu’un réussir. »

« Réveil »

Les neuroéthiciens sont divisés sur la question de savoir si la dernière avancée représente une menace pour la vie privée mentale. « Je n’appelle pas à la panique, mais le développement de technologies sophistiquées et non invasives comme celle-ci semble être plus proche à l’horizon que prévu », déclare le bioéthicien Gabriel Lázaro-Muñoz de la Harvard Medical School de Boston. « Je pense que c’est un grand signal d’alarme pour les décideurs politiques et le public. »

Mais Adina Roskies, philosophe des sciences à l’Université de Dartmouth à Hanovre, dans le New Hampshire, affirme que la technologie est trop difficile à utiliser – et trop imprécise – pour constituer une menace à l’heure actuelle. Pour commencer, les scanners IRMf ne sont pas portables, ce qui rend difficile de scanner le cerveau de quelqu’un sans sa coopération. Elle doute également qu’il vaille la peine de former un décodeur pour un individu à des fins autres que la restauration des capacités de communication. « Je ne pense tout simplement pas qu’il soit temps de commencer à s’inquiéter », dit-elle. « Il existe de nombreuses autres façons pour le gouvernement de dire ce que nous pensons. »

Greta Tuckute, neuroscientifique cognitive au Massachusetts Institute of Technology de Cambridge, trouve encourageant que le système de décodage ne puisse pas être appliqué à tous les individus et que les gens puissent facilement le tromper en pensant à d’autres choses. « C’est une belle démonstration de notre degré de libre arbitre », dit-elle.

Procéder avec prudence

Néanmoins, Roskies dit que même si le décodeur ne fonctionne pas bien, des problèmes pourraient survenir si des avocats ou des tribunaux l’utilisaient sans comprendre ses limites scientifiques. Par exemple, dans l’étude actuelle, la phrase « Je viens de sauter [de la voiture] » a été décodée comme « J’ai dû la pousser hors de la voiture ». « Les différences sont suffisamment importantes pour qu’elles puissent faire une énorme différence dans une affaire judiciaire », déclare Roskies. « J’ai peur qu’ils aient la capacité d’utiliser ce truc alors qu’ils ne le devraient pas. »

Tang est d’accord. « Le polygraphe n’est pas précis mais a eu des conséquences négatives », a-t-il déclaré lors d’une conférence de presse. « Le cerveau de personne ne devrait être décodé sans sa coopération. » Lui et Huth ont appelé les décideurs politiques à déterminer de manière proactive comment les technologies de lecture de pensées peuvent et ne peuvent pas être utilisées légalement.

Lázaro-Muñoz dit que l’action politique pourrait refléter une loi américaine de 2008 qui empêche les assureurs et les employeurs d’utiliser les informations génétiques des personnes de manière discriminatoire. Il s’inquiète également des implications du décodeur pour les personnes atteintes de troubles tels que le trouble obsessionnel-compulsif, qui peuvent avoir des pensées indésirables et intrusives sur le fait de faire du mal à des personnes sur lesquelles elles n’agiraient jamais.

Pereira dit que la question de savoir à quel point les décodeurs pourraient devenir précis est une question ouverte, tout comme s’ils pourraient éventuellement devenir universels, au lieu d’être spécifiques à un individu.

« Cela dépend de la façon dont vous pensez que les humains sont uniques », dit-il.

Bien que le décodeur puisse éventuellement devenir bon pour prédire le mot suivant dans une série, il pourrait avoir du mal à interpréter les métaphores ou le sarcasme. Il y a un grand pas, dit Pereira, entre assembler des mots et déterminer comment le cerveau encode les relations entre les mots.

Note :
1. Tang, J., LeBel, A., Jain, S. & Huth, AG Nature Neurosci. https://doi.org/10.1038/s41593-023-01304-9 (2023).

yogaesoteric
31 juillet 2023