{"id":129208,"date":"2023-07-31T19:23:52","date_gmt":"2023-07-31T19:23:52","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=129208"},"modified":"2023-07-31T19:25:01","modified_gmt":"2023-07-31T19:25:01","slug":"les-machines-a-lire-dans-les-pensees-sont-la-est-il-temps-de-sinquieter","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/les-machines-a-lire-dans-les-pensees-sont-la-est-il-temps-de-sinquieter\/","title":{"rendered":"Les machines \u00e0 lire dans les pens\u00e9es sont l\u00e0 : est-il temps de s\u2019inqui\u00e9ter ?"},"content":{"rendered":"<p>La petite voix \u00e0 l\u2019int\u00e9rieur de votre t\u00eate peut maintenant \u00eatre d\u00e9cod\u00e9e par un scanner c\u00e9r\u00e9bral \u2013 au moins de temps en temps. Les chercheurs ont d\u00e9velopp\u00e9 la premi\u00e8re m\u00e9thode non invasive pour d\u00e9terminer l\u2019essentiel de la parole imagin\u00e9e, pr\u00e9sentant une possibilit\u00e9 de communication pour les personnes qui ne peuvent pas parler. Mais \u00e0 quel point la technologie \u2013 qui n\u2019est actuellement que mod\u00e9r\u00e9ment pr\u00e9cise \u2013 est-elle proche de la r\u00e9alisation d\u2019une v\u00e9ritable lecture de l\u2019esprit ? Et comment les responsables politiques peuvent-ils s\u2019assurer que ces \u00e9volutions ne sont pas utilis\u00e9es \u00e0 mauvais escient ?<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-129209\" src=\"https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/07\/1-14-300x171.png\" alt=\"\" width=\"561\" height=\"320\" srcset=\"https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/07\/1-14-300x171.png 300w, https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/07\/1-14-768x438.png 768w, https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/07\/1-14.png 861w\" sizes=\"auto, (max-width: 561px) 100vw, 561px\" \/><\/p>\n<p>La plupart des technologies de pens\u00e9e \u00e0 la parole existantes utilisent des implants c\u00e9r\u00e9braux qui surveillent l\u2019activit\u00e9 dans le cortex moteur d\u2019une personne et pr\u00e9disent les mots que les l\u00e8vres essaient de former. Pour comprendre le sens r\u00e9el de cette pens\u00e9e, les informaticiens Alexander Huth et Jerry Tang de l\u2019Universit\u00e9 du Texas \u00e0 Austin et leurs coll\u00e8gues ont combin\u00e9 l\u2019imagerie par r\u00e9sonance magn\u00e9tique fonctionnelle (IRMf), un moyen non invasif de mesurer l\u2019activit\u00e9 c\u00e9r\u00e9brale, avec l\u2019intelligence artificielle (IA ) algorithmes appel\u00e9s grands mod\u00e8les de langage (LLM), qui sous-tendent des outils tels que ChatGPT et sont form\u00e9s pour pr\u00e9dire le mot suivant dans un morceau de texte.<\/p>\n<p>Dans une <a href=\"https:\/\/www-nature-com.translate.goog\/articles\/s41593-023-01304-9?_x_tr_sl=en&amp;_x_tr_tl=fr&amp;_x_tr_hl=fr&amp;_x_tr_pto=sc\">\u00e9tude publi\u00e9e dans <em>Nature Neuroscience<\/em><\/a> le 1er mai, les chercheurs ont demand\u00e9 \u00e0 3 volontaires de s\u2019allonger dans un scanner IRMf et ont enregistr\u00e9 l\u2019activit\u00e9 c\u00e9r\u00e9brale des individus pendant qu\u2019ils \u00e9coutaient 16 heures de podcasts chacun[1]. En mesurant le flux sanguin dans le cerveau des volontaires et en int\u00e9grant ces informations aux d\u00e9tails des histoires qu\u2019ils \u00e9coutaient et \u00e0 la capacit\u00e9 du LLM \u00e0 comprendre comment les mots sont li\u00e9s les uns aux autres, les chercheurs ont d\u00e9velopp\u00e9 une carte cod\u00e9e de la fa\u00e7on dont le cerveau de chaque individu r\u00e9agit \u00e0 diff\u00e9rents mots et phrases.<\/p>\n<p>Ensuite, les chercheurs ont enregistr\u00e9 l\u2019activit\u00e9 IRMf des participants pendant qu\u2019ils \u00e9coutaient une histoire, imaginaient raconter une histoire ou regardaient un film qui ne contenait aucun dialogue. En utilisant une combinaison des mod\u00e8les qu\u2019ils avaient pr\u00e9c\u00e9demment encod\u00e9s pour chaque individu et des algorithmes qui d\u00e9terminent comment une phrase est susceptible d\u2019\u00eatre construite sur la base d\u2019autres mots qu\u2019elle contient, les chercheurs ont tent\u00e9 de d\u00e9coder cette nouvelle activit\u00e9 c\u00e9r\u00e9brale. La vid\u00e9o ci-dessous montre les phrases produites \u00e0 partir d\u2019enregistrements c\u00e9r\u00e9braux r\u00e9alis\u00e9s pendant qu\u2019un participant \u00e0 l\u2019\u00e9tude regardait un extrait du film d\u2019animation <em>Sintel<\/em>, sur une fille prenant soin d\u2019un b\u00e9b\u00e9 dragon.<\/p>\n<p style=\"text-align: center;\"><iframe loading=\"lazy\" class=\"fitvidsignore\" title=\"YouTube video player\" src=\"https:\/\/www.youtube.com\/embed\/kI_sPjORt90\" width=\"560\" height=\"315\" frameborder=\"0\" allowfullscreen=\"allowfullscreen\"><span data-mce-type=\"bookmark\" style=\"display: inline-block; width: 0px; overflow: hidden; line-height: 0;\" class=\"mce_SELRES_start\">\ufeff<\/span><\/iframe><\/p>\n<p><strong>Frapper et manquer<\/strong><\/p>\n<p>Le d\u00e9codeur a g\u00e9n\u00e9r\u00e9 des phrases qui comprenaient l\u2019essentiel de ce que la personne pensait : la phrase \u00ab<em> Je n\u2019ai pas encore mon permis de conduire<\/em> \u00bb, par exemple, a \u00e9t\u00e9 d\u00e9cod\u00e9e comme \u00ab <em>elle n\u2019a m\u00eame pas encore commenc\u00e9 \u00e0 apprendre \u00e0 conduire<\/em> \u00bb. Et il a fait un travail assez pr\u00e9cis pour d\u00e9crire ce que les gens voyaient dans les films. Mais bon nombre des phrases qu\u2019il produisait \u00e9taient inexactes.<\/p>\n<p>Les chercheurs ont \u00e9galement d\u00e9couvert qu\u2019il \u00e9tait facile de tromper la technologie. Lorsque les participants pensaient \u00e0 une histoire diff\u00e9rente tout en \u00e9coutant une histoire enregistr\u00e9e, le d\u00e9codeur ne pouvait pas d\u00e9terminer les mots qu\u2019ils entendaient. La carte cod\u00e9e diff\u00e9rait \u00e9galement entre les individus, ce qui signifie que les chercheurs ne pouvaient pas cr\u00e9er un d\u00e9codeur qui fonctionnait sur tout le monde. Huth pense qu\u2019il deviendra encore plus difficile de d\u00e9velopper un d\u00e9codeur universel \u00e0 mesure que les chercheurs cr\u00e9eront des cartes plus d\u00e9taill\u00e9es du cerveau des individus.<\/p>\n<p>D\u00e9terminer comment le cerveau cr\u00e9e du sens \u00e0 partir du langage est extr\u00eamement difficile, explique Francisco Pereira, neuroscientifique \u00e0 l\u2019Institut national am\u00e9ricain de la sant\u00e9 mentale \u00e0 Bethesda, dans le Maryland. \u00ab<em> C\u2019est impressionnant de voir quelqu\u2019un r\u00e9ussir. <\/em>\u00bb<\/p>\n<p><strong>\u00ab R\u00e9veil \u00bb<\/strong><\/p>\n<p>Les neuro\u00e9thiciens sont divis\u00e9s sur la question de savoir si la derni\u00e8re avanc\u00e9e repr\u00e9sente une menace pour la vie priv\u00e9e mentale. \u00ab<em> Je n\u2019appelle pas \u00e0 la panique, mais le d\u00e9veloppement de technologies sophistiqu\u00e9es et non invasives comme celle-ci semble \u00eatre plus proche \u00e0 l\u2019horizon que pr\u00e9vu <\/em>\u00bb, d\u00e9clare le bio\u00e9thicien Gabriel L\u00e1zaro-Mu\u00f1oz de la Harvard Medical School de Boston. \u00ab <em>Je pense que c\u2019est un grand signal d\u2019alarme pour les d\u00e9cideurs politiques et le public.<\/em> \u00bb<\/p>\n<p>Mais Adina Roskies, philosophe des sciences \u00e0 l\u2019Universit\u00e9 de Dartmouth \u00e0 Hanovre, dans le New Hampshire, affirme que la technologie est trop difficile \u00e0 utiliser \u2013 et trop impr\u00e9cise \u2013 pour constituer une menace \u00e0 l\u2019heure actuelle. Pour commencer, les scanners IRMf ne sont pas portables, ce qui rend difficile de scanner le cerveau de quelqu\u2019un sans sa coop\u00e9ration. Elle doute \u00e9galement qu\u2019il vaille la peine de former un d\u00e9codeur pour un individu \u00e0 des fins autres que la restauration des capacit\u00e9s de communication. \u00ab <em>Je ne pense tout simplement pas qu\u2019il soit temps de commencer \u00e0 s\u2019inqui\u00e9ter <\/em>\u00bb, dit-elle. \u00ab <em>Il existe de nombreuses autres fa\u00e7ons pour le gouvernement de dire ce que nous pensons.<\/em> \u00bb<\/p>\n<p>Greta Tuckute, neuroscientifique cognitive au Massachusetts Institute of Technology de Cambridge, trouve encourageant que le syst\u00e8me de d\u00e9codage ne puisse pas \u00eatre appliqu\u00e9 \u00e0 tous les individus et que les gens puissent facilement le tromper en pensant \u00e0 d\u2019autres choses. \u00ab <em>C\u2019est une belle d\u00e9monstration de notre degr\u00e9 de libre arbitre<\/em> \u00bb, dit-elle.<\/p>\n<p><strong>Proc\u00e9der avec prudence<\/strong><\/p>\n<p>N\u00e9anmoins, Roskies dit que m\u00eame si le d\u00e9codeur ne fonctionne pas bien, des probl\u00e8mes pourraient survenir si des avocats ou des tribunaux l\u2019utilisaient sans comprendre ses limites scientifiques. Par exemple, dans l\u2019\u00e9tude actuelle, la phrase \u00ab <em>Je viens de sauter [de la voiture] <\/em>\u00bb a \u00e9t\u00e9 d\u00e9cod\u00e9e comme \u00ab <em>J\u2019ai d\u00fb la pousser hors de la voiture <\/em>\u00bb. \u00ab <em>Les diff\u00e9rences sont suffisamment importantes pour qu\u2019elles puissent faire une \u00e9norme diff\u00e9rence dans une affaire judiciaire<\/em> \u00bb, d\u00e9clare Roskies. \u00ab <em>J\u2019ai peur qu\u2019ils aient la capacit\u00e9 d\u2019utiliser ce truc alors qu\u2019ils ne le devraient pas. <\/em>\u00bb<\/p>\n<p>Tang est d\u2019accord. \u00ab <em>Le polygraphe n\u2019est pas pr\u00e9cis mais a eu des cons\u00e9quences n\u00e9gatives<\/em> \u00bb, a-t-il d\u00e9clar\u00e9 lors d\u2019une conf\u00e9rence de presse. \u00ab <em>Le cerveau de personne ne devrait \u00eatre d\u00e9cod\u00e9 sans sa coop\u00e9ration. <\/em>\u00bb Lui et Huth ont appel\u00e9 les d\u00e9cideurs politiques \u00e0 d\u00e9terminer de mani\u00e8re proactive comment les technologies de lecture de pens\u00e9es peuvent et ne peuvent pas \u00eatre utilis\u00e9es l\u00e9galement.<\/p>\n<p>L\u00e1zaro-Mu\u00f1oz dit que l\u2019action politique pourrait refl\u00e9ter une loi am\u00e9ricaine de 2008 qui emp\u00eache les assureurs et les employeurs d\u2019utiliser les informations g\u00e9n\u00e9tiques des personnes de mani\u00e8re discriminatoire. Il s\u2019inqui\u00e8te \u00e9galement des implications du d\u00e9codeur pour les personnes atteintes de troubles tels que le trouble obsessionnel-compulsif, qui peuvent avoir des pens\u00e9es ind\u00e9sirables et intrusives sur le fait de faire du mal \u00e0 des personnes sur lesquelles elles n\u2019agiraient jamais.<\/p>\n<p>Pereira dit que la question de savoir \u00e0 quel point les d\u00e9codeurs pourraient devenir pr\u00e9cis est une question ouverte, tout comme s\u2019ils pourraient \u00e9ventuellement devenir universels, au lieu d\u2019\u00eatre sp\u00e9cifiques \u00e0 un individu.<\/p>\n<p>\u00ab <em>Cela d\u00e9pend de la fa\u00e7on dont vous pensez que les humains sont uniques <\/em>\u00bb, dit-il.<\/p>\n<p>Bien que le d\u00e9codeur puisse \u00e9ventuellement devenir bon pour pr\u00e9dire le mot suivant dans une s\u00e9rie, il pourrait avoir du mal \u00e0 interpr\u00e9ter les m\u00e9taphores ou le sarcasme. Il y a un grand pas, dit Pereira, entre assembler des mots et d\u00e9terminer comment le cerveau encode les relations entre les mots.<\/p>\n<p><strong>Note :<\/strong><br \/>\n1. Tang, J., LeBel, A., Jain, S. &amp; Huth, AG <em>Nature Neurosci<\/em>. https:\/\/doi.org\/10.1038\/s41593-023-01304-9 (2023).<\/p>\n<p>&nbsp;<\/p>\n<p><strong>yogaesoteric<br \/>\n31 juillet 2023<\/strong><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La petite voix \u00e0 l\u2019int\u00e9rieur de votre t\u00eate peut maintenant \u00eatre d\u00e9cod\u00e9e par un scanner c\u00e9r\u00e9bral \u2013 au moins de temps en temps. Les chercheurs ont d\u00e9velopp\u00e9 la premi\u00e8re m\u00e9thode non invasive pour d\u00e9terminer l\u2019essentiel de la parole imagin\u00e9e, pr\u00e9sentant une possibilit\u00e9 de communication pour les personnes qui ne peuvent pas parler. Mais \u00e0 quel [&hellip;]<\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[386],"tags":[],"class_list":["post-129208","post","type-post","status-publish","format-standard","hentry","category-nouvelles-1602-fr"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/129208","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=129208"}],"version-history":[{"count":2,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/129208\/revisions"}],"predecessor-version":[{"id":129213,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/129208\/revisions\/129213"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=129208"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=129208"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=129208"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}