L’UNESCO met en garde contre l’utilisation des puces cérébrales comme « armes de modification de la personnalité »

415 0

Une agence des Nations unies a mis en garde contre les implants cérébraux tels que le Neuralink d’Elon Musk, qui pourraient être utilisés comme « armes de modification de la personnalité ».

L’Organisation des Nations unies pour l’éducation, la science et la culture (UNESCO) a lancé cet avertissement par l’intermédiaire de son Comité international de bioéthique (CIB). Selon le CIB, les neurotechnologies pourraient conduire à « de nouvelles possibilités de surveillance et de manipulation de l’esprit humain par le biais de la neuro-imagerie [et] de [programmes] d’altération de la personnalité ».

C’est pourquoi l’agence des Nations Unies élabore actuellement un « cadre éthique » mondial destiné à protéger l’humanité des abus potentiels de la technologie des puces cérébrales. L’UNESCO craint que ces abus ne soient accélérés par les progrès de l’intelligence artificielle (IA).

« Nous sommes sur la voie d’un monde dans lequel les algorithmes nous permettront de décoder les processus mentaux des gens » a fait remarquer Gabriela Ramos, sous-directrice générale de l’UNESCO pour les sciences sociales et humaines. Elle a ajouté que les percées en neurotechnologie qui pourraient « manipuler directement les mécanismes cérébraux [des êtres humains], qui sous-tendent leurs intentions, leurs émotions et leurs décisions » ont des implications « considérables et potentiellement dangereuses ».

L’économiste Mariagrazia Squicciarini, qui dirige le bureau exécutif du secteur des sciences sociales et humaines de l’UNESCO, partage le même sentiment. Elle a fait remarquer que la capacité des algorithmes d’apprentissage automatique à extraire rapidement des modèles de données complexes (telles que celles des scanners cérébraux IRMf) accélérera l’accès des puces cérébrales à l’esprit humain.

« C’est comme si on mettait les neurotechnologies sous stéroïdes », a déclaré M. Squicciarini, spécialiste des questions liées à l’intelligence artificielle.

Le CIB de l’UNESCO a organisé une conférence le 13 juillet, à laquelle ont participé 1.000 personnes. Les résultats de la conférence ont été publiés dans un rapport de 91 pages le 18 juillet.

« Le développement spectaculaire des neurotechnologies – ainsi que des nouvelles biotechnologies, nanotechnologies et [technologies de l’information et de la communication] – rend les machines de plus en plus humanoïdes », indique le rapport. « Les gens sont de plus en plus connectés aux machines et à l’IA ».

« Il est nécessaire d’anticiper les effets de la mise en œuvre des neurotechnologies. Il existe un lien direct entre la liberté de pensée, l’État de droit et la démocratie. »

Musk décrit les implants comme une sorte de « remplacement d’un morceau de crâne par une montre intelligente ».

Selon le rapport du CIB, les neurotechnologies remettent en cause « certains aspects fondamentaux de la dignité humaine, tels que la confidentialité de la vie mentale ou l’autonomie individuelle ». Pour y remédier, le comité a appelé à une plus grande transparence de la recherche en neurotechnologie dans l’industrie et le monde universitaire. Elle a également appelé à l’élaboration de « neurodroits » à inclure dans la législation internationale sur les droits de l’homme.

La mise en garde de l’UNESCO concernant les neurotechnologies fait suite à l’approbation fédérale accordée par la Food and Drug Administration (FDA) des États-Unis à Neuralink de Musk pour la réalisation d’essais sur l’homme. Les implants Neuralink connecteront le cerveau au nuage par l’intermédiaire d’électrodes filiformes cousues dans certaines zones du cerveau. Ces électrodes communiqueront avec une puce pour lire les signaux produits par les neurones du cerveau.

« Comme les signaux des neurones sont directement traduits en commandes motrices, Neuralink pourrait permettre aux humains de contrôler des technologies externes […] [et de retrouver] des fonctions corporelles ou des mouvements musculaires perdus grâce à leur esprit », note le Daily Mail.

Musk lui-même a décrit les implants comme une sorte de « remplacement d’un morceau de crâne par une montre intelligente ».

yogaesoteric
29 septembre 2023