Scientifiques : Il serait impossible de contrôler une IA superintelligente
IA surpuissante
Les scientifiques de la Société Max Planck, une institution de recherche européenne très connue, affirment que l’humanité ne sera jamais capable de contrôler une intelligence artificielle super-intelligente qui pourrait sauver ou détruire l’humanité.
C’est ce qui ressort d’une étude publiée dans le Journal of Artificial Intelligence Research. Le problème, selon les scientifiques de Max Planck, est qu’il n’y a aucun moyen de contenir un tel algorithme sans une technologie bien plus avancée que celle que nous pouvons développer aujourd’hui.
Enquête interne
L’équipe s’est principalement concentrée sur la question de la retenue. Si un algorithme tout-puissant déterminait d’une manière ou d’une autre qu’il devait faire du mal aux gens ou, d’une manière plus « Terminator », mettre fin à l’humanité tout entière, comment l’empêcher d’agir ?
Ils proposent de créer une sorte d’« algorithme de retenue » qui simule le comportement de l’algorithme dangereux et l’empêche de faire quoi que ce soit de nuisible – mais comme l’algorithme de retenue devrait être au moins aussi puissant que le premier à le faire, les scientifiques ont déclaré le problème impossible à résoudre.
Argument théorique
Tout cela n’est qu’un débat théorique. Une IA suffisamment avancée pour menacer l’humanité est probablement encore loin, mais des personnes très intelligentes y travaillent dur. C’est donc le sujet idéal pour en débattre à l’avance, bien sûr – nous voudrions connaître le danger avant qu’il n’arrive. « Une machine super-intelligente qui contrôle le monde ressemble à de la science-fiction », a déclaré dans un communiqué de presse le coauteur de l’étude, Manuel Cebrian, chef du groupe de mobilisation numérique au Centre pour les hommes et les machines de l’Institut Max Planck pour le développement humain. « Mais il existe déjà des machines qui effectuent certaines tâches importantes de manière indépendante sans que les programmeurs ne comprennent parfaitement comment ils l’ont appris. La question se pose donc de savoir si cela pourrait à un moment donné devenir incontrôlable et dangereux pour l’humanité ».
yogaesoteric
20 mai 2021