Elon Musk prévient que l’IA avancée va bientôt manipuler les médias sociaux
Elon Musk a également déclaré que les « essaims de robots anonymes » devraient faire l’objet d’une enquête.
Le 26 septembre, Musk a tweeté sur les dangers potentiels de l’IA avancée manipulant les médias sociaux. Il n’est pas clair ce qui l’a poussé à twitter sur l’IA avancée, mais ses tweets sont arrivés quelques heures après que le New York Times ait publié un article sur les campagnes de désinformation numérique. Elon Musk a l’habitude d’être plutôt pessimiste quant à l’avenir de l’IA.
Les robots Twitter en 2019 peuvent exécuter certaines fonctions de base, comme tweeter du contenu, retweeter, suivre d’autres utilisateurs, citer d’autres utilisateurs, aimer les tweets et même envoyer des messages directs. Mais même si les robots sur Twitter et d’autres médias sociaux semblent devenir plus intelligents que les itérations précédentes, ces IA sont encore relativement simples quant à leur capacité à manipuler le discours social.
Mais ce n’est qu’une question de temps avant que des changements d’IA plus avancées ne commencent à manipuler la conversation à grande échelle, selon Elon Musk, PDG de Tesla et SpaceX.
« Si l’IA avancée (au-delà des robots de base) n’a pas été appliquée pour manipuler les médias sociaux, elle ne tardera pas à l’être », a tweeté Musk.
On ne sait pas exactement ce à quoi Musk fait référence par « IA avancée », mais son tweet est arrivé quelques heures seulement après la publication par le New York Times d’un article décrivant une étude montrant qu’au moins 70 pays ont connu des campagnes de désinformation numérique au cours des deux dernières années.
« Ces dernières années, les gouvernements ont utilisé les ‘cyber-soldats’ pour façonner l’opinion publique, y compris des réseaux de robots pour amplifier un message, des groupes de ‘trolls’ pour harceler les dissidents politiques ou les journalistes, et des dizaines de faux comptes dans les médias sociaux pour déformer le nombre de personnes impliquées dans un dossier », ont écrit Davey Alba et Adam Satariano dans le Times. « La tactique ne se limite plus aux grands pays. Les petits Etats peuvent maintenant facilement mettre en place des opérations d’influence d’Internet aussi bien. »
Elon Musk a poursuivi son tweet en disant que les « essaims de robots anonymes » – qui font probablement référence à l’activité coordonnée d’un grand nombre de robots des médias sociaux – devraient être étudiés.
« S’ils évoluent rapidement, il se passe quelque chose », a-t-il tweeté.
M. Musk a longtemps prédit un avenir sombre avec l’IA. En 2017, il a déclaré au personnel de Neuralink, l’entreprise de Musk qui met au point une interface cerveau-ordinateur implantable, qu’il pensait qu’il y avait environ « cinq à dix pour cent de chances » de rendre l’intelligence artificielle sûre. Dans le documentaire « Do You Trust Your Computer », Elon Musk met en garde contre les dangers d’une seule organisation qui développerait un jour la super-intelligence.
« L’avenir le moins effrayant auquel je puisse penser est celui où nous avons au moins démocratisé l’intelligence artificielle parce que si une entreprise ou un petit groupe de personnes réussit à développer une super-intelligence numérique divine, ils pourraient conquérir le monde », a dit M. Musk.
« Au moins quand il y a un dictateur maléfique, cet humain va mourir. Mais pour une IA, il n’y aurait pas de mort. Elle vivrait éternellement. Et vous auriez un dictateur immortel dont on ne pourra jamais s’échapper. »
yogaesoteric
24 octobre 2019