Les experts mettent en garde : l’IA pourrait bientôt être capable d’une « évolution darwinienne »
La prochaine étape dans le domaine de l’intelligence artificielle pourrait voir apparaître des systèmes capables d’« évoluer » de manière potentiellement imprévisible.
L’IA ayant fait des progrès fulgurants ces dernières années, il n’est pas surprenant que l’on s’interroge sur ce que l’avenir réserve à cette technologie.
Alors que de nombreux experts en technologie prévoient l’émergence d’une intelligence artificielle générale (une IA capable d’égaler ou de dépasser les capacités du cerveau humain), d’autres pensent que la prochaine étape sera une IA capable d’évoluer d’une manière similaire à celle observée dans le monde naturel.
Dans un article de synthèse récemment publié, des chercheurs se sont penchés sur la manière dont l’IA pourrait utiliser l’évolution, à quoi cette évolution pourrait ressembler et, en fin de compte, quelles pourraient en être les conséquences.
Ils ont noté que l’évolution produit généralement des acteurs « égoïstes », ce qui signifie qu’une IA en évolution pourrait privilégier ses propres intérêts plutôt que de s’aligner sur les objectifs de ses créateurs humains.
Cela pourrait, par exemple, amener une IA à trouver des moyens de manipuler les humains ou d’acquérir davantage de contrôle.
Les auteurs de l’article soutiennent qu’une IA évolutive pourrait s’avérer être un risque important bien avant le développement d’une véritable intelligence artificielle générale.
Pour atténuer ce risque, ils ont appelé à la mise en place de mesures de protection, telles que la garantie que la reproduction de ces systèmes reste entièrement sous contrôle humain.
Une IA auto-réplicative et évolutive serait – comme vous pouvez l’imaginer – une très mauvaise idée.
« Nous espérons que notre avertissement arrive à temps et que des réglementations pourront être mises en place avant que l’eAI ne prenne vraiment son essor », a déclaré Viktor Muller, auteur de l’étude, de l’université Eötvös Loránd en Hongrie.
« Si nous n’agissons pas, nous pourrions assister à une nouvelle ” transition majeure “ dans l’évolution, au cours de laquelle l’eAI remplacera ou, à tout le moins, dominera les humains. »
yogaesoteric
15 mai 2026