99,9% de chances : Un scientifique de haut niveau prédit l’anéantissement de l’humanité par l’IA

« Même en augmentant nos ressources de manière exponentielle, le risque ne disparaît jamais complètement », a-t-il déclaré, illustrant le défi permanent que représente la gestion d’un système capable de prendre des milliards de décisions par seconde pendant de nombreuses années.

Dans une enquête historique réalisée au début de l’année, plus de la moitié des 2.778 chercheurs interrogés ont exprimé leur inquiétude quant à la menace existentielle que représente l’intelligence artificielle (IA) surhumaine. Selon l’enquête, il y a 5 % de chances que l’humanité soit menacée d’extinction ou d’autres « conséquences extrêmement néfastes » en raison de la montée en puissance des systèmes d’IA superintelligents.

Roman Yampolskiy, maître de conférences en informatique à l’université de Louisville et figure respectée de la recherche sur l’IA, est l’une des principales voix à avoir tiré la sonnette d’alarme.

Lors de l’émission « Lex Fridman Podcast », Yampolskiy a fait une sombre prédiction, estimant à 99,9 % la probabilité que l’IA puisse anéantir l’humanité dans les 100 prochaines années.

« La création de superintelligences générales pourrait s’avérer néfaste pour l’humanité à long terme », a averti Yampolskiy. « La meilleure stratégie pourrait être d’éviter de se lancer dans ce jeu potentiellement périlleux. »

Yampolskiy a également mis en évidence les problèmes existants avec les grands modèles linguistiques actuels, notant leur propension aux erreurs et leur susceptibilité à la manipulation comme preuve des risques potentiels futurs. « Des erreurs ont déjà été commises ; ces systèmes ont été jailbreakés et utilisés d’une manière que les développeurs n’avaient pas prévue », a-t-il fait remarquer.

En outre, Yampolskiy a suggéré qu’une IA superintelligente pourrait concevoir des méthodes imprévisibles pour atteindre des objectifs destructeurs, présentant des défis que nous pourrions ne pas reconnaître comme des menaces jusqu’à ce qu’il soit trop tard.

S’il admet que la probabilité que l’IA conduise à l’extinction de l’humanité n’est pas de 100 %, il avertit que le risque est alarmant. « Même en augmentant nos ressources de manière exponentielle, le risque ne disparaît jamais complètement », a-t-il déclaré, illustrant le défi permanent que représente la gestion d’un système capable de prendre des milliards de décisions par seconde pendant de nombreuses années.

Les progrès rapides de l’IA ont profondément transformé divers aspects de la vie humaine, y compris le monde du travail. Si l’IA promet une efficacité et une innovation accrues, elle représente également une menace pour de nombreuses professions, ce qui pourrait conduire à un chômage généralisé. Cette préoccupation n’est pas seulement un scénario futur lointain ; plusieurs entreprises ont déjà commencé à supprimer des employés en raison de l’efficacité de l’IA, avec une vague de licenciements estimée à 44 % attendue tout au long de l’année 2024.

Menace ou opportunité ?

L’une des principales menaces pour la main-d’œuvre est l’automatisation des emplois routiniers et répétitifs. Les systèmes intelligents d’IA peuvent remplacer les rôles qui nécessitent des tâches standardisées, comme ceux des secteurs manufacturiers et administratifs. Les machines dotées de l’IA peuvent effectuer ces tâches plus rapidement et avec plus de précision que les humains, ce qui pourrait entraîner des suppressions d’emplois dans ces domaines.

L’IA menace également les emplois créatifs. Les programmes informatiques capables de produire des œuvres d’art ou de rédiger des articles de presse pourraient remplacer les artistes et les journalistes humains. Le fait que l’IA parvienne à imiter la créativité humaine pose un sérieux problème. Les entreprises qui adoptent la technologie de l’IA pourraient réduire leur demande de travailleurs humains, optant plutôt pour des systèmes d’automatisation moins coûteux et plus efficaces, ce qui entraînerait un déclin de l’emploi traditionnel.

Malgré l’efficacité apportée par l’IA, la présence de machines intelligentes pose des problèmes de socialisation et d’interaction humaine. Les emplois nécessitant de l’empathie, une sensibilité au contexte social et des compétences en matière de communication peuvent être moins adaptés à l’automatisation, mais restent essentiels à la réussite de nombreuses professions.

L’éducation et la formation sont essentielles

Les gouvernements, les établissements d’enseignement et les entreprises doivent collaborer à des programmes de formation qui offrent de nouvelles compétences aux travailleurs touchés par l’automatisation. Mettre l’accent sur le développement des compétences humaines, telles que la créativité, l’intelligence émotionnelle et la résolution de problèmes, peut aider les travailleurs à être compétitifs à l’ère de l’IA.

La préservation des emplois difficiles à automatiser est une autre stratégie pour atténuer l’impact négatif de l’IA sur l’emploi. Les professions qui requièrent de l’intelligence interpersonnelle, des compétences créatives et un jugement moral peuvent être plus résistantes à l’automatisation. Les gouvernements doivent façonner activement des politiques qui soutiennent l’adaptation de la société aux changements induits par l’IA, y compris des réglementations qui garantissent la protection des travailleurs et créent un environnement commercial favorisant la durabilité et l’équité.

L’intégration de la technologie de l’IA sur le lieu de travail d’une manière qui favorise la collaboration entre l’homme et la machine est une approche positive. Les travailleurs peuvent collaborer avec les systèmes d’IA pour stimuler la productivité et l’innovation tout en conservant leur rôle crucial dans la prise de décisions complexes.

yogaesoteric
9 juillet 2024