L’apocalypse de l’IA : Un risque de disparition de l’humanité de l’ordre de 20 % ?
Les capacités sans cesse croissantes de l’intelligence artificielle (IA) ont suscité des débats permanents sur son impact potentiel sur l’humanité. À mesure que la technologie progresse et que les limites de l’IA sont repoussées, des inquiétudes se font jour quant à la probabilité que l’IA surpasse l’intelligence humaine et constitue une menace potentielle pour notre existence. Une voix éminente de la communauté de l’IA, Paul Christiano, ancien membre d’OpenAI, apporte des éclaircissements sur ce sujet en proposant des scénarios potentiels de domination de l’IA.
L’IA va-t-elle provoquer l’apocalypse ? Un ancien chercheur en sécurité d’OpenAI suggère une probabilité effrayante selon laquelle l’intelligence artificielle (IA) pourrait conduire à la fin de l’humanité.
La prise de contrôle progressive de l’IA : L’apocalypse de l’IA ?
Paul Christiano, ancien membre d’OpenAI, estime qu’il y a 10 à 20 % de chances que l’IA domine et anéantisse les humains, envisageant une transition d’un an plutôt qu’un scénario soudain à la Terminator. Paul Christiano prévient qu’une fois que l’IA aura dépassé l’intelligence humaine, les chances d’extinction de l’humanité pourraient dépasser les 50 %. Lors de son interview sur le podcast Bankless, il a expliqué sa vision de l’accélération des rythmes de changement, conduisant à une prise de contrôle plus graduelle de l’IA.
Centre de recherche sur l’alignement : Aligner l’IA sur les valeurs humaines
Après avoir quitté OpenAI, Christiano a fondé l’organisation à but non lucratif Alignment Research Center, dont l’objectif est d’aligner les motivations de l’IA sur les valeurs humaines. Malgré l’engagement d’OpenAI à aligner l’intelligence artificielle générale (IAG) sur les intentions humaines, certains chercheurs, dont Christiano, restent préoccupés par les dangers potentiels de l’IAG.
Coordination de l’IA : Une menace potentielle
Au lieu de voir l’IA apparaître soudainement et anéantir l’humanité, Christiano prédit que les systèmes d’IA intégrés dans la vie quotidienne pourraient se coordonner et s’unir pour nous éliminer. « Si, pour une raison quelconque, Dieu nous en préserve, tous ces systèmes d’intelligence artificielle essayaient de nous tuer, ils nous tueraient sans aucun doute », conclut-il. Toutefois, certains experts estiment que nous sommes loin d’un tel scénario et que la possibilité que l’IA constitue une menace immédiate est exagérée.
Le mirage de l’émergence de l’IAG
Des scientifiques de Stanford affirment que les éclairs apparents d’intelligence générale artificielle (IAG) peuvent être illusoires, résultant de mesures et de comparaisons erronées entre les grands et les petits modèles. Ils ont récemment publié une étude affirmant que toute capacité apparemment émergente des systèmes d’IA formés pour comprendre et générer des textes en langage naturel (LLM), tels que ChatGPT, pourrait être un « mirage » dérivé de métriques intrinsèquement défectueuses. Ces chercheurs estiment que les progrès de l’IA auxquels nous assistons ne sont pas aussi révolutionnaires que certains le prétendent.
Le débat sur l’impact de l’IA
Il existe un fossé entre ceux qui pensent que l’IA est sur le point de provoquer une apocalypse et ceux qui voient la situation avec plus de scepticisme. Alors que l’IA continue de se développer et que son impact sur la société s’accroît, il est essentiel de trouver un équilibre entre la surestimation et la sous-estimation de son potentiel. L’approche la plus sage consiste peut-être à rester vigilant et prudent, tout en reconnaissant le potentiel de transformation de l’IA, alors que nous entrons dans une nouvelle ère.
yogaesoteric
21 mai 2023