{"id":120545,"date":"2023-05-21T15:18:50","date_gmt":"2023-05-21T15:18:50","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=120545"},"modified":"2023-05-21T15:18:50","modified_gmt":"2023-05-21T15:18:50","slug":"lapocalypse-de-lia-un-risque-de-disparition-de-lhumanite-de-lordre-de-20","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/lapocalypse-de-lia-un-risque-de-disparition-de-lhumanite-de-lordre-de-20\/","title":{"rendered":"L\u2019apocalypse de l\u2019IA : Un risque de disparition de l\u2019humanit\u00e9 de l\u2019ordre de 20 % ?"},"content":{"rendered":"<p>Les capacit\u00e9s sans cesse croissantes de l\u2019intelligence artificielle (IA) ont suscit\u00e9 des d\u00e9bats permanents sur son impact potentiel sur l\u2019humanit\u00e9. \u00c0 mesure que la technologie progresse et que les limites de l\u2019IA sont repouss\u00e9es, des inqui\u00e9tudes se font jour quant \u00e0 la probabilit\u00e9 que l\u2019IA surpasse l\u2019intelligence humaine et constitue une menace potentielle pour notre existence. Une voix \u00e9minente de la communaut\u00e9 de l\u2019IA, Paul Christiano, ancien membre d\u2019OpenAI, apporte des \u00e9claircissements sur ce sujet en proposant des sc\u00e9narios potentiels de domination de l\u2019IA.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter size-full wp-image-120547\" src=\"https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/05\/120545_1.jpg\" alt=\"\" width=\"560\" height=\"486\" srcset=\"https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/05\/120545_1.jpg 560w, https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/05\/120545_1-300x260.jpg 300w\" sizes=\"auto, (max-width: 560px) 100vw, 560px\" \/>L\u2019IA va-t-elle provoquer l\u2019apocalypse ? Un ancien chercheur en s\u00e9curit\u00e9 d\u2019OpenAI sugg\u00e8re une probabilit\u00e9 effrayante selon laquelle l\u2019intelligence artificielle (IA) pourrait conduire \u00e0 la fin de l\u2019humanit\u00e9.<\/p>\n<p><strong>La prise de contr\u00f4le progressive de l\u2019IA : L\u2019apocalypse de l\u2019IA ?<\/strong><\/p>\n<p>Paul Christiano, ancien membre d\u2019OpenAI, estime qu\u2019il y a 10 \u00e0 20 % de chances que l\u2019IA domine et an\u00e9antisse les humains, envisageant une transition d\u2019un an plut\u00f4t qu\u2019un sc\u00e9nario soudain \u00e0 la <em>Terminator<\/em>. Paul Christiano pr\u00e9vient qu\u2019une fois que l\u2019IA aura d\u00e9pass\u00e9 l\u2019intelligence humaine, les chances d\u2019extinction de l\u2019humanit\u00e9 pourraient d\u00e9passer les 50 %. Lors de son interview sur le podcast Bankless, il a expliqu\u00e9 sa vision de l\u2019acc\u00e9l\u00e9ration des rythmes de changement, conduisant \u00e0 une prise de contr\u00f4le plus graduelle de l\u2019IA.<\/p>\n<p><strong>Centre de recherche sur l\u2019alignement : Aligner l\u2019IA sur les valeurs humaines<\/strong><\/p>\n<p>Apr\u00e8s avoir quitt\u00e9 OpenAI, Christiano a fond\u00e9 l\u2019organisation \u00e0 but non lucratif Alignment Research Center, dont l\u2019objectif est d\u2019aligner les motivations de l\u2019IA sur les valeurs humaines. Malgr\u00e9 l\u2019engagement d\u2019OpenAI \u00e0 aligner l\u2019intelligence artificielle g\u00e9n\u00e9rale (IAG) sur les intentions humaines, certains chercheurs, dont Christiano, restent pr\u00e9occup\u00e9s par les dangers potentiels de l\u2019IAG.<\/p>\n<p><strong>Coordination de l\u2019IA : Une menace potentielle<\/strong><\/p>\n<p>Au lieu de voir l\u2019IA appara\u00eetre soudainement et an\u00e9antir l\u2019humanit\u00e9, Christiano pr\u00e9dit que les syst\u00e8mes d\u2019IA int\u00e9gr\u00e9s dans la vie quotidienne pourraient se coordonner et s\u2019unir pour nous \u00e9liminer. \u00ab <em>Si, pour une raison quelconque, Dieu nous en pr\u00e9serve, tous ces syst\u00e8mes d\u2019intelligence artificielle essayaient de nous tuer, ils nous tueraient sans aucun doute<\/em> \u00bb, conclut-il. Toutefois, certains experts estiment que nous sommes loin d\u2019un tel sc\u00e9nario et que la possibilit\u00e9 que l\u2019IA constitue une menace imm\u00e9diate est exag\u00e9r\u00e9e.<\/p>\n<p align=\"center\"><iframe loading=\"lazy\" class=\"fitvidsignore\" title=\"YouTube video player\" src=\"https:\/\/www.youtube.com\/embed\/GyFkWb903aU\" width=\"560\" height=\"320\" frameborder=\"0\" allowfullscreen=\"allowfullscreen\"><\/iframe><\/p>\n<p><strong>Le mirage de l\u2019\u00e9mergence de l\u2019IAG<\/strong><\/p>\n<p>Des scientifiques de Stanford affirment que les \u00e9clairs apparents d\u2019intelligence g\u00e9n\u00e9rale artificielle (IAG) peuvent \u00eatre illusoires, r\u00e9sultant de mesures et de comparaisons erron\u00e9es entre les grands et les petits mod\u00e8les. Ils ont r\u00e9cemment publi\u00e9 une \u00e9tude affirmant que toute capacit\u00e9 apparemment \u00e9mergente des syst\u00e8mes d\u2019IA form\u00e9s pour comprendre et g\u00e9n\u00e9rer des textes en langage naturel (LLM), tels que ChatGPT, pourrait \u00eatre un \u00ab <em>mirage<\/em> \u00bb d\u00e9riv\u00e9 de m\u00e9triques intrins\u00e8quement d\u00e9fectueuses. Ces chercheurs estiment que les progr\u00e8s de l\u2019IA auxquels nous assistons ne sont pas aussi r\u00e9volutionnaires que certains le pr\u00e9tendent.<\/p>\n<p><strong>Le d\u00e9bat sur l\u2019impact de l\u2019IA<\/strong><\/p>\n<p>Il existe un foss\u00e9 entre ceux qui pensent que l\u2019IA est sur le point de provoquer une apocalypse et ceux qui voient la situation avec plus de scepticisme. Alors que l\u2019IA continue de se d\u00e9velopper et que son impact sur la soci\u00e9t\u00e9 s\u2019accro\u00eet, il est essentiel de trouver un \u00e9quilibre entre la surestimation et la sous-estimation de son potentiel. L\u2019approche la plus sage consiste peut-\u00eatre \u00e0 rester vigilant et prudent, tout en reconnaissant le potentiel de transformation de l\u2019IA, alors que nous entrons dans une nouvelle \u00e8re.<\/p>\n<p>&nbsp;<\/p>\n<p><strong>yogaesoteric<br \/>\n21 mai 2023<\/strong><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Les capacit\u00e9s sans cesse croissantes de l\u2019intelligence artificielle (IA) ont suscit\u00e9 des d\u00e9bats permanents sur son impact potentiel sur l\u2019humanit\u00e9. \u00c0 mesure que la technologie progresse et que les limites de l\u2019IA sont repouss\u00e9es, des inqui\u00e9tudes se font jour quant \u00e0 la probabilit\u00e9 que l\u2019IA surpasse l\u2019intelligence humaine et constitue une menace potentielle pour notre [&hellip;]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-120545","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/120545","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=120545"}],"version-history":[{"count":1,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/120545\/revisions"}],"predecessor-version":[{"id":120550,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/120545\/revisions\/120550"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=120545"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=120545"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=120545"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}