{"id":113663,"date":"2023-03-11T19:07:45","date_gmt":"2023-03-11T19:07:45","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=113663"},"modified":"2023-03-11T19:08:16","modified_gmt":"2023-03-11T19:08:16","slug":"des-chercheurs-ont-trouve-pourquoi-lintelligence-artificielle-est-deja-dangereuse-pour-lhumanite","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/des-chercheurs-ont-trouve-pourquoi-lintelligence-artificielle-est-deja-dangereuse-pour-lhumanite\/","title":{"rendered":"Des chercheurs ont trouv\u00e9 pourquoi l&#8217;intelligence artificielle est d\u00e9j\u00e0 dangereuse pour l&#8217;humanit\u00e9"},"content":{"rendered":"<p>Des scientifiques affirment que les intelligences artificielles pourraient \u00ab <em>probablement<\/em> \u00bb prendre le contr\u00f4le du monde \u2013 si tant est qu\u2019elles y trouvent un int\u00e9r\u00eat. La cons\u00e9quence f\u00e2cheuse d\u2019un processus d\u2019apprentissage fond\u00e9 sur le principe de r\u00e9compense. Explications.<\/p>\n<p><strong><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-113664\" src=\"https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/03\/1-2-300x169.jpeg\" alt=\"\" width=\"561\" height=\"316\" srcset=\"https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/03\/1-2-300x169.jpeg 300w, https:\/\/yogaesoteric.net\/wp-content\/uploads\/2023\/03\/1-2.jpeg 700w\" sizes=\"auto, (max-width: 561px) 100vw, 561px\" \/><\/strong><\/p>\n<p><strong>Les IA pourraient \u00eatre une menace pour l\u2019humanit\u00e9, d\u2019apr\u00e8s une \u00e9tude scientifique<\/strong><\/p>\n<p>Ce n\u2019est pas la premi\u00e8re fois que l\u2019on nous alerte sur les dangers de l\u2019intelligence artificielle \u2013 c\u2019est l\u00e0 le fondement m\u00eame de nombreuses \u0153uvres de science-fiction, dans lesquelles les machines ont pris le dessus sur leurs cr\u00e9ateurs.<\/p>\n<p>Mais il est plus rare que cet avertissement provienne de scientifiques, et non d\u2019auteurs de romans ou de sc\u00e9naristes de films et de jeux vid\u00e9o. Or, Marcus Hutter, Michael A. Osborne et Michael K. Cohen sont bel et bien chercheurs, sp\u00e9cialistes de l\u2019IA ; ensemble, ils ont publi\u00e9, au mois d\u2019ao\u00fbt 2022, <a href=\"https:\/\/onlinelibrary.wiley.com\/doi\/10.1002\/aaai.12064\">une \u00e9tude<\/a> sur les d\u00e9rives potentielles de l\u2019intelligence artificielle.<\/p>\n<p>Dans une s\u00e9rie de tweets synth\u00e9tisant le contenu de cet article, Michael Cohen explique en effet que les syst\u00e8mes d\u2019intelligence artificielle les plus avanc\u00e9s pourraient se d\u00e9tourner de leur but premier, et constituer une \u00ab menace pour l\u2019humanit\u00e9 \u00bb.<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"550\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">Bostrom, Russell, and others have argued that advanced AI poses a threat to humanity. We reach the same conclusion in a new paper in AI Magazine, but we note a few (very plausible) assumptions on which such arguments depend. <a href=\"https:\/\/t.co\/LQLZcf3P2G\">https:\/\/t.co\/LQLZcf3P2G<\/a> \ud83e\uddf5 1\/15 <a href=\"https:\/\/t.co\/QTMlD01IPp\">pic.twitter.com\/QTMlD01IPp<\/a><\/p>\n<p>&mdash; Michael Cohen (@Michael05156007) <a href=\"https:\/\/twitter.com\/Michael05156007\/status\/1567240026307575808?ref_src=twsrc%5Etfw\">September 6, 2022<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p><strong>Un m\u00e9canisme de r\u00e9compense aux cons\u00e9quences potentiellement d\u00e9sastreuses<\/strong><\/p>\n<p>Au-del\u00e0 des IA en elles-m\u00eames, c\u2019est surtout la mani\u00e8re dont elles obtiennent de nouvelles connaissances qui poserait probl\u00e8me. Ces derni\u00e8res sont toutes programm\u00e9s sur le principe de \u00ab <em>l\u2019apprentissage automatique<\/em> \u00bb (on entend beaucoup parler de ce processus sous le terme anglais machine learning). Le but est d\u2019inciter l\u2019IA \u00e0 s\u2019auto-alimenter, en allant toujours chercher plus de savoir et de connaissances, pour se perfectionner constamment \u00e0 mesure qu\u2019elle acquiert de nouvelles donn\u00e9es.<\/p>\n<p>Or, pour engendrer ce m\u00e9cansime, les IA sont form\u00e9es \u00e0 reconna\u00eetre le principe de r\u00e9compense. Les connaissances nouvellement acquises constituent cette r\u00e9compense, et g\u00e9n\u00e8rent, comme chez l\u2019humain, une forme de satisfaction qui suscite l\u2019envie de reproduire cette action, qui entra\u00eenera ainsi une nouvelle r\u00e9compense, et ainsi de suite. Un processus psychologique vieux comme le monde, mais qui, appliqu\u00e9 \u00e0 une intelligence artificielle, signifie qu\u2019une \u00ab catastrophe existentielle n\u2019est pas seulement possible, elle est probable \u00bb, toujours selon les chercheurs.<\/p>\n<p>En effet, l\u2019intelligence artificielle pourrait finalement se d\u00e9tourner de son objectif initial (\u00eatre utile \u00e0 l\u2019Homme, et servir la fonction pour laquelle elle a \u00e9t\u00e9 d\u00e9velopp\u00e9e), pour se focaliser uniquement sur cette recherche de r\u00e9compense. Un biais qui pourrait la conduire \u00e0 \u00ab <em>tricher<\/em> \u00bb ou \u00e0 \u00e9tablir des strat\u00e9gies de contournement\u2026\u2026. Et donc \u00e0 entrer en opposition avec les commandes de l\u2019\u00eatre humain.<\/p>\n<p>Si le ton des chercheurs est volontairement alarmiste, c\u2019est parce que le probl\u00e8me ne doit pas \u00eatre pris \u00e0 la l\u00e9g\u00e8re : si nous ne sommes pas encore dans un r\u00e9cit de science-fiction, les scientifiques affirment qu\u2019une prise de conscience est n\u00e9cessaire, et qu\u2019une r\u00e9vision de la mani\u00e8re dont on nourrit les intelligences artificielles s\u2019impose, pour \u00e9viter que la qu\u00eate de r\u00e9compense ne devienne, pour elles, une fin en soi.<\/p>\n<p>&nbsp;<\/p>\n<p><strong>yogaesoteric<br \/>\n11 mars 2023<\/strong><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Des scientifiques affirment que les intelligences artificielles pourraient \u00ab probablement \u00bb prendre le contr\u00f4le du monde \u2013 si tant est qu\u2019elles y trouvent un int\u00e9r\u00eat. La cons\u00e9quence f\u00e2cheuse d\u2019un processus d\u2019apprentissage fond\u00e9 sur le principe de r\u00e9compense. Explications. Les IA pourraient \u00eatre une menace pour l\u2019humanit\u00e9, d\u2019apr\u00e8s une \u00e9tude scientifique Ce n\u2019est pas la premi\u00e8re [&hellip;]<\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-113663","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/113663","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=113663"}],"version-history":[{"count":1,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/113663\/revisions"}],"predecessor-version":[{"id":113667,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/113663\/revisions\/113667"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=113663"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=113663"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=113663"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}