{"id":41617,"date":"2021-05-20T12:01:59","date_gmt":"2021-05-20T12:01:59","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=41617"},"modified":"2021-05-20T12:02:24","modified_gmt":"2021-05-20T12:02:24","slug":"scientifiques-il-serait-impossible-de-controler-une-ia-superintelligente","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/scientifiques-il-serait-impossible-de-controler-une-ia-superintelligente\/","title":{"rendered":"Scientifiques : Il serait impossible de contr\u00f4ler une IA superintelligente"},"content":{"rendered":"<p><strong>IA surpuissante<\/strong><\/p>\n<p>Les scientifiques de la Soci\u00e9t\u00e9 Max Planck, une institution de recherche europ\u00e9enne tr\u00e8s connue, affirment que l\u2019humanit\u00e9 ne sera jamais capable de contr\u00f4ler une intelligence artificielle super-intelligente qui pourrait sauver ou d\u00e9truire l\u2019humanit\u00e9.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"size-full wp-image-41619 aligncenter\" src=\"https:\/\/yogaesoteric.net\/wp-content\/uploads\/2021\/05\/41617_1-e1621512067517.jpg\" alt=\"\" width=\"560\" height=\"268\" \/><\/p>\n<p>C\u2019est ce qui ressort d\u2019<a href=\"https:\/\/jair.org\/index.php\/jair\/article\/view\/12202\" target=\"_blank\" rel=\"noopener\">une \u00e9tude<\/a> publi\u00e9e dans le <em>Journal of Artificial Intelligence Research<\/em>. Le probl\u00e8me, selon les scientifiques de Max Planck, est qu\u2019il n\u2019y a aucun moyen de contenir un tel algorithme sans une technologie bien plus avanc\u00e9e que celle que nous pouvons d\u00e9velopper aujourd\u2019hui.<\/p>\n<p><strong>Enqu\u00eate interne<\/strong><\/p>\n<p>L\u2019\u00e9quipe s\u2019est principalement concentr\u00e9e sur la question de la retenue. Si un algorithme tout-puissant d\u00e9terminait d\u2019une mani\u00e8re ou d\u2019une autre qu\u2019il devait faire du mal aux gens ou, d\u2019une mani\u00e8re plus \u00ab\u00a0Terminator\u00a0\u00bb, mettre fin \u00e0 l\u2019humanit\u00e9 tout enti\u00e8re, comment l\u2019emp\u00eacher d\u2019agir ?<\/p>\n<p>Ils proposent de cr\u00e9er une sorte d&#8217;\u00ab algorithme de retenue\u00a0\u00bb qui simule le comportement de l\u2019algorithme dangereux et l\u2019emp\u00eache de faire quoi que ce soit de nuisible \u2013 mais comme l\u2019algorithme de retenue devrait \u00eatre au moins aussi puissant que le premier \u00e0 le faire, les scientifiques ont d\u00e9clar\u00e9 le probl\u00e8me impossible \u00e0 r\u00e9soudre.<\/p>\n<p><strong>Argument th\u00e9orique<\/strong><\/p>\n<p>Tout cela n\u2019est qu\u2019un d\u00e9bat th\u00e9orique. Une IA suffisamment avanc\u00e9e pour menacer l\u2019humanit\u00e9 est probablement encore loin, mais des personnes tr\u00e8s intelligentes y travaillent dur. C\u2019est donc le sujet id\u00e9al pour en d\u00e9battre \u00e0 l\u2019avance, bien s\u00fbr \u2013 nous voudrions conna\u00eetre le danger avant qu\u2019il n\u2019arrive. \u00ab\u00a0<em>Une machine super-intelligente qui contr\u00f4le le monde ressemble \u00e0 de la science-fiction<\/em>\u00a0\u00bb, a d\u00e9clar\u00e9 dans <a href=\"https:\/\/www.mpg.de\/16231640\/0108-bild-computer-scientists-we-wouldn-t-be-able-to-control-superintelligent-machines-149835-x\" target=\"_blank\" rel=\"noopener\">un communiqu\u00e9 de presse<\/a> le coauteur de l\u2019\u00e9tude, Manuel Cebrian, chef du groupe de mobilisation num\u00e9rique au Centre pour les hommes et les machines de l\u2019Institut Max Planck pour le d\u00e9veloppement humain. \u00ab\u00a0<em>Mais il existe d\u00e9j\u00e0 des machines qui effectuent certaines t\u00e2ches importantes de mani\u00e8re ind\u00e9pendante sans que les programmeurs ne comprennent parfaitement comment ils l\u2019ont appris. La question se pose donc de savoir si cela pourrait \u00e0 un moment donn\u00e9 devenir incontr\u00f4lable et dangereux pour l\u2019humanit\u00e9<\/em>\u00a0\u00bb.<\/p>\n<p><strong>yogaesoteric<\/strong><br \/>\n<strong>20 mai 2021<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"<p>IA surpuissante Les scientifiques de la Soci\u00e9t\u00e9 Max Planck, une institution de recherche europ\u00e9enne tr\u00e8s connue, affirment que l\u2019humanit\u00e9 ne sera jamais capable de contr\u00f4ler une intelligence artificielle super-intelligente qui pourrait sauver ou d\u00e9truire l\u2019humanit\u00e9. C\u2019est ce qui ressort d\u2019une \u00e9tude publi\u00e9e dans le Journal of Artificial Intelligence Research. Le probl\u00e8me, selon les scientifiques de [&hellip;]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1330],"tags":[],"class_list":["post-41617","post","type-post","status-publish","format-standard","hentry","category-science-et-technique-1602-fr"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/41617","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=41617"}],"version-history":[{"count":3,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/41617\/revisions"}],"predecessor-version":[{"id":41623,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/41617\/revisions\/41623"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=41617"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=41617"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=41617"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}