{"id":198497,"date":"2025-05-25T10:04:55","date_gmt":"2025-05-25T10:04:55","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=198497"},"modified":"2025-05-24T15:08:25","modified_gmt":"2025-05-24T15:08:25","slug":"le-pape-leon-met-en-garde-contre-lia-alors-quun-chercheur-du-mit-estime-a-90-la-probabilite-dune-menace-existentielle","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/le-pape-leon-met-en-garde-contre-lia-alors-quun-chercheur-du-mit-estime-a-90-la-probabilite-dune-menace-existentielle\/","title":{"rendered":"Le pape L\u00e9on met en garde contre l\u2019IA alors qu\u2019un chercheur du MIT estime \u00e0 90 % la probabilit\u00e9 d\u2019une \u00ab menace existentielle \u00bb"},"content":{"rendered":"

Lors de sa premi\u00e8re audience officielle en tant que pontife nouvellement \u00e9lu, le pape L\u00e9on XIV a identifi\u00e9 l\u2019intelligence artificielle (IA) comme l\u2019une des questions les plus critiques auxquelles l\u2019humanit\u00e9 est confront\u00e9e.<\/p>\n

\"\"
Le pape L\u00e9on XIV c\u00e9l\u00e8bre la messe avec le coll\u00e8ge des cardinaux \u00e0 l\u2019int\u00e9rieur de la chapelle Sixtine au Vatican, au lendemain de son \u00e9lection comme 267e pontife de l\u2019\u00c9glise catholique romaine<\/figcaption><\/figure>\n

\u00ab \u00c0 notre \u00e9poque<\/em> \u00bb, a d\u00e9clar\u00e9 le pape L\u00e9on, \u00ab l\u2019\u00c9glise offre \u00e0 tous le tr\u00e9sor de son enseignement social en r\u00e9ponse \u00e0 une nouvelle r\u00e9volution industrielle et <\/em>aux d\u00e9veloppements dans le domaine de l\u2019intelligence artificielle qui posent de nouveaux d\u00e9fis pour la d\u00e9fense de la dignit\u00e9 humaine, de la justice et du travail<\/em> \u00bb. Il a li\u00e9 cette d\u00e9claration \u00e0 l\u2019h\u00e9ritage de l\u2019encyclique Rerum Novarum (1891) de son homonyme L\u00e9on XIII, qui traitait des droits des travailleurs et des dimensions morales du capitalisme.<\/p>\n

Ses remarques s\u2019inscrivent dans la continuit\u00e9 de l\u2019orientation trac\u00e9e par le d\u00e9funt pape Fran\u00e7ois qui, dans son message annuel pour la paix de 2024, avait pr\u00e9venu que l\u2019IA \u2013 d\u00e9pourvue des valeurs humaines de compassion, de mis\u00e9ricorde, de moralit\u00e9 et de pardon \u2013 \u00e9tait trop dangereuse pour \u00eatre d\u00e9velopp\u00e9e sans contr\u00f4le. Le pape Fran\u00e7ois, qui est d\u00e9c\u00e9d\u00e9 le 21 avril, avait appel\u00e9 \u00e0 l\u2019\u00e9laboration d\u2019un trait\u00e9 international pour r\u00e9glementer l\u2019IA et insist\u00e9 sur le fait que la technologie devait rester \u00ab centr\u00e9e sur l\u2019homme<\/em> \u00bb, en particulier dans les applications impliquant des syst\u00e8mes d\u2019armement ou des outils de gouvernance.<\/p>\n

Une menace existentielle<\/strong><\/p>\n

Alors que l\u2019inqui\u00e9tude grandit dans les sph\u00e8res religieuses et \u00e9thiques, la communaut\u00e9 scientifique fait preuve de la m\u00eame urgence.<\/p>\n

Max Tegmark, physicien et chercheur en IA au MIT, a \u00e9tabli un parall\u00e8le qui donne \u00e0 r\u00e9fl\u00e9chir entre l\u2019aube de l\u2019\u00e8re atomique et la course actuelle au d\u00e9veloppement de la superintelligence artificielle (ASI). Dans un nouvel article cosign\u00e9 avec trois \u00e9tudiants du MIT, Tegmark a introduit le concept de \u00ab constante Compton<\/em> \u00bb, une estimation probabiliste de la possibilit\u00e9 qu\u2019une ASI \u00e9chappe au contr\u00f4le de l\u2019homme. Cette constante porte le nom du physicien Arthur Compton, qui a calcul\u00e9 le risque d\u2019inflammation de l\u2019atmosph\u00e8re terrestre \u00e0 la suite d\u2019essais nucl\u00e9aires dans les ann\u00e9es 1940.<\/p>\n

\"\"
Max Tegmark, professeur de physique et chercheur en IA au MIT, a d\u00e9clar\u00e9 qu\u2019il fallait s\u2019accorder sur des r\u00e9gimes de s\u00e9curit\u00e9 de l\u2019IA au niveau mondial<\/figcaption><\/figure>\n

\u00ab Les entreprises qui construisent la superintelligence doivent \u00e9galement calculer la constante Compton, c\u2019est-\u00e0-dire la probabilit\u00e9 que nous en perdions le contr\u00f4le <\/em>\u00bb, a d\u00e9clar\u00e9<\/u><\/a> Tegmark au Guardian<\/em>. Il ne suffit pas de dire \u00ab nous nous sentons bien<\/em> \u00bb. Il faut calculer le pourcentage.<\/p>\n

Tegmark a calcul\u00e9 une probabilit\u00e9 de 90 % qu\u2019une IA tr\u00e8s avanc\u00e9e constitue une menace existentielle.<\/p>\n

Le document invite les entreprises sp\u00e9cialis\u00e9es dans l\u2019IA \u00e0 proc\u00e9der \u00e0 une \u00e9valuation des risques aussi rigoureuse que celle qui a pr\u00e9c\u00e9d\u00e9 le premier essai de la bombe atomique, o\u00f9 Compton aurait estim\u00e9 les chances d\u2019une r\u00e9action en cha\u00eene catastrophique \u00e0 \u00ab un peu moins<\/em> \u00bb d\u2019une sur trois millions.<\/p>\n

Tegmark, cofondateur du Future of Life Institute et ardent d\u00e9fenseur de la s\u00e9curit\u00e9 de l\u2019IA, estime que le calcul de ces probabilit\u00e9s peut contribuer \u00e0 cr\u00e9er la \u00ab volont\u00e9 politique <\/em>\u00bb n\u00e9cessaire \u00e0 la mise en place de r\u00e9gimes de s\u00e9curit\u00e9 \u00e0 l\u2019\u00e9chelle mondiale. Il est \u00e9galement coauteur du Singapore Consensus on Global AI Safety Research Priorities, aux c\u00f4t\u00e9s de Yoshua Bengio et de repr\u00e9sentants de Google DeepMind et d\u2019OpenAI. Le rapport pr\u00e9sente trois axes de recherche : mesurer l\u2019impact de l\u2019IA dans le monde r\u00e9el, sp\u00e9cifier le comportement pr\u00e9vu de l\u2019IA et assurer un contr\u00f4le coh\u00e9rent des syst\u00e8mes.<\/p>\n

Ce renouvellement de l\u2019engagement en faveur de l\u2019att\u00e9nuation des risques li\u00e9s \u00e0 l\u2019IA fait suite \u00e0 ce que Tegmark a d\u00e9crit comme un \u00e9chec lors du r\u00e9cent sommet sur la s\u00e9curit\u00e9 de l\u2019IA \u00e0 Paris, o\u00f9 le vice-pr\u00e9sident am\u00e9ricain JD Vance a rejet\u00e9 les inqui\u00e9tudes en affirmant que l\u2019avenir de l\u2019IA \u00ab ne se gagnera pas en s\u2019\u00e9poumonant sur la s\u00e9curit\u00e9<\/em> \u00bb. N\u00e9anmoins, Tegmark a constat\u00e9 une r\u00e9surgence de la coop\u00e9ration : \u00ab On a vraiment l\u2019impression que la morosit\u00e9 de Paris s\u2019est dissip\u00e9e et que la collaboration internationale est revenue en force.<\/em> \u00bb<\/p>\n

 <\/p>\n

yogaesoteric
\n25 mai 2025<\/strong><\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Lors de sa premi\u00e8re audience officielle en tant que pontife nouvellement \u00e9lu, le pape L\u00e9on XIV a identifi\u00e9 l\u2019intelligence artificielle (IA) comme l\u2019une des questions les plus critiques auxquelles l\u2019humanit\u00e9 est confront\u00e9e. \u00ab \u00c0 notre \u00e9poque \u00bb, a d\u00e9clar\u00e9 le pape L\u00e9on, \u00ab l\u2019\u00c9glise offre \u00e0 tous le tr\u00e9sor de son enseignement social en r\u00e9ponse […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-198497","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/198497","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=198497"}],"version-history":[{"count":1,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/198497\/revisions"}],"predecessor-version":[{"id":198504,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/198497\/revisions\/198504"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=198497"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=198497"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=198497"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}