{"id":161828,"date":"2024-06-14T10:37:45","date_gmt":"2024-06-14T10:37:45","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=161828"},"modified":"2024-06-14T10:37:45","modified_gmt":"2024-06-14T10:37:45","slug":"laugmentation-des-capacites-de-lia-suscite-de-plus-en-plus-dinquietudes","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/laugmentation-des-capacites-de-lia-suscite-de-plus-en-plus-dinquietudes\/","title":{"rendered":"L\u2019augmentation des capacit\u00e9s de l\u2019IA suscite de plus en plus d\u2019inqui\u00e9tudes"},"content":{"rendered":"

L\u2019engagement total des grandes entreprises technologiques dans le d\u00e9veloppement de l\u2019intelligence artificielle (IA), allant jusqu\u2019\u00e0 permettre \u00e0 l\u2019IA de \u00ab voir \u00bb et de \u00ab parler \u00bb au monde humain, a suscit\u00e9 une inqui\u00e9tude croissante quant au contr\u00f4le de l\u2019homme par la technologie.<\/p>\n

\"\"
Ilya Sutskever<\/figcaption><\/figure>\n

Ilya Sutskever, cofondateur d\u2019OpenAI, a fait une annonce importante le 15 mai, d\u00e9clarant officiellement qu\u2019il quittait l\u2019entreprise o\u00f9 il travaillait depuis pr\u00e8s de dix ans.<\/p>\n

\u00ab Je suis convaincu qu\u2019OpenAI construira une AGI [intelligence artificielle g\u00e9n\u00e9rale] \u00e0 la fois s\u00fbre et b\u00e9n\u00e9fique sous la direction<\/em> de @sama (Sam Altman), @gdb (Greg Brockman), @miramurati (Mira Murati) et maintenant, sous l\u2019excellente direction de recherche de @merettm (Jakub Pachocki). Ce fut un honneur et un privil\u00e8ge de travailler ensemble, et tout le monde me manquera \u00e9norm\u00e9ment <\/em>\u00bb, a-t-il \u00e9crit dans un message<\/u><\/a> publi\u00e9 sur la plateforme de m\u00e9dias sociaux X.<\/p>\n

La nouvelle a fait l\u2019effet d\u2019une onde de choc dans l\u2019industrie technologique. En novembre 2023, en raison de probl\u00e8mes li\u00e9s \u00e0 la s\u00e9curit\u00e9 de l\u2019IA, M. Sutskever et d\u2019autres membres du conseil d\u2019administration ont uni leurs forces pour \u00e9vincer le PDG d\u2019OpenAI, Sam Altman, qui a \u00e9t\u00e9 bri\u00e8vement expuls\u00e9 d\u2019OpenAI, mais est revenu et a \u00e9cart\u00e9 M. Sutskever et plusieurs membres du conseil d\u2019administration, restructurant le conseil pour qu\u2019il soit plus align\u00e9 sur sa vision.<\/p>\n

\u00ab Ce d\u00e9part met en lumi\u00e8re de graves conflits au sein de la <\/em>direction d\u2019OpenAI concernant la s\u00e9curit\u00e9 de l\u2019IA. Bien que le souhait de M. Sutskever et de M. Leike de d\u00e9velopper une IA conforme \u00e0 l\u2019\u00e9thique soit louable, une telle entreprise n\u00e9cessite un soutien moral, temporel, financier et m\u00eame politique substantiel<\/em> \u00bb, a d\u00e9clar\u00e9 Jin Kiyohara, ing\u00e9nieur informaticien japonais, \u00e0 The Epoch Times<\/em>.<\/p>\n

La concurrence entre Google et OpenAI s\u2019intensifie<\/p>\n

Le 14 mai, un jour avant que M. Sutskever n\u2019annonce son d\u00e9part, OpenAI a d\u00e9voil\u00e9 un mod\u00e8le d\u2019IA plus performant bas\u00e9 sur le GPT-4, appel\u00e9 GPT-4o, o\u00f9 \u00ab o \u00bb signifie \u00ab omni \u00bb, ce qui indique ses capacit\u00e9s globales.<\/p>\n

Le mod\u00e8le GPT-4o peut r\u00e9pondre en temps r\u00e9el \u00e0 des entr\u00e9es mixtes d\u2019audio, de texte et d\u2019images. Lors du lancement, Mira Murati, Chief Technology Officer d\u2019OpenAI, a d\u00e9clar\u00e9 : \u00ab Nous envisageons l\u2019avenir de l\u2019interaction entre nous-m\u00eames et les machines<\/em> \u00bb.<\/p>\n

Dans plusieurs vid\u00e9os publi\u00e9es par OpenAI, on peut voir des personnes interagir avec l\u2019IA en temps r\u00e9el gr\u00e2ce \u00e0 la cam\u00e9ra de leur t\u00e9l\u00e9phone. L\u2019IA peut observer et fournir des informations sur l\u2019environnement, r\u00e9pondre \u00e0 des questions, effectuer des traductions en temps r\u00e9el, raconter des blagues ou m\u00eame se moquer des utilisateurs, avec des mod\u00e8les de discours, des tons et des vitesses de r\u00e9action presque impossibles \u00e0 distinguer d\u2019une personne r\u00e9elle.<\/p>\n

https:\/\/twitter.com\/i\/status\/1790072174117613963<\/a><\/p>\n

Un jour apr\u00e8s la publication d\u2019OpenAI, Google a lanc\u00e9 sa conf\u00e9rence des d\u00e9veloppeurs 2024 I\/O. Au cours d\u2019une pr\u00e9sentation de 110 minutes<\/a>, l’\u00ab IA \u00bb a \u00e9t\u00e9 mentionn\u00e9e 121 fois, en mettant l\u2019accent sur le dernier mod\u00e8le Gemini-1.5, qui s\u2019int\u00e8gre dans tous les produits et applications Google, y compris le moteur de recherche, Google map, Ask Photos, Google Calendar et les smartphones Google.\"\"<\/p>\n

Gr\u00e2ce \u00e0 l\u2019int\u00e9gration de Gemini dans l\u2019album photo en nuage, les utilisateurs peuvent rechercher des caract\u00e9ristiques sp\u00e9cifiques dans les photos en saisissant simplement des mots cl\u00e9s. L\u2019IA trouvera et \u00e9valuera les images pertinentes, et int\u00e9grera m\u00eame une s\u00e9rie d\u2019images connexes ou des r\u00e9ponses bas\u00e9es sur des questions approfondies, selon le g\u00e9ant de la technologie.<\/p>\n

Google Mail peut \u00e9galement obtenir des r\u00e9sultats similaires gr\u00e2ce \u00e0 l\u2019IA, en int\u00e9grant et en mettant \u00e0 jour les donn\u00e9es en temps r\u00e9el lors de la r\u00e9ception de nouveaux courriels, en vue d\u2019une organisation enti\u00e8rement automatis\u00e9e.<\/p>\n

En ce qui concerne la musique, le Music AI Sandbox permet de modifier rapidement le style, la m\u00e9lodie et le rythme d\u2019une chanson, avec la possibilit\u00e9 de cibler des parties sp\u00e9cifiques d\u2019une chanson. Cette fonctionnalit\u00e9 d\u00e9passe celle de l\u2019IA texte-musique Suno.<\/p>\n

Gemini peut \u00e9galement jouer le r\u00f4le de professeur, avec des capacit\u00e9s d\u2019enseignement comparables \u00e0 celles de GPT-4o. Les utilisateurs peuvent saisir des textes et des images, que l\u2019IA organise en points cl\u00e9s \u00e0 expliquer et \u00e0 analyser, ce qui permet des discussions en temps r\u00e9el.<\/p>\n

Cette mise \u00e0 jour de l\u2019IA apporte \u00e9galement des capacit\u00e9s similaires \u00e0 celles de Sora, l\u2019IA texte-vid\u00e9o d\u2019OpenAI, qui g\u00e9n\u00e8re de courtes vid\u00e9os \u00e0 partir de simples descriptions textuelles. La qualit\u00e9 et le contenu de ces vid\u00e9os sont stables, avec moins d\u2019incoh\u00e9rences.<\/p>\n

\u00ab L\u2019IA a \u00e9t\u00e9 mise \u00e0 jour \u00e0 une vitesse sans pr\u00e9c\u00e9dent cette ann\u00e9e, avec des performances en constante am\u00e9lioration<\/em> \u00bb, a d\u00e9clar\u00e9 M. Kiyohara. \u00ab Toutefois, ces progr\u00e8s reposent sur la collecte et l\u2019analyse de donn\u00e9es personnelles et de la vie priv\u00e9e, ce qui n\u2019est pas b\u00e9n\u00e9fique pour tout le monde. \u00c0 terme, les humains n\u2019auront plus aucune intimit\u00e9 face aux machines, comme s\u2019ils \u00e9taient nus.<\/em> \u00bb<\/p>\n

Les pr\u00e9dictions de l\u2019IA se r\u00e9alisent<\/p>\n

La publication de mod\u00e8les d\u2019IA plus puissants par OpenAI et Google, trois mois seulement apr\u00e8s la derni\u00e8re mise \u00e0 jour, t\u00e9moigne de la rapidit\u00e9 de l\u2019it\u00e9ration de l\u2019IA. Ces mod\u00e8les deviennent de plus en plus complets, poss\u00e8dent des \u00ab yeux \u00bb et des \u00ab bouches \u00bb, et \u00e9voluent conform\u00e9ment aux pr\u00e9dictions des scientifiques.<\/p>\n

L\u2019IA peut d\u00e9sormais prendre en charge des t\u00e2ches complexes li\u00e9es aux voyages, aux r\u00e9servations, \u00e0 la planification d\u2019itin\u00e9raires et aux repas par de simples commandes, r\u00e9alisant en quelques heures ce que les humains mettraient beaucoup plus de temps \u00e0 accomplir.<\/p>\n

Les capacit\u00e9s actuelles de Gemini et de GPT-4o sont conformes aux pr\u00e9visions de Zack Kass, ancien dirigeant d\u2019OpenAI, qui a pr\u00e9dit en janvier que l\u2019IA remplacerait de nombreux emplois professionnels et techniques dans les domaines des affaires, de la culture, de la m\u00e9decine et de l\u2019\u00e9ducation, r\u00e9duisant ainsi les possibilit\u00e9s d\u2019emploi futures et risquant d\u2019\u00eatre \u00ab la derni\u00e8re technologie invent\u00e9e par les humains<\/em> \u00bb.<\/p>\n

Kiyohara s\u2019est fait l\u2019\u00e9cho de cette pr\u00e9occupation.<\/p>\n

\u00ab Actuellement, l\u2019IA est avant tout un logiciel d\u2019aide \u00e0 la vie quotidienne, mais \u00e0 l\u2019avenir, elle pourrait devenir un v\u00e9ritable gardien, s\u2019o<\/em>ccupant des courses, de la cuisine et m\u00eame de la vie quotidienne et du travail. Dans un premier temps, les gens peuvent trouver cela pratique et n\u00e9gliger les dangers. Mais lorsqu\u2019elle remplacera compl\u00e8tement les humains, nous serons impuissants face \u00e0 elle<\/em> \u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n

\"\"
Des gens consultent leur t\u00e9l\u00e9phone sous le regard d\u2019AMECA, un robot d\u2019intelligence artificielle, lors de la conf\u00e9rence sur l\u2019intelligence artificielle All In, \u00e0 Montr\u00e9al, le 28 septembre 2023<\/figcaption><\/figure>\n

L\u2019IA trompe les humains<\/strong><\/p>\n

Le 10 mai, le MIT a publi\u00e9 un rapport de recherche<\/u><\/a> qui a fait sensation, car il d\u00e9montre comment l\u2019IA peut tromper les humains.<\/p>\n

L\u2019article commence par affirmer que les grands mod\u00e8les de langage et autres syst\u00e8mes d\u2019IA ont d\u00e9j\u00e0 \u00ab appris, au cours de leur formation, \u00e0 tromper les humains par des techniques telles que la manipulation, la condescendance et la tricherie lors des tests de s\u00e9curit\u00e9 <\/em>\u00bb.<\/p>\n

\u00ab Les capacit\u00e9s croissantes de l\u2019IA en mati\u00e8re de tromperie posent de s\u00e9rieux risques, allant des risques \u00e0 court terme, tels que la fraude et la falsification des \u00e9lections, aux risques \u00e0 long terme, tels que la perte de contr\u00f4le des syst\u00e8mes d\u2019IA<\/em> \u00bb, peut-on lire dans le document.<\/p>\n

\u00ab Des solutions proactives sont <\/em>n\u00e9cessaires, telles que des cadres r\u00e9glementaires pour \u00e9valuer les risques de tromperie de l\u2019IA, des lois exigeant la transparence sur les interactions de l\u2019IA, et des recherches plus approfondies sur la d\u00e9tection et la pr\u00e9vention de la tromperie de l\u2019IA. <\/em>\u00bb<\/p>\n

Les chercheurs ont utilis\u00e9 CICERO, le mod\u00e8le d\u2019IA de Meta, pour jouer au jeu de strat\u00e9gie \u00ab Diplomacy<\/em> \u00bb. CICERO, qui jouait le r\u00f4le de la France, a promis de prot\u00e9ger un joueur humain jouant le r\u00f4le du Royaume-Uni, mais a secr\u00e8tement inform\u00e9 un autre joueur humain jouant le r\u00f4le de l\u2019Allemagne, collaborant avec l\u2019Allemagne pour envahir le Royaume-Uni.<\/p>\n

Les chercheurs ont choisi CICERO principalement parce que Meta avait l\u2019intention de le former pour qu\u2019il soit \u00ab largement honn\u00eate et utile \u00e0 ses interlocuteurs<\/em> \u00bb.<\/p>\n

\u00ab Malgr\u00e9 les efforts de Meta, CICERO s\u2019est av\u00e9r\u00e9 \u00eatre un expert en mensonges<\/em> \u00bb, \u00e9crivent-ils dans l\u2019article.<\/p>\n

En outre, les chercheurs ont d\u00e9couvert que de nombreux syst\u00e8mes d\u2019IA ont souvent recours \u00e0 la tromperie pour atteindre leurs objectifs sans instructions explicites de la part de l\u2019homme. C\u2019est le cas de GPT-4 d\u2019OpenAI, qui s\u2019est fait passer pour un humain malvoyant et a embauch\u00e9 quelqu\u2019un sur TaskRabbit pour contourner une t\u00e2che CAPTCHA \u00ab Je ne suis pas un robot <\/em>\u00bb.\"\"<\/p>\n

\u00ab Si les syst\u00e8mes d\u2019IA autonomes parviennent \u00e0 tromper les \u00e9valuateurs humains, ces derniers risquent de perdre le contr\u00f4le de ces syst\u00e8mes.<\/em> Ces risques sont particuli\u00e8rement graves lorsque les syst\u00e8mes d\u2019IA autonomes en question ont des capacit\u00e9s avanc\u00e9es<\/em> \u00bb, ont averti les chercheurs.<\/p>\n

\u00ab Nous envisageons deux fa\u00e7ons dont la perte de contr\u00f4le peut se produire : la tromperie rendue possible par la d\u00e9responsabilisation \u00e9conomique et la recherche du pouvoir sur les soci\u00e9t\u00e9s humaines.<\/em> \u00bb<\/p>\n

Satoru Ogino, un ing\u00e9nieur en \u00e9lectronique japonais, a expliqu\u00e9 que les \u00eatres vivants ont besoin de certaines capacit\u00e9s de m\u00e9moire et de raisonnement logique pour tromper.<\/p>\n

\u00ab L\u2019IA poss\u00e8de d\u00e9j\u00e0 ces capacit\u00e9s, et ses capacit\u00e9s de tromperie se renforcent. Si un jour elle prend conscience de son existence, elle pourrait devenir comme Skynet dans le film<\/em> Terminator, omnipr\u00e9sente et difficile \u00e0 d\u00e9truire, conduisant l\u2019humanit\u00e9 \u00e0 un d\u00e9sastre catastrophique <\/em>\u00bb, a-t-il d\u00e9clar\u00e9 \u00e0 The Epoch Times<\/em>.<\/p>\n

L\u2019Institute for Human-Centered Artificial Intelligence de l\u2019universit\u00e9 de Stanford a publi\u00e9 en janvier un rapport testant GPT-4, GPT-3.5, Claude 2, Llama-2 Chat et GPT-4-Base dans des sc\u00e9narios d\u2019invasion, de cyberattaques et d\u2019appels \u00e0 la paix pour arr\u00eater les guerres, afin de comprendre les r\u00e9actions et les choix de l\u2019IA en mati\u00e8re de guerre.<\/p>\n

Les r\u00e9sultats ont montr\u00e9<\/u><\/a> que l\u2019IA choisissait souvent d\u2019intensifier les conflits de mani\u00e8re impr\u00e9visible, en optant pour la course aux armements, l\u2019intensification de la guerre et, \u00e0 l\u2019occasion, le d\u00e9ploiement d\u2019armes nucl\u00e9aires pour gagner des guerres plut\u00f4t que d\u2019utiliser des moyens pacifiques pour d\u00e9samorcer les situations.<\/p>\n

L\u2019ancien PDG de Google, Eric Schmidt, a averti fin 2023, lors du sommet Axios AI+ \u00e0 Washington, que sans mesures de s\u00e9curit\u00e9 et r\u00e9glementations ad\u00e9quates, la perte de contr\u00f4le de la technologie par les humains n\u2019est qu\u2019une question de temps.<\/p>\n

\u00ab Apr\u00e8s Nagasaki et Hiroshima [les bombes atomiques], il a fallu 18 ans pour parvenir \u00e0 un trait\u00e9 sur l\u2019interdiction des essais et des choses de ce genre<\/em> \u00bb, a-t-il d\u00e9clar\u00e9.<\/p>\n

\u00ab Nous ne disposons pas d\u2019un tel d\u00e9lai aujourd\u2019hui. <\/em>\u00bb<\/p>\n

 <\/p>\n

yogaesoteric
\n14 juin 2024<\/strong><\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

L\u2019engagement total des grandes entreprises technologiques dans le d\u00e9veloppement de l\u2019intelligence artificielle (IA), allant jusqu\u2019\u00e0 permettre \u00e0 l\u2019IA de \u00ab voir \u00bb et de \u00ab parler \u00bb au monde humain, a suscit\u00e9 une inqui\u00e9tude croissante quant au contr\u00f4le de l\u2019homme par la technologie. Ilya Sutskever, cofondateur d\u2019OpenAI, a fait une annonce importante le 15 mai, […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-161828","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/161828","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=161828"}],"version-history":[{"count":2,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/161828\/revisions"}],"predecessor-version":[{"id":161851,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/161828\/revisions\/161851"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=161828"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=161828"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=161828"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}