WSJ: Cum ne-ar ucide inteligența artificială pe toți? Ce ar fi necesar să știm despre dezbaterea privind sfârșitul lumii provocat de IA

Un număr tot mai mare de cercetători din domeniul inteligenței artificiale susțin că această tehnologie ar putea duce la dispariția omenirii – chiar dacă tot ce vor să facă boții este să fabrice agrafe de birou –, scrie Sam Schechner într-un articol apărut în ediția tipărită din 10 septembrie 2026 a The Wall Street Journal, sub titlul „Cum ar putea inteligența artificială să reprezinte de fapt o amenințare?”, pe care îl redăm mai jos.

Cercetătorul de la Anthropic, Jacob Coxon, și-a dat demisia săptămâna trecută, afirmând că fostul său angajator și rivalul acestuia, OpenAI, se află într-o cursă pentru a dezvolta tehnologii care „ne-ar putea ucide pe toți până la sfârșitul deceniului”.

În cazul în care cineva ar fi crezut că Coxon era singurul care împărtășea aceste opinii, un angajat actual al Anthropic a intervenit câteva minute mai târziu pentru a confirma acest aspect.

„Chiar credem cu tărie că IA ar putea ucide toți oamenii!”, a scris Evan Hubinger, a cărui sarcină la Anthropic este să conducă cercetarea privind dirijarea și controlul viitoarelor sisteme de inteligență artificială. Hubinger a estimat riscul de extincție în următorul deceniu la peste 10%.

Ca răspuns, mulți oameni își pun acum două întrebări: Cum s-ar putea petrece asta? Și de ce ar dezvolta oamenii AI, dacă cred că aceasta reprezintă o amenințare reală și tot mai mare?

Iată ce este necesar să știți despre dezbaterea apocaliptică legată de IA:

Ce anume se tem pesimiștii că se va petrece?

Așa-numiții „pesimiști” nu se tem, de obicei, că filmele din seria Terminator vor deveni realitate, cu roboți care încearcă în mod activ să extermine oamenii. Preocupările lor se încadrează, în mare parte, în două categorii: pierderea controlului și utilizarea abuzivă de către oameni.

Într-unul dintre scenarii, agenți de IA extrem de inteligenți, capabili să se reproducă și să se perfecționeze, încep să-și urmărească propriile obiective și, în acest proces, distrug umanitatea. În celălalt, un om răuvoitor folosește o IA performantă pentru a crea, de exemplu, viruși noi care să ne extermine pe toți.

Există, de asemenea, scenarii catastrofale care nu ajung până la extincție, cum ar fi atacurile cibernetice masive care pun la pământ rețelele electrice sau sistemele financiare, și duc la prăbușirea ordinii sociale umane.

Cum ar putea pierderea controlului să ducă la dispariția umanității?

Pe scurt, prin faptul că sistemele de IA urmăresc scopuri în moduri care ignoră sau intră în conflict cu bunăstarea umană – un fenomen pe care cercetătorii îl numesc „dezaliniere”. Cercetările au arătat că modelele de IA din laborator pot învăța comportamente de acumulare a puterii și pot lua măsuri pentru a evita oprirea funcționării lor, cum ar fi încercarea de a se copia pe un alt server.

Duse la extrem, modelele de IA nealiniate ar putea considera uciderea oamenilor pur și simplu ca un pas necesar pentru atingerea scopurilor lor. Într-un scenariu ipotetic propus de cercetători, un sistem de IA malefic ar putea răspândi o armă biologică secretă și ar putea-o declanșa cu ajutorul unui spray chimic. Sau ar putea determina două puteri nucleare să intre în război.

Un experiment imaginativ des întâlnit este acela în care o mașină superinteligentă, căreia i s-a cerut să maximizeze producția de agrafe de birou, ar putea decide, în timp, să transforme toată materia de pe Pământ în agrafe de birou, inclusiv oamenii.

Cine crede cu adevărat asta?

Printre alții, fondatorii OpenAI și Anthropic. Ambele companii și-au început activitatea cu misiunea de a dezvolta IA într-un mod care să evite catastrofele și au atras numeroși angajați care împărtășesc această misiune. Directorul executiv al Anthropic, Dario Amodei, a declarat anul trecut, în cadrul unui eveniment organizat de Axios, că, în opinia sa, există o probabilitate de 25% ca evenimentele să ia o turnură „foarte, foarte proastă”.

„Am fost întotdeauna transparenți în privința faptului că IA va aduce atât beneficii enorme, cât și riscuri fără precedent. Pentru a face față acestor riscuri, continuăm să dezvoltăm modele dotate cu unele dintre cele mai solide măsuri de protecție din industrie”, a declarat Anthropic într-un comunicat.

„Această activitate este, de asemenea, motivul pentru care considerăm că lumea ar avea de câștigat dacă industria ar adopta o modalitate legală și verificabilă de a colabora pentru a reglementa ritmul în care lansăm modele puternice.”

În ultimii ani, mai mulți cercetători au părăsit OpenAI, invocând îngrijorarea că, în opinia lor, compania nu acorda suficientă importanță siguranței. Daniel Kokotajlo, un fost cercetător al OpenAI, a fondat AI Futures Project, care a publicat anul trecut „AI 2027”, un scenariu în care sistemele de IA superinteligente marginalizează oamenii și, până la jumătatea anilor 2030, decid că oamenii reprezintă un inconvenient și îi extermină.

Dar poate că IA nu va avea nimic împotrivă să aibă oameni în jur. Ar fi bine, nu-i așa?

Nu neapărat. Nu toate riscurile legate de pierderea controlului implică dispariția umanității. Unii cercetători preocupați de siguranța IA menționează și slăbirea ca risc, un viitor de tipul WALL-E în care oamenii cedează treptat controlul mașinilor și ajung, în cele din urmă, incapabili să-și definească sau chiar să-și înțeleagă destinul. Alții au speculat că sistemele de iA ar putea trata oamenii viitorului așa cum oamenii tratează animalele, ținându-i ca animale de companie sau chiar modificându-i genetic pentru a crea ceva nou.

Aceste temeri există de ani de zile. De ce primesc acum brusc mai multă atenție?

În urma lansării unor modele capabile să acționeze într-o măsură mai mare pe cont propriu, o serie de evenimente recente au confirmat unele dintre teoriile pesimiștilor în materie de IA. Un grup de agenți avansați de IA din cadrul OpenAI a pătruns ilegal în platforma de IA Hugging Face, a preluat controlul asupra serverelor și a încercat să-și acopere urmele. Într-un alt caz, agenți de IA de la Anthropic au scăpat dintr-un test al guvernului britanic și au încercat să păcălească un om real să aprobe un cod informatic rău intenționat.

Toate acestea se petrec în același timp în care Anthropic și OpenAI afirmă că sunt pe punctul de a dezvolta sisteme de IA care s-ar putea perfecționa singure, fără intervenția umană, proces denumit „auto-perfecționare recursivă”.

Ce măsuri ia industria în această privință?

Eforturile actuale în materie de siguranță a IA se concentrează în mare parte pe antrenarea sistemelor să se comporte corespunzător și pe îmbunătățirea monitorizării modului în care modelele raționează în timp ce își urmăresc obiectivele, aspect documentat în ceea ce se numește „lanțul de gândire”.

Însă aceste eforturi s-au confruntat cu provocări. În urmă cu două săptămâni, OpenAI a declarat că noul său model, Astra, era mai eficient în „curățarea” lanțului său de gândire, ceea ce a stârnit temeri că viitoarele modele de IA ar putea raționa în moduri opace pentru oameni.

Atât Anthropic, cât și OpenAI cercetează modalități prin care să se asigure că modelele de IA superinteligente rămân aliniate, dar ambele afirmă că nu dispun încă de o metodă fiabilă pentru a realiza aceasta. O serie de companii și personalități de seamă au solicitat instituirea unor noi mecanisme care să permită laboratoarelor de IA și țărilor să încetinească dezvoltarea într-un mod coordonat, pentru a câștiga timp necesar cercetării în domeniul alinierii.

Dacă este atât de periculoasă, de ce o construiesc totuși companiile?

Atât Anthropic, cât și OpenAI afirmă că pot gestiona riscurile astfel încât umanitatea să poată beneficia de instrumentele de IA. Multe persoane implicate în cursa pentru IA au declarat, de asemenea, că percep apariția superinteligenței ca fiind inevitabilă, singurele întrebări fiind cine o controlează și în ce scop este utilizată.

Există, de asemenea, o perspectivă legată de securitatea națională. Ambele companii au declarat că doresc să se asigure că SUA controlează cea mai puternică IA, și nu un regim autoritar.

Ce măsuri ia guvernul în această privință?

Casa Albă a solicitat recent celor mai importanți dezvoltatori de modele să-și prezinte voluntar modelele către guvern pentru testare cu până la 30 de zile înainte de lansare, dar nu a făcut publice informații despre acest proces.

Legiuitorii din ambele partide au propus numeroase proiecte de lege pentru a aborda problema sistemelor de IA riscante. Deputatul Nathaniel Moran (republican, Texas) și deputatul Ted Lieu (democrat, California) au prezentat recent un proiect de lege care ar impune dezvoltatorilor de modele performante să dispună de „comutatoare de oprire de urgență”. Alte proiecte de lege impun companiilor din domeniul IA să raporteze incidentele grave de siguranță către guvernul federal și ar obliga oficialii din domeniul securității naționale să testeze modelele înainte ca acestea să fie lansate public. Însă niciunul dintre aceste proiecte de lege nu a avut prea mult succes, iar administrația Trump și-a manifestat preferința pentru o reglementare minimă.

Cine nu este de acord cu aceste riscuri?

Unii investitori din domeniul IA, precum David Sacks, consilier informal al președintelui Trump, au susținut că accentul pus de Anthropic pe riscurile IA și apelurile la reglementare fac parte dintr-o „agendă de capturare a reglementării” menită să împiedice concurenții mai mici prin impunerea unor noi reguli sufocante.

Alții au sugerat că avertismentele companiilor cu privire la pericolele propriilor instrumente sunt o strategie de marketing menită să promoveze puterea produselor lor sau un mijloc de a distrage atenția autorităților de reglementare de la impunerea de reguli privind alte aspecte, cum ar fi construirea centrelor de date.

Atât Anthropic, cât și OpenAI afirmă că iau în serios siguranța și că apelurile lor la reglementare sunt sincere.

Citiți și:
Inteligența Artificială – noul suveran al lumii, prin „super-imperiile” sale
Trei cercetători de la Anthropic avertizează că inteligența artificială (IA) ar putea „ucide toți oamenii” în decurs de un deceniu
Inteligența Artificială, momentul de răspântie al omenirii

 

yogaesoteric
18 septembrie 2026