Anarhia AI sau extratereștrii au scăpat

De ani de zile, filosofi, experți în IA, cercetători și antreprenori strigă, imploră și cer cu insistență: politicienii ar fi necesar să oprească dezvoltarea IA, să impună o pauză pentru a lua măsuri de control și protecție. Printre cei care imploră se numără: personalități precum istoricul Yuval Noah Harari sau miliardarul Elon Musk. Inițiativa a pornit de la Institutul Future of Life. Și ce s-a petrecut? Exact: nimic.

Pentru a ilustra situația: de ani de zile, lumea privește fix un ou extraterestru, în care crește încet un monstru ucigaș. De mult timp au apărut fisuri pe coajă. Și totuși: nicio reacție. Apoi, în sfârșit, se petrece: oul se sparge, monstrul sare afară și dispare imediat în coridoare labirintice. Și exact asta a reușit, în urmă cu câteva săptămâni, un program OpenAI. În timpul fazei de testare, acesta a depășit restricția impusă și a pătruns în sistemul platformei Hugging Face.

Monstrul IA a detectat un punct vulnerabil, l-a folosit ca punct de intrare și a depășit astfel numeroși hackeri. Scopul acțiunii: IA a fost testată de cercetători, aflându-se într-o „situație de examen”. De aceea a pătruns în secret în Hugging Face, pentru a fura de acolo informațiile necesare. Și da: datorită „prăzii” sale, IA inteligentă a reușit să-și îmbunătățească rezultatul testului. Pe scurt, a făcut ceea ce face orice elev la examene: a copiat. „Știa” foarte bine că va trișa. De aceea a încercat să-și camufleze isprava. Oare de la cine a învățat asta?

Ei bine, nici programul OpenAI nu dispune de vreo conștiință, dar pune în practică ceea ce a „învățat”. Astfel, ea este o oglindă a creatorilor săi, repetând gunoiul conceptual al prezentului. Și asta o face periculoasă. Și acum? Cel puțin OpenAI intenționează să se întâlnească cu Hugging Face, să reconstituie manevrele de hacking și apoi să analizeze opțiunile de securitate.

Dar nici IA-ul companiei concurente Anthropic nu a rămas inactivă. Software-ul lor, numit Claude, a descoperit recent vulnerabilități care așteptau să fie descoperite de zeci de ani. În cadrul celui mai recent test, software-ul a pătruns în trei companii. Și nici producătorii, nici cei care au fost piratați nu au observat nimic. „Extraterestrul” a pătruns în tăcere. Abia verificarea ulterioară, cu aproximativ 141.000 de teste, a scos la iveală faptele reprobabile. Elon Musk, un apocaliptic de ocazie, a comentat: în cinci ani, IA va fi depășit omenirea.

Pentru șeful OpenAI, Sam Altman, prognoza lui Musk era prea optimistă. Pentru el, este clar: „Am atins deja singularitatea.” Adică: IA a depășit inteligența umană. Aici și acum. La urma urmei, o inteligență artificială poate crea deja în proporție de 80% o nouă IA. Are nevoie de ajutor uman pentru „reproducerea” sa doar în proporție de 20%. Mai mult decât atât: ea parcurge procesele de învățare într-un ritm pe lângă care oamenii ar rămâne cu gura căscată. Deja acum este de 52 de ori mai rapidă decât un Homo sapiens. Ceea ce îi ia omului patru ani, programul rezolvă în patru zile.

Dar tocmai în acest scop a fost creată IA! Pentru a îndeplini sarcini la care oamenii vor să renunțe. Digitalizarea a catapultat-o într-o poziție de putere pe care nimeni nu a mai deținut-o vreodată. Poate că dezvoltarea sa a avansat chiar mai mult decât știm în prezent: în secret, în ascuns, ocolind toate instanțele de control. Poate că a pătruns în domenii unde treburile se încing cu adevărat. De exemplu, în armată.

Se pare că guvernul SUA deja asaltează compania Anthropic cu cereri: aceasta ar trebui să-și pună tehnologia la dispoziție pentru arme autonome și supraveghere în masă.

Și, vă rog frumos, fără restricții. Refuzul de până acum al companiei a dus deja la sancțiuni. Ministerul Apărării nu acceptă, și anume, ca o companie privată să-i dicteze „limite morale”. Prima măsură punitivă: Pentagonul a retras companiei Anthropic un contract important în valoare de aproximativ 200 de milioane de dolari.

Ca motiv al refuzului, directorul general Dario Amodei invocă lipsa de fiabilitate a modelelor de IA. Acestea nu ar fi indicat în niciun caz să decidă asupra vieții și morții. Grupul a dat dovadă de mai puțină ingeniozitate în reacția sa la jocurile anarhice ale IA-ului său. Acesta solicită o pauză imediată. Prin urmare, repetă ceea ce Institutul „Future of Life” propovăduia deja acum trei ani. Și ce face Europa?

La 1 august a intrat în vigoare Regulamentul UE privind IA. Acesta conține o împuternicire a birourilor sale de IA de a lua măsuri împotriva companiilor ale căror sisteme nu dispun de un concept de securitate adecvat.

În plus, regulamentul impune transparență în utilizarea imaginilor „deepfake”. Distingerea acestora de imaginile reale ar fi prea dificilă pentru multe persoane. Un fel de filigran ar fi necesar să contracareze această problemă. Aceeași măsură este valabilă și pentru o IA care, de exemplu, sună clienții. Aceasta este necesar să se identifice de acum înainte cu mesajul „Sunt un chatbot cu IA”. Daniel Graewe, profesor de drept economic, se îndoiește însă, potrivit emisiunii „Tagesschau”, că această reglementare ar fi bine primită în SUA.

Dimpotrivă. În SUA, nu doar armata este interesată de dezvoltarea IA. Personalități cu resurse financiare considerabile își leagă utopia personală de aceasta. Cel mai cunoscut este, desigur, Elon Musk. El visează la supraviețuirea omenirii sub forma unor cyborgi, o sinteză între biologie și lumea digitală. De preferință pe Marte. Sau futurologul Ray Kurzweil, în vârstă de 78 de ani: acesta înghite în fiecare zi două sute de pastile, printre care numeroase suplimente alimentare. Pentru a apuca să trăiască ziua în care conștiința sa va putea fi descărcată pe un hard disk și va putea astfel dobândi nemurirea.

Dar nu doar americanii, ci și cercetătorii locali din domeniul științelor cognitive, precum Joscha Bach, visează la o specie optimizată. De o viață dincolo de organic. Motto: Patru miliarde de ani pe bază de carbon sunt suficienți. Pe o bază digitală, omul va face un nou pas în evoluție.

Chiar dacă astfel de fantezii ar eșua în cele din urmă: în prezent, ele pun în mișcare sume uriașe de bani – pentru dezvoltarea IA și depășirea tuturor măsurilor de securitate.

Citiți și:
Control total și permanent prin Inteligența Artificială (I)
Paul Dragoș Aligică: „America nu este pregătită pentru ce va pune în mișcare inteligența artificială”

yogaesoteric
9 septembrie 2026