BBC: Miliardarii din domeniul tehnologiei par să se pregătească pentru dezastru. Ar fi cazul să ne facem griji?

Se spune că Mark Zuckerberg a început lucrările la Koolau Ranch, complexul său de 1.400 de acri de pe insula hawaiană Kauai, încă din 2014. Se preconizează că va avea un adăpost complet, cu propriile rezerve de energie și alimente, deși dulgherilor și electricienilor care lucrau la fața locului li s-a interzis să vorbească despre acesta prin acorduri de confidențialitate, potrivit unui articol al revistei Wired. Un zid înalt de doi metri bloca vizibilitatea proiectului.

Potrivit BBC, întrebat anul trecut dacă construiește un buncăr apocaliptic, fondatorul Facebook a răspuns categoric „nu”. Spațiul subteran, care se întinde pe aproximativ 5.000 de metri pătrați, este, a explicat el, „exact ca un mic adăpost, este ca un subsol”.

Această declarație nu a oprit speculațiile – și nici decizia sa de a cumpăra încă 11 proprietăți în cartierul Crescent Park din Palo Alto, California, cu un spațiu subteran de 7.000 de metri pătrați.

Deși autorizațiile sale de construire se referă la subsoluri, potrivit New York Times, unii dintre vecinii săi le numesc buncăre. Sau ascunzătoarea unui miliardar.

Apoi, există speculațiile despre alți lideri din domeniul tehnologiei, dintre care unii par să se fi ocupat de cumpărarea de terenuri dotate cu spații subterane, bune pentru a fi convertite în buncăre de lux.

Reid Hoffman, co-fondatorul LinkedIn, a vorbit despre o „asigurare împotriva apocalipsei”. Ceea ce au aproximativ jumătate dintre super-bogați, după cum a spus el, Noua Zeelandă fiind o destinație populară pentru astfel de locuințe.

Așadar, s-ar putea pregăti cu adevărat pentru război, pentru efectele schimbărilor climatice sau pentru un alt eveniment catastrofal despre care restul dintre noi încă nu știm?

În ultimii ani, dezvoltarea inteligenței artificiale (IA) nu a făcut decât să mărească această listă de potențiale probleme existențiale. Mulți sunt profund îngrijorați de viteza imensă a acestei evoluții. Ilya Sutskever, cercetător-șef și cofondator al Open AI, este unul dintre ei.

Până la mijlocul anului 2023, firma cu sediul în San Francisco lansase ChatGPT – chatbotul folosit acum de sute de milioane de oameni din întreaga lume – și lucra rapid la actualizări.

Până în acea vară, Sutskever era din ce în ce mai convins că informaticienii erau pe punctul de a dezvolta inteligența artificială generativă (IAG) – în care mașinile ajung la nivelul inteligenței umane – se arată într-o carte scrisă de jurnalista Karen Hao.

Într-o întâlnire, Sutskever le-a sugerat colegilor să sape un adăpost subteran pentru cei mai buni oameni de știință ai companiei înainte ca o tehnologie atât de puternică să fie lansată pe piață, a scris Hao. „Cu siguranță vom construi un buncăr înainte de a lansa IAG”, se pare că ar fi spus el, deși nu este clar la cine se referea prin „noi”.

Aceasta scoate la iveală un fapt ciudat: mulți informaticieni de top și lideri din domeniul tehnologiei, dintre care unii lucrează din greu pentru a dezvolta o formă extrem de inteligentă de IA, par, de asemenea, profund speriați de ceea ce aceasta ar putea face într-o zi.

Așadar, când va apărea, dacă va apărea vreodată, IAG? Și s-ar putea dovedi cu adevărat suficient de puternică pentru a-i face pe oamenii obișnuiți să se teamă?

Liderii din domeniul tehnologiei au susținut că IAG este iminentă. Șeful OpenAI, Sam Altman, a declarat în decembrie 2024 că va veni „mai devreme decât cred oamenii”. Sir Demis Hassabis, co-fondatorul DeepMind, a prezis că va apărea în următorii cinci până la zece ani, în timp ce fondatorul Anthropic, Dario Amodei, a scris anul trecut că „IA puternică” – așa cum îi place lui s-o numească – ar putea să apară printre noi încă din 2026.

Alții sunt sceptici. „Ei își schimbă mereu poziția”, spune Dame Wendy Hall, profesoară de informatică la Universitatea din Southampton. „Depinde cu cine vorbești. Comunitatea științifică spune că tehnologia IA este uimitoare”, adaugă ea, „dar nu este nici pe departe, în raport cu inteligența umană.”

Mai întâi ar fi nevoie de o serie de „descoperiri fundamentale”, este de acord Babak Hodjat, director tehnic al firmei de tehnologie Cognizant. Mai mult, este puțin probabil să fie un eveniment singular. Mai degrabă IA este o tehnologie în continuă evoluție, este într-o călătorie continuă și companiile din întreaga lume se întrec în a-și dezvolta propriile versiuni ale acesteia.

Dar unul dintre motivele care entuziasmează Silicon Valley este că aceasta este considerată a fi un precursor a ceva și mai avansat: SIA sau superinteligența artificială – tehnologie care ar depăși inteligența umană.

În 1958, conceptul de „singularitate” a fost atribuit postum matematicianului de origine maghiară John von Neumann. Acesta se referă la momentul în care inteligența computerizată ar avansa dincolo de înțelegerea umană. John von Neumann este creditat cu una dintre primele mențiuni ale conceptului de singularitate, cu mult înainte ca acesta să aibă un nume – a fost fizician, matematician, economist și informatician.

Mai recent, cartea Genesis din 2024, scrisă de Eric Schmidt, Craig Mundy și răposatul Henry Kissinger, explorează ideea unei tehnologii super-puternice, care devine atât de eficientă în luarea deciziilor și în leadership, încât ajungem să-i predăm complet controlul. Este o chestiune de când, nu de dacă, susțin ei.

Cei care sunt în favoarea IAG și SIA sunt aproape profetici în ceea ce privește beneficiile acestora. Vor găsi noi leacuri pentru boli mortale, vor rezolva schimbările climatice și vor inventa o sursă inepuizabilă de energie curată, susțin ei.

Elon Musk a susținut chiar că IA superinteligentă ar putea inaugura o eră a „venitului universal ridicat”. Recent, el a susținut ideea că IA va deveni atât de ieftină și de răspândită, încât practic oricine își va dori propriul R2-D2 și C-3PO (referindu-se la droizii din Războiul Stelelor). „Toată lumea va avea cea mai bună îngrijire medicală, mâncare, transport acasă și tot restul. Abundență sustenabilă”, a spus el cu entuziasm.

Există, desigur, și o latură înfricoșătoare. Tehnologia ar putea fi deturnată de teroriști și folosită ca armă sau ar putea decide singură că umanitatea este cauza problemelor lumii și ne-ar distruge.

„Dacă devine mai inteligentă decât noi, atunci e necesar să o ținem sub control. E neapărat necesar să putem s-o oprim”, a avertizat Tim Berners Lee, creatorul World Wide Web, într-un interviu acordat BBC la începutul acestei luni.

Guvernele au luat deja unele măsuri de protecție. În SUA, unde își au sediul multe companii de inteligență artificială de top, fostul președinte Biden a adoptat un ordin executiv în 2023 care impunea unor firme să împărtășească rezultatele testelor de siguranță cu guvernul federal – deși președintele Trump a revocat ulterior o parte din ordin, numindu-l o „barieră” în calea inovației.

Între timp, în Marea Britanie, în urmă cu doi ani a fost înființat Institutul pentru Siguranța Inteligenței Artificiale – un organism de cercetare finanțat de guvern, pentru a înțelege mai bine riscurile prezentate de inteligența artificială avansată.

Și apoi sunt cei super-bogați, cu propriile lor planuri de asigurare pentru apocalipsă. „A spune că îți «cumperi o casă în Noua Zeelandă» este un semn”, a spus anterior Reid Hoffman. Această afirmație este valabilă probabil și pentru buncăre. Dar aceste planuri au și un punct slab, care ține de defectele naturii umane. Un fost bodyguard al unui miliardar care avea propriul său „buncăr” mi-a spus că prima prioritate a echipei sale de securitate, dacă un dezastru ar fi avut loc cu adevărat, era să-l elimine pe respectivul miliardar și să intre ei în buncăr. Și nu părea să glumească.

Prostii alarmiste?

Neil Lawrence este profesor de învățare automată la Universitatea Cambridge. Pentru el, întreaga dezbatere în sine este o prostie. „Noțiunea de Inteligență Artificială Generală este la fel de absurdă ca și noțiunea de «Vehicul General Artificial». Vehiculul potrivit depinde de context. Am folosit un Airbus A350 pentru a zbura în Kenya, folosesc o mașină pentru a ajunge la universitate în fiecare zi, merg pe jos până la cantină……. Nu există niciun vehicul care să poată face vreodată toate acestea”, susține el.

Pentru el, discuțiile despre IAG reprezintă o distragere a atenției. „Tehnologia pe care am construit-o [deja] permite, pentru prima dată, oamenilor obișnuiți să vorbească direct cu o mașină și, eventual, să o determine să facă ceea ce intenționează. Acest aspect este extraordinar……. și complet transformator. Marea îngrijorare este că suntem atât de atrași de narațiunile marilor companii tehnologice despre inteligența artificială generativă (IAG) încât ratăm modalitățile prin care să îmbunătățim situația oamenilor.”

Instrumentele actuale de inteligență artificială sunt antrenate pe munți de date și sunt bune la detectarea tiparelor: fie că sunt semne tumorale în scanări, fie cuvântul cel mai probabil să apară după altul într-o anumită secvență. Dar ele nu „simt”, oricât de convingătoare ar părea răspunsurile lor.

„Există câteva modalități «înșelătoare» de a face un model mare de limbaj (baza chatbot-ului IA) să acționeze ca și cum ar avea memorie și ar învăța, dar acestea sunt nesatisfăcătoare și destul de inferioare oamenilor”, spune Hodjat.

Vince Lynch, directorul general al companiei IV.AI, cu sediul în California, este, de asemenea, precaut față de declarațiile exagerate. „Este un marketing excelent. Dacă ești compania care construiește cea mai inteligentă mașinărie care a existat vreodată, oamenii vor dori să-ți dea bani”, a spus el.

„Nu este ceva care va avea loc peste doi ani. Necesită atât de multă putere de calcul, atât de multă creativitate umană, atât de multe încercări și erori”, a adăugat Lynch.

Întrebat dacă crede că IAG se va materializa vreodată, a făcut o pauză lungă. „Chiar nu știu”, a spus el într-un final.

Într-un fel, IA este deja în avantaj față de creierul uman. Un instrument de IA generativă poate fi expert în istoria medievală într-un minut și poate rezolva ecuații matematice complexe în următorul.

Unele companii de tehnologie spun că nu știu întotdeauna de ce produsele lor reacționează așa cum o fac. Meta spune că există unele semne că sistemele sale de inteligență artificială se îmbunătățesc.

În cele din urmă, însă, indiferent cât de inteligente devin mașinile, din punct de vedere biologic, creierul uman este în avantaj. Are aproximativ 86 de miliarde de neuroni și 600 de trilioane de sinapse, mult mai multe decât echivalentele artificiale. Creierul nu are nevoie să facă pauze între interacțiuni și se adaptează constant la informații noi.

„Dacă îi spui unui om că s-a găsit viață pe o exoplanetă, va înregistra imediat această informație și ea îi va afecta viziunea asupra lumii pe viitor. Pe când un LLM [Large Language Model], va ști asta doar atâta timp cât îi repeți mereu acea informație ca pe un fapt”, spune Hodjat.

„De asemenea, LLM-urile nu au meta-cogniție, ceea ce înseamnă că nu știu exact ce știu. Oamenii par să aibă o capacitate introspectivă, uneori denumită conștiință, care le permite să știe ce știu”, a adăugat el. Este o parte fundamentală a inteligenței umane, care încă nu a fost reprodusă într-un laborator.

Citiți și:
Cel mai recent argument al Silicon Valley împotriva reglementării IA: aceasta ar fi literalmente Antihristul
Ipocrizia climatică față de IA. Noile centre de date ale OpenAI vor consuma mai multă energie decât tot orașul New York
„Nașul AI” avertizează: mașinile superinteligente ar putea înlocui omenirea

 

yogaesoteric
20 octombrie 2025