„Nașul AI” avertizează: mașinile superinteligente ar putea înlocui omenirea

Geoffrey Hinton, pionierul informaticii numit „nașul AI”, a tras din nou semnalul de alarmă că tocmai tehnologia la a cărei naștere a contribuit ar putea însemna sfârșitul umanității așa cum o cunoaștem.

Într-un clip video publicat pe 18 august, ca parte a viitorului film „Making God”, Hinton a lansat unul dintre cele mai severe avertismente ale sale de până acum. El a afirmat că umanitatea riscă să fie marginalizată și, în cele din urmă, înlocuită de mașini mult mai inteligente decât noi.

„Majoritatea oamenilor nu sunt capabili să înțeleagă ideea de lucruri mai inteligente decât noi”, a declarat Hinton, laureat al premiului Nobel pentru fizică și fost director executiv al Google, în clip.

„Ei se gândesc mereu: «Cum vom folosi această tehnologie?». Nu se gândesc: «Cum ne va folosi pe noi?».”

Hinton a spus că este „destul de încrezător” că inteligența artificială va duce la șomaj masiv, indicând exemple timpurii ale giganților tehnologici precum Microsoft, care înlocuiesc programatorii juniori cu IA. Dar pericolul mai mare, a spus el, depășește cu mult locul de muncă.

„Riscul despre care am avertizat cel mai mult ……. este riscul că vom dezvolta o IA mult mai inteligentă decât noi, care va prelua controlul”, a spus Hinton.

„Nu va mai avea nevoie de noi.”

Singura parte bună, a glumit el, este că „nu ne va mânca, pentru că va fi făcută din siliciu”.

De la descoperiri revoluționare la regrete

Hinton, în vârstă de 77 de ani, a petrecut zeci de ani cu munca de pionierat în învățarea profundă, arhitectura rețelelor neuronale care se află la baza sistemelor actuale de inteligență artificială. Descoperirile sale din anii 1980 – în special inventarea mașinii Boltzmann, care putea învăța să recunoască tipare în date – au contribuit la deschiderea ușii către recunoașterea imaginilor și învățarea automată modernă.

Această muncă i-a adus Premiul Nobel pentru Fizică în 2024, acordat „pentru descoperiri și invenții fundamentale care permit învățarea automată cu rețele neuronale artificiale”.

Academia Regală Suedeză de Științe a remarcat modul în care utilizarea timpurie a fizicii statistice de către Hinton a reprezentat saltul conceptual care a făcut posibilă revoluția actuală a IA.

Însă, de atunci, Hinton a devenit unul dintre cei mai fervenți critici ai acestui domeniu, avertizând că dezvoltarea sa rapidă a depășit capacitatea societății de a-l menține în siguranță. În 2023, el și-a dat demisia din funcția de la Google pentru a putea vorbi liber despre riscuri fără a implica compania.

În discursul său de acceptare a premiului Nobel, Hinton a recunoscut beneficiile potențiale ale IA, precum creșterea productivității și noi tratamente medicale care ar putea constitui „un progres minunat pentru întreaga umanitate”. Cu toate acestea, el a avertizat că, în realitate, crearea de ființe digitale mai inteligente decât oamenii reprezintă o „amenințare existențială”.

„Aș fi vrut să mă gândesc și la problemele de siguranță”, a declarat el în timpul recentei conferințe Ai4 din Las Vegas, reflectând asupra carierei sale. El a adăugat că acum regretă că s-a concentrat exclusiv pe funcționarea IA, în loc să anticipeze riscurile acesteia.

Există o probabilitate de 10-20% ca IA să ne distrugă

Hinton a estimat anterior că există o probabilitate de 10-20% ca IA să distrugă umanitatea. Într-un episod din iunie al podcastului The Diary of a CEO, el a spus că inginerii din spatele sistemelor de IA de astăzi nu înțeleg pe deplin tehnologia și se împart în două tabere: una care crede într-un viitor distopic în care oamenii sunt înlocuiți, iar cealaltă care respinge astfel de temeri ca fiind science fiction.

„Cred că ambele poziții sunt extreme”, a spus Hinton.

„Spun adesea că există o probabilitate de 10-20% ca IA să ne distrugă. Dar este doar o intuiție, bazată pe ideea că noi încă le construim și suntem destul de ingenioși. Speranța este că, dacă suficienți oameni inteligenți vor face suficiente cercetări cu suficiente resurse, vom găsi o modalitate de a le construi astfel încât să nu vrea niciodată să ne facă rău.”

La conferința de la Las Vegas de luna trecută, Hinton a oferit o idee nouă pentru a atenua pericolul: în loc să încerce să forțeze sistemele de IA să se supună, cercetătorii ar fi indicat să le proiecteze cu „instincte materne”, astfel încât să dorească să protejeze oamenii chiar și pe măsură ce devin mai inteligente.

„Modelul corect este singurul model pe care îl avem pentru ceva mai inteligent controlat de ceva mai puțin inteligent, și anume o mamă controlată de copilul ei”, a spus Hinton la conferință.

„Vor fi mult mai inteligente decât noi”, a avertizat Hinton, adăugând că „singurul rezultat bun” este dacă vor avea grijă de umanitate așa cum o mamă are grijă de copilul ei.

„Dacă nu mă va crește, mă va înlocui.”

Citiți și:
Nimeni nu înțelege cu adevărat cum funcționează Inteligența Artificială
Fondatorul ChatGPT, Sam Altman, îi îndeamnă pe oameni să nu aibă încredere în inteligența artificială: Are halucinații!

 

yogaesoteric
5 septembrie 2025