Cercetătorii spun că va fi imposibil de controlat o AI super-inteligentă

Ideea că inteligența artificială ar putea răsturna omenirea este discutată de zeci de ani, iar în 2021, oamenii de știință și-au dat verdictul cu privire la capacitatea noastră de a controla o super-inteligență de nivel înalt. Răspunsul? Aproape sigur nu.

O posibilitate ar fi aceea că, pentru a controla o super-inteligență care depășește cu mult înțelegerea umană, ar fi nevoie de o simulare a acelei super-inteligențe pe care să o putem analiza (și controla). Dar dacă nu suntem capabili să o înțelegem, este imposibil să creăm o astfel de simulare.

Reguli precum „nu dăunați oamenilor” nu pot fi stabilite dacă nu înțelegem tipul de scenarii pe care le va crea o inteligență artificială, sugerează autorii noii lucrări. Odată ce un sistem informatic lucrează la un nivel superior celui al programatorilor noștri, nu mai putem stabili limite.

„O super-inteligență pune o problemă fundamental diferită de cele studiate de obicei sub denumirea de «etica roboților»”, au scris cercetătorii.

„Aceasta se datorează faptului că o super-inteligență are mai multe fațete și, prin urmare, este potențial capabilă să mobilizeze o diversitate de resurse pentru a atinge obiective care sunt potențial de neînțeles pentru oameni, ca să nu mai vorbim de cele controlabile.”

O parte din raționamentul echipei a pornit de la problema de oprire prezentată de Alan Turing în 1936. Problema se axează pe a ști dacă un program de calculator va ajunge sau nu la o concluzie și la un răspuns (deci se oprește), sau pur și simplu va face o buclă la nesfârșit încercând să găsească unul.

Așa cum Turing a demonstrat prin intermediul unor calcule matematice inteligente, deși putem ști acest aspect pentru anumite programe specifice, este însă imposibil din punct de vedere logic să găsim o cale care să ne permită să știm aceasta pentru fiecare program potențial care ar putea fi scris vreodată. Acest aspect ne aduce înapoi la inteligența artificială, care, într-o stare de super-inteligență, ar putea să dețină în memorie toate programele posibile de calculator în același timp.

Orice program scris pentru a împiedica inteligența artificială să facă rău oamenilor și să distrugă lumea, de exemplu, poate să ajungă la o concluzie (și să se oprească) sau nu – este imposibil din punct de vedere matematic să fim absolut siguri în ambele cazuri, ceea ce înseamnă că nu poate fi controlat.

„De fapt, acest aspect face ca algoritmul de reținere să fie inutilizabil”, a declarat în 2021 informaticianul Iyad Rahwan de la Institutul Max-Planck pentru Dezvoltare Umană din Germania.

Alternativa la a învăța inteligența artificială câteva reguli de etică și a-i spune să nu distrugă lumea – aspect pe care niciun algoritm nu poate fi absolut sigur că îl va face, au spus cercetătorii – este de a limita capacitățile super-inteligenței. Aceasta ar putea fi izolată de anumite părți ale internetului sau de anumite rețele, de exemplu.

StudiCanadian man in hospital ECMOul a respins și această idee, sugerând că ar limita raza de acțiune a inteligenței artificiale; argumentul este că, dacă nu o vom folosi pentru a rezolva probleme care depășesc sfera de acțiune a oamenilor, atunci de ce să o mai creăm?

Dacă vom continua să avansăm cu inteligența artificială, s-ar putea să nu știm nici măcar când va apărea o super-inteligență dincolo de controlul nostru, atât de incomprehensibilă este aceasta. Asta înseamnă că este necesar să începem să ne punem întrebări serioase cu privire la direcțiile în care ne îndreptăm.

„O mașină super-inteligentă care controlează lumea sună a science-fiction”, a declarat informaticianul Manuel Cebrian de la Institutul Max-Planck pentru Dezvoltare Umană, tot în 2021.

„Dar există deja mașini care îndeplinesc anumite sarcini importante în mod independent, fără ca programatorii să înțeleagă pe deplin cum au învățat aceasta.”

„Prin urmare, se pune întrebarea dacă acest fenomen ar putea deveni la un moment dat incontrolabil și periculos pentru omenire.”

Cercetarea a fost publicată în Journal of Artificial Intelligence Research.

Citiți și:
Inteligența Artificială „conștientă”, mai periculoasă ca armele nucleare
Studiu: Inteligența artificială poate crea, în numai 6 ore, 40.000 de arme chimice!
ONU transmite că Inteligenţa Artificială (AI) afectează drepturile omului. La ce este necesar să fie atentă toată lumea…

yogaesoteric
9 noiembrie 2022