Proiectul „Q-Star”, o amenințare la adresa umanității

Misterul din jurul scurtei demiteri a directorului general al OpenAI, Sam Altman, care între timp a fost repus în funcție, s-ar putea să se învârtă în jurul unui raport Reuters care sugerează că îndepărtarea lui Altman s-a datorat unei descoperiri în domeniul inteligenței generale artificiale (AGI), care ar putea amenința omenirea.

În zilele de dinaintea trimiterii lui Altman în exil, mai mulți cercetători din staff au scris o scrisoare către consiliul de administrație despre o descoperire semnificativă – numită Q* și pronunțată Q-Star – care a permis modelului de inteligență artificială să „depășească oamenii în cele mai multe sarcini valoroase din punct de vedere economic”.

Sursele Reuters au declarat că piatra de hotar a AI a fost unul dintre factorii semnificativi care au dus la concedierea bruscă a lui Altman de către consiliu, pe 17 noiembrie. O altă preocupare a fost comercializarea modelului avansat de inteligență artificială fără a înțelege consecințele socio-economice.

Sursa a precizat că modelul poate rezolva probleme de matematică, dar numai „la nivelul elevilor de școală primară, iar reușita la astfel de teste i-a făcut pe cercetători să fie foarte optimiști în privința viitorului succes al lui Q*”.

De asemenea, înainte ca Altman să fie concediat, este posibil să fi făcut referire la Q* la Conferința de Cooperare Economică Asia-Pacific din San Francisco:

„De patru ori în istoria OpenAI – cea mai recentă dată a fost chiar în ultimele două săptămâni – am reușit să mă aflu în sală, atunci când am cam împins vălul ignoranței înapoi și frontiera descoperirii înainte”, a spus Altman.

A ieșit la iveală un conflict intern la OpenAI, care își are rădăcinile într-o luptă ideologică între cei care militează pentru avansarea rapidă a IA și cei care susțin o abordare mai lentă și mai responsabilă a dezvoltării.

Reuters a vorbit cu un purtător de cuvânt al OpenAI, care a confirmat existența proiectului Q* și a scrisorii adresate consiliului de administrație înainte de concedierea lui Altman.

Așadar, de ce este Q* un progres?

Ei bine, după cum explică blogul de tehnologie 9to5Mac:

„În prezent, dacă îi cereți botului ChatGPT să rezolve o problemă de matematică, acesta va folosi în continuare abordarea sa predictivă de tip «text pe steroizi» de a compila un răspuns folosind o bază de date de text uriașă și de a decide, cuvânt cu cuvânt, cum ar răspunde un om. Asta înseamnă că poate sau nu să dea răspunsul corect, dar în orice caz nu are abilități matematice.

OpenAI pare să fi făcut o descoperire în acest domeniu, reușind să permită unui model de inteligență artificială să rezolve cu adevărat probleme matematice pe care nu le-a mai văzut până acum. Se spune că această evoluție este cunoscută sub numele de Q*. Din păcate, echipa nu a folosit un model de denumire suficient de inteligent pentru a evita ceva care arată ca un indicator către o notă de subsol, așa că voi folosi versiunea Q-Star.

Se spune că abilitatea matematică actuală a lui Q-Star este cea a unui elev de școală primară, dar se așteaptă ca respectiva abilitate să se îmbunătățească rapid.”

Această dezvoltare tehnologică ar putea fi unul dintre primele semne că AGI, o formă de inteligență artificială care poate depăși oamenii, este iminentă pentru comercializare.

AGI are potențialul de a depăși oamenii în toate domeniile, inclusiv în creativitate, rezolvarea problemelor, luarea deciziilor, înțelegerea limbajului etc., ceea ce ridică îngrijorări cu privire la o dislocare masivă a locurilor de muncă. Un raport recent al Goldman subliniază cum 300 de milioane de disponibilizări ar putea avea loc în lumea occidentală din cauza IA.

Descoperirea Q* și avansarea rapidă a acestei tehnologii dau acum sens motivului pentru care consiliul de administrație l-a concediat brusc pe Altman pentru graba sa de a dezvolta tehnologia fără a studia impactul modelului asupra modului în care amenință omenirea.

Altman a declarat recent: „Cred că aceasta este cea mai mare actualizare de până acum. Și poate cea mai mare pe care o vom avea. Acum oamenii acceptă că inteligența artificială este puternică și că vor exista actualizări progresive… A fost ceva ca în anul în care a apărut primul iPhone, iar apoi toată lumea l-a avut.”

Între timp, Musk, care a avertizat cu privire la amenințarea omenirii de către inteligența artificială, a calificat raportul Reuters drept „Extrem de îngrijorător”.

Adăugând acest tweet amuzant:

Q*Anon https://t.co/BaosFs4diz

— Elon Musk (@elonmusk) November 23, 2023

Să presupunem că AGI este aici (sau se apropie). Următorii doi ani vor fi sălbatici.

Citiți și:
Elon Musk avertizează că inteligența artificială ar putea provoca „distrugerea civilizației”: Odată ce AI „va deține controlul”, ar putea fi prea târziu pentru a stabili reglementări
„Opriți totul, oamenii vor muri!” Avertismentul unui reputat cercetător despre inteligența artificială

yogaesoteric
11 decembrie 2023