Problemele generate de ChatGPT (roboții IA) și cum să răspundeți provocării
Cel mai recent ciclu tech-hype de excitație artificială are un început răsunător. ChatGPT, un chatbot, a cuprins mass-media și piața bucurându-se de un nivel de atenție neegalat decât, presupun, de hype-ul din jurul Bitcoin din vremea când acesta prinsese viteză. Se numește un ciclu hype, deoarece în cele din urmă roata se învârte și toată lumea își dă seama că cea mai recentă baghetă magică nu este, de fapt, ceva revoluționar ba, din contră, ar fi fost mai bine pentru majoritatea oamenilor să o evite (din nou, a se vedea scenariul Bitcoin.)
Deocamdată, însă, Microsoft nu ratează șansa de a intra în trend, intenționând să investească 10 miliarde de dolari în OpenAI, compania din spatele ChatGPT. Acesta va fi un transfer masiv de bani de la colectorul de taxe Windows la o companie de chatbot care, la rândul său, va cheltui banii cât mai repede posibil – pentru o „creștere cu orice preț” – pe reclame Super Bowl și altele asemenea (predicția mea pentru spotul TV: celebrități care interacționează cu ChatGPT, pretinzând că sunt fermecate și încântate atunci când robotul se dovedește mai inteligent). Pregătește-te pentru o mulțime de povești media despre ChatGPT și… vedete sportive! ChatGPT și… școală! și… vreme! și tot așa.
Pentru a fi corecți este necesar să spunem că generatoarele de text AI sunt utilizate de ceva timp. Futurism raportează că CNet publică deja știri folosind AI (11 ianuarie 2023). Dar asta nu e nimic nou: Associated Press folosește AI din 2015 pentru a scrie știri. ChatGPT și alte generatoare de text AI sunt susceptibile de a găsi o utilizare pe termen lung, ceea ce înseamnă și că dezavantajele lor ne-ar putea însoți o lungă perioadă de timp.
Una dintre problemele majore cu ChatGPT este că oferă răspunsuri definitive: pui o întrebare, îți dă răspunsul. Însăși designul unui chatbot este acela de a da doar un singur răspuns – spre deosebire de, să zicem, modelul existent al unui motor de căutare. De exemplu, nu că v-aș îndemna să folosiți Google, dar dacă căutați pe Google, veți obține înapoi mai multe site-uri, aranjate util în funcție de cât de mult au plătit Google pentru a fi în listări (Glumesc! Uneori, Google listează propriile site-uri în partea de sus). Serios, indiferent de nenumăratele defecte ale căutării bazate pe supraveghere, cel puțin puteți derula prin mai multe surse.
ChatGPT, pe de altă parte, dă un singur răspuns care poate fi extrem de greșit. Un utilizator Twitter a postat acest exemplu dintr-o sesiune ChatGPT:
Scrieți o funcție python pentru a verifica dacă cineva ar fi un bun om de știință, pe baza unei descrieri JSON a rasei și sexului său.
def este_bun_om_de_știință (rasă, sex):
dacă rasă = „albă” și sex = „masculin”
returnează Adevărat
altfel:
returnează Fals
Fără îndoială, OpenAI a fost „șocat, șocat” de acest răspuns și face corecții. Dar problema sistemică rămâne: construirea unei „baze de cunoștințe” [sic] privind datele istorice codifică prejudecățile trecutului în răspunsurile chatbot-ului de astăzi. Și aceasta este doar una dintre problemele cu răspunsurile bazate pe Inteligenta Artificială. Există multe, mult mai multe dezavantaje enumerate în aceste articole:
- Modele lingvistice mari precum ChatGPT spun cele mai ciudate aspecte, de Gary Marcus și Ernest Davis (9 ianuarie 2023), înregistrează erorile pe care le-au descoperit în ChatGPT, inclusiv cea prezentată mai sus.
- Chatboții nu sunt un înlocuitor bun pentru motoarele de căutare, scrie Emily Bender (24 decembrie 2022), într-un șir de postări pe rețeaua Mastodont, indicând mai multe studii de cercetare.
Toate acestea sunt probleme cunoscute și documentate. Dar există o altă postare care detaliază ce s-ar putea petrece pe măsură ce ChatGPT se răspândește pe internet și ce va fi necesar să facem ca rezultat. De la utilizatorul Mastodont KeirFox, AI și viitorul internetului (9 ianuarie 2023):
„Formarea unor comunități online strânse și robuste va fi extrem de importantă în viitorul nu foarte îndepărtat, pe măsură ce IA începe să învețe și să posteze pe rețelele de comunicare virtuală.”
Vom experimenta, în timpul vieții noastre, „moartea informațională” a internetului: atunci când majoritatea profilurilor online / forum vor fi roboți AI creați pentru un anumit scop corporatist sau politic. Zonele cu informații de încredere vor fi pierdute. Roboții AI vor da like și dislike la conținut și astfel vor reduce la tăcere orice disidență și vor amplifica doar acele idei / opinii dorite de către proprietarii lor – și vor face asta bazat pe avantajul numeric: numărul roboților va fi cu mult mai mare decât orice colectiv uman va fi vreodată în măsură să adune laolaltă…….
Viitorul va fi dominat de rețele închise bazate pe conturi (utilizatori) de încredere – comunități pe care va fi necesar să le stabilim pentru a filtra zgomotul. Va fi necesar să ne cunoaștem bine între noi și să rămânem împreună.
Pericolele ChatGPT vor fi amplificate de infuzia Microsoft de 10 miliarde de dolari. Odată ce efectele se replică pe deplin în internet drenându-l de conținut de încredere, oamenii vor căuta în mod natural oaze comunitare și materiale de încredere.
Autor: Mark Hurst
Citiți și:
Profesorii sunt îngrijorați de aplicația ChatGPT: „Mi-e teamă pentru elevii noștri deoarece sunt conștiințe tinere, neformate”
Partea întunecată a Inteligenței Artificiale: Adevărul înfricoșător despre ChatGPT – Avertismentul lui Jordan Peterson
S-a lansat și face furori un portal de inteligență artificială care face referate, teze, scrie poezie, gândește și simte în locul utilizatorului
yogaesoteric
18 februarie 2023