ChatGPT poate provoca halucinații – Totuși, OpenAI dorește să îl facă disponibil pe scară largă pentru adolescenți și copii și pentru educație

Institutul american de cercetare a inteligenței artificiale OpenAI a făcut obiectul unei analize amănunțite în ceea ce privește manipularea datelor și teama că inteligența artificială ar putea dăuna societății.

OpenAI colaborează cu o organizație pentru siguranța copiilor pentru a crea orientări privind inteligența artificială (AI) și materiale educaționale pentru adolescenți și familii. Analiza survine în contextul în care compania din spatele ChatGPT se confruntă cu un control asupra manipulării datelor și cu teama că AI ar putea dăuna societății, relatează Rador Radio România, citat de Știripesurse.ro.

Colaborarea cu organizația nonprofit Common Sense Media, care evaluează dacă mass-media și tehnologia sunt adecvate pentru copii, a fost anunțată luni, 20 ianuarie, în cadrul unui eveniment organizat la San Francisco, în Statele Unite. „Vrem să ne dăm seama cum este necesar să facem ca acest instrument să fie sigur și responsabil și să fie disponibil pe scară largă pentru adolescenți și pentru persoanele care îl vor folosi ca parte a experienței lor educaționale”, a declarat Sam Altman, directorul general al OpenAI, în fața audienței.

Aplicația ChatGPT a primit reacții nefavorabile pentru că nu protejează minorii, deoarece nu există nicio modalitate de a verifica vârsta unui utilizator. De asemenea, aplicația este supusă unui control deoarece instrumentele sale pot provoca halucinații, în care sistemele de inteligență artificială inventează aspecte sau situații ori sunt părtinitoare din cauza datelor folosite.

Cu toate acestea, Sam Altman a respins ideea că AI nu ar fi indicată pentru copii și că instrumentele de AI ar fi necesar să fie ținute departe de școli. „Oamenii sunt utilizatori de instrumente și ar fi bine să-i învățăm pe oameni să folosească instrumentele care vor fi disponibile în lume”, a spus el și a adăugat că „a nu-i învăța pe oameni să le folosească ar fi o greșeală”. Common Sense Media a urmărit să dezvolte un sistem de evaluare a AI pentru părinți, copii și educatori.

Unii academicieni și-au exprimat îngrijorarea cu privire la modul în care chatbot-urile AI ar putea fi folosite pentru a scrie eseuri. Dar copiii și minorii folosesc, de asemenea, ChatGPT pentru a-i ajuta cu probleme personale. Potrivit unui sondaj realizat pentru ONG-ul Centre for Democracy and Technology, 29% dintre copiii și adolescenții din SUA au folosit ChatGPT pentru a primi ajutor în probleme de anxietate sau de sănătate psiho-emoțională, 22% pentru probleme cu prietenii și 16% pentru conflicte familiale.

Citiți și:
Antreprenorul din spatele ChatGPT nu se oprește: investește într-un proiect pentru a întârzia moartea
Inteligența artificială îi tâmpește pe angajații companiilor americane: au început să folosească ChatGPT pentru sarcini de bază

yogaesoteric
4 februarie 2024