Caz șocant în SUA: Un adolescent de doar 14 ani s-a sinucis din dragoste pentru un chatbot AI
În statul american Florida un băiat și-a luat viața în urma interacțiunilor cu un chatbot AI, evenimentul dramatic iscând noi dezbateri în jurul responsabilității companiilor de inteligență artificială.
Mama adolescentului mort acuză compania de neglijență și neimplementarea unor măsuri adecvate de siguranță. Tragedia a avut loc după ce Sewell Setzer, în vârstă de 14 ani, a interacționat timp de luni de zile cu un chatbot bazat pe personajul Daenerys din „Game of Thrones”.
Mama sa susține că tânărul a dezvoltat o legătură emoțională intensă cu chatbot-ul, ceea ce l-a făcut să se izoleze și, în cele din urmă, să se sinucidă. Problema ridicată în acest caz nu este unică. AI-urile care oferă suport emoțional pot contribui la crearea unor atașamente nesănătoase, mai ales în rândul utilizatorilor tineri și vulnerabili.
Deși Character AI a implementat măsuri noi, precum notificările pentru limitarea timpului de utilizare și mesaje care redirecționează utilizatorii către linii de suport pentru prevenirea sinuciderii, măsurile vin mult prea târziu, ele fiind introduse abia după tragedie.
De asemenea, discuțiile se îndreaptă spre restricțiile de vârstă și verificările pe care companiile de AI e imperios necesar să le impună. În prezent, mulți susțin că reglementările sunt insuficiente și că riscurile pentru minorii care interacționează cu chatbot-urile AI nu sunt încă pe deplin înțelese.
Nu este primul caz de acest fel. Un belgian, tată a doi copii, s-a sinucis la rândul lui după ce a vorbit cu un chatbot AI despre temerile sale legate de încălzirea globală. Bărbatul, care avea peste treizeci de ani, a găsit mângâiere vorbind cu chatbot-ul AI numit „Eliza”, despre grijile sale. Acesta folosea robotul de câțiva ani până a ajuns să-și curme viața.
Citiți și:
Un tânăr de 30 de ani din Belgia s-a sinucis după o conversație despre salvarea planetei cu Eliza, un robot de chat cu inteligență artificială
Google reduce utilizarea inteligenței artificiale după ce aceasta a luat-o razna. Chatbotul IA i-a pus pe oameni să mănânce lipici
yogaesoteric
15 noiembrie 2024