CEO-ul OpenAI: Inteligența Artificială poate învăța „persuasiunea la un nivel supraomenesc”, astfel încât să preia controlul asupra conștiințelor noastre
Probabil mai este încă drum foarte lung până la a construi inteligența artificială generală (AGI) sau o IA care să aibă funcție cognitivă precum cea a oamenilor. Dar, indiferent dacă un astfel de viitor se va concretiza sau nu, CEO-ul OpenAI, Sam Altman, ne avertizează: IA nu e necesar să fie inteligentă la nivel de AGI pentru a putea prelua controlul asupra conștiinței umane obișnuite, relatează futurism.com.
„Mă aștept ca inteligența artificială să fie capabilă de persuasiune supraomenească cu mult înainte de a deveni supraomenească la nivel de inteligență generală”, a scris Altman pe Twitter, adăugând că asta „poate duce la rezultate foarte ciudate”.
Deși Altman nu a explicat care ar putea fi aceste rezultate, nu este o predicție exagerată. Chatbot-urile IA orientate către utilizatori, cum sunt ChatGPT de la OpenAI, sunt concepute pentru a purta dialoguri și au devenit surprinzător de convingătoare, chiar dacă uneori pot să nu prezinte corect anumite aspecte.
În același timp, este adevărat că unii oameni încep deja să formeze conexiuni emoționale cu diverși chatboți, ceea ce îi face pe aceștia din urmă să sune și mai convingător.
Nu este greu să ne imaginăm un scenariu în care o ființă rău intenționată s-ar putea folosi de unul dintre oamenii mai influențabili și l-ar putea convinge, prin intermediul unui chatbot IA, să comită ceva rău. Merită, de asemenea, subliniat cât de vulnerabil poate fi utilizatorul mediu de internet la diferite escrocherii digitale și la dezinformare. Dacă IA este introdusă în joc, actorii răuvoitori au la dispoziție un instrument extrem de convingător cu care să amăgească masele.
Nu e de ajuns să ne îngrijorăm doar cu privire la cazurile evidente de abuz. Tehnologia este profund integrată în viața de zi cu zi a majorității oamenilor și, chiar dacă nu există o legătură emoțională sau romantică între un om și un bot, oamenii deja acordă IA multă încredere.
Citiți și:
Microsoft vrea să construiască o „Superinteligență Artificială” și pompează bani fără număr către OpenAI. Chat GPT a fost doar „deschiderea”!
Inteligența artificială, capitalism de supraveghere
yogaesoteric
16 ianuarie 2024