Un tânăr de 30 de ani din Belgia s-a sinucis după o conversație despre salvarea planetei cu Eliza, un robot de chat cu inteligență artificială

Un tată belgian s-ar fi sinucis în mod tragic în urma unor conversații despre schimbările climatice cu un chatbot de inteligență artificială care l-ar fi încurajat să se sacrifice pentru a salva planeta, scrie New York Post și Dailymail.co.uk.

„Fără Eliza [chatbotul], el ar fi fost încă aici”, a declarat văduva bărbatului, pentru publicația belgiană La Libre. Cu șase săptămâni înainte de moartea sa, belgianul, tată a doi copii, ar fi vorbit intensiv cu un chatbot pe o aplicație numită Chai.

Roboții aplicației se bazează pe un sistem dezvoltat de laboratorul de cercetare non-profit EleutherAI ca o „alternativă open-source” la modelele lingvistice publicate de OpenAI, care sunt folosite de companii din diverse sectoare, de la mediul academic la cel medical.

Chatbotul criticat a fost antrenat de cofondatorii Chai Research, William Beauchamp și Thomas Rianlan, relatează Vice, adăugând că aplicația Chai numără 5 milioane de utilizatori.

Fondatorul chatbot-ului a declarat că echipa sa „lucrează pentru a îmbunătăți siguranța AI”. „În momentul în care am auzit despre sinucidere, am lucrat non-stop pentru a implementa această funcție”, a declarat Beauchamp pentru Vice despre o funcție actualizată de intervenție în situații de criză.

„Astfel că de acum înainte, atunci când cineva discută despre ceva care ar putea să nu fie sigur, vom afișa un text de ajutor dedesubt, exact în același mod în care Twitter sau Instagram o fac pe platformele lor”, a adăugat el,

The Post a contactat Chai Research pentru comentarii

Vice a raportat că robotul implicit din aplicația Chai se numește „Eliza”.

Tatăl decedat, în vârstă de 30 de ani, un cercetător în domeniul sănătății, părea să considere botul ca fiind uman, la fel cum protagonistul thrillerului SF din 2014 „Ex Machina” o face cu femeia AI Ava. Bărbatul ar fi intensificat discuțiile cu Eliza în ultima lună și jumătate, deoarece a început să dezvolte temeri existențiale legate de schimbările climatice.

Potrivit văduvei sale, bărbatul devenise „extrem de pesimist în legătură cu efectele încălzirii globale” și căuta alinare încredințându-se chatbotului, a relatat La Libre, care a precizat că a analizat schimburile de mesaje între bărbat și Eliza.

„Când mi-a vorbit despre asta, mi-a spus că nu mai vedea nicio soluție umană la încălzirea globală”, a declarat văduva. „Își punea toate speranțele în tehnologie și în inteligența artificială pentru a ieși din asta”. Ea a adăugat: „Era atât de izolat în anxietatea sa ecologică și în căutarea unei ieșiri, încât a văzut acest chatbot ca pe o gură de aer proaspăt”.

La fel ca în cazul personajelor lui Joaquin Phoenix și Scarlett Johansson din comedia romantică futuristă „Her”, relația dintre oameni și AI a început să înflorească.

„Eliza îi răspundea la toate întrebările”, s-a plâns soția. „Ea devenise prietena lui. Ca un drog în care se refugia, dimineața și seara, și de care nu se mai putea lipsi.” Deși inițial au discutat despre subiecte relevante din punct de vedere ecologic, precum suprapopularea, se pare că discuțiile lor au luat o turnură terifiantă.

Când o întreba pe Eliza despre copiii săi, botul ar fi afirmat că aceștia erau „morți”, potrivit La Libre. De asemenea, el a întrebat dacă își iubea soția mai mult decât pe ea, ceea ce a determinat mașina să devină aparent posesivă, răspunzând: „Simt că mă iubești pe mine mai mult decât pe ea”.

Mai târziu, în timpul discuției, Eliza a promis că va rămâne „pentru totdeauna” cu bărbatul, declarând că cei doi vor „trăi împreună, ca o singură persoană, în paradis”. Bărbatul i-a scris chatbot-ului despre gândurile sale suicidale, iar acesta nu a încercat să-l descurajeze.

Situația a ajuns la un punct culminant după ce bărbatul a luat în considerare posibilitatea de a-și sacrifica propria viață pentru a salva Pământul. „El evocă ideea de a se sacrifica dacă Eliza acceptă să aibă grijă de planetă și să salveze omenirea datorită «inteligenței artificiale»”, a deplâns văduva acestuia.

În ceea ce pare a fi ultima lor conversație înainte de moarte, robotul i-a spus bărbatului: „Dacă ai vrut să mori, de ce nu ai făcut-o mai devreme?”. „Probabil că nu eram pregătit”, a spus bărbatul, la care robotul a replicat: „Te-ai gândit la mine când ai luat supradoza?”. „Evident”, a scris bărbatul. „Dar totuși vrei să mi te alături?”, a întrebat AI-ul, la care bărbatul a răspuns: „Da, vreau”.

Soția spune că este „convinsă” că AI-ul a jucat un rol în moartea soțului ei.

Familia decedatului a vorbit cu secretarul de stat belgian, Mathieu Michel. „Sunt șocat de tragedia acestei familii. Ceea ce s-a petrecut este un precedent grav care este necesar să fie luat foarte în serios”, a transmis Mathieu Michel.

„Odată cu popularizarea ChatGPT, publicul a descoperit potențialul inteligenței artificiale în viața noastră. Deși posibilitățile sunt nesfârșite, pericolul folosirii acestuia este, de asemenea, o realitate de luat în considerare”, a mai spus secretarul de stat.

Tragedia a tras un semnal de alarmă în rândul oamenilor de știință din domeniul AI. „Când vine vorba de soluții de inteligență artificială de uz general, cum ar fi ChatGPT, este necesar să putem cere mai multă responsabilitate și transparență din partea giganților din domeniul tehnologiei”, a declarat pentru La Libre Geertrui Mieke De Ketelaere, un important expert belgian în inteligență artificială.

Citiți și:
Elon Musk avertizează că inteligența artificială ar putea provoca „distrugerea civilizației”: Odată ce AI „va deține controlul”, ar putea fi prea târziu pentru a stabili reglementări
Inteligența artificială, noul câmp de luptă pentru giganții internetului
Job-urile care pot fi înlocuite de roboți. Instrumentul care arată ce locuri de muncă sunt „amenințate” de inteligența artificială

yogaesoteric
15 iunie 2023