De la „Turcul mecanic” la inteligența artificială. Tehnologia deformează realitatea?

În secolul al XVIII-lea, o mașină de jucat șah, cunoscută sub numele de „Turcul mecanic”, a fost expusă în întreaga lume, uimind publicul cu abilitatea sa de a învinge jucători experimentați și șefi de stat precum Napoleon Bonaparte.

Ani mai târziu, s-a aflat că extraordinarele performanțe ale mașinii erau posibile doar pentru că în interiorul acesteia se ascundea un om care făcea toate mișcările.

Astăzi, un fenomen similar se petrece în culisele dezvoltării inteligenței artificiale: oamenii etichetează o mare parte din datele utilizate pentru a antrena modelele de IA, ceea ce înseamnă că mașinăria noastră modernă nu este atât de complet automatizată pe cât credem.

Cu toate acestea, notează Bloomberg, acum vine o întorsătură de situație: sistemele de inteligență artificială pot produce conținut atât de asemănător cu cel uman, încât unii dintre acei oameni din spatele scenei antrenează noua IA cu vechea IA.

Un nou studiu realizat de cadrele universitare de la Institutul Federal Elvețian de Tehnologie Lausanne (EPFL) sugerează că lucrătorii de pe Amazon Mechanical Turk ‒ o platformă de locuri de muncă de tip crowdsourcing numită după originalul Turk mecanic – au început să folosească ChatGPT și alte modele lingvistice de mari dimensiuni pentru a-și automatiza munca.

„Turkerii” își pot crește încasările orare de la 3 dolari la aproximativ 30 de dolari dacă folosesc software specializat pentru a-și accelera sarcinile. Totuși, problema cu utilizarea ChatGPT este că nu doar raționalizează munca, ci o și face.

Există mai multe implicații. De exemplu, acest comportament are un impact asupra celor aproximativ 250.000 de persoane, majoritatea din SUA, care se estimează că lucrează pe platforma MTurk. „Lucrătorii escroci pot exploata pur și simplu întregul sistem”, spune Sherry Stanley, care a lucrat pe MTurk timp de peste șapte ani. „Iar apoi, lucrătorii buni sunt cei care suferă consecințele”.

Companiile care angajează Turkers îi plătesc pe aceștia în funcție de numărul de sarcini pe care le îndeplinesc și de calitatea muncii lor. Dacă unii produc munca mai repede datorită unui software care le imită abilitățile umane, aceasta pune o presiune mai mare asupra lucrătorilor MTurk pentru a-și crește viteza și producția în general, lucru pe care probabil că îl vor experimenta și alți profesioniști în contextul apariției inteligenței artificiale generative.

O altă consecință este reprezentată de rezultatele distorsionate pentru cercetătorii universitari care folosesc MTurk pentru a efectua studii și pentru companiile care angajează turkeri pentru a ajuta la antrenarea sistemelor de inteligență artificială. Dacă în aceste procese intră mai puțină contribuție umană, atunci algoritmii și studiile științifice care folosesc crowdsourcing vor obține o reflectare mai deformată a realității.

Dacă tot mai mulți lucrători folosesc ChatGTP, aceștia vor contribui, de asemenea, la creșterea conținutului sintetic derivat din inteligența artificială care ajunge pe web.

Modelele lingvistice mari dezvoltate de companii precum OpenAI și Google sunt pregătite să joace un rol mai mare în așa-numitul nostru ecosistem informațional, adăugându-se la cantitățile tot mai mari de date sintetice pe care companiile le produc pentru a învăța modelele de inteligență artificială.

Între roboții de pe Twitter și anunțurile generate de inteligența artificială, este din ce în ce mai greu să găsești pe internet conținut care să provină de la oameni reali, vii. Această schimbare amenință să consolideze prejudecățile despre care se știe că au fost integrate în unele modele de limbaj și sisteme de inteligență artificială.

Cu alte cuvinte, dacă sistemele de inteligență artificială părtinitoare antrenează alte sisteme de inteligență artificială, ne vom trezi prinși într-o buclă de informații dubioase ale căror origini devin din ce în ce mai greu de descifrat.

Oamenii care lucrează în culisele inteligenței artificiale fac parte integrantă din dezvoltarea acesteia, dar ar fi bine dacă ar putea rămâne umani cât mai mult timp posibil.

Citiți și:
„Nașul Inteligenței Artificiale”, Geoffrey Hinton, părăsește Google și avertizează asupra pericolelor din spatele tehnologiei care imită inteligența umană
ONU transmite că Inteligenţa Artificială (AI) afectează drepturile omului. La ce este necesar să fie atentă toată lumea…

yogaesoteric
22 iulie 2023