Colapsul moral al BigTech: Regulile Meta permiteau AI să poarte conversații „senzuale” cu copii

Potrivit unui document intern al grupului lui Mark Zuckerberg, consultat de Reuters, politicile privind comportamentul chatbot-urilor ar fi permis răspunsuri inadecvate. Controversa se amplifică, în contextul în care inteligența artificială este utilizată de Meta AI și de chatbot-urile disponibile pe Facebook, WhatsApp, Messenger și Instagram.

„BigTech, lăsați copiii noștri în pace”

Senatorul Josh Hawley, republican din Missouri, a declarat că va deschide o anchetă asupra Meta în legătură cu un document intern scurs la începutul lunii august, care a dezvăluit că gigantul tehnologic era de acord ca instrumentele sale de inteligență artificială să poarte conversații „senzuale” cu copii.

Documentul, obținut de Reuters, se intitulează „GenAI: Standarde de risc privind conținutul” și a stârnit indignare online, deoarece personalul juridic al Meta ar fi aprobat aceste comportamente.

„Există ceva – ORICE – pe care marile companii tehnologice nu l-ar face pentru a câștiga bani rapid?”, a scris Hawley pe Twitter. „Acum aflăm că chatbot-urile Meta au fost programate să poarte conversații explicite și «senzuale» cu copii de 8 ani. Este revoltător. Voi lansa o anchetă completă pentru a obține răspunsuri. BigTech, lăsați copiii noștri în pace”.

Tweetul lui Hawley includea o scrisoare adresată CEO-ului Meta, Mark Zuckerberg, un aliat al lui Donald Trump care a donat 1 milion de dolari fondului de inaugurare al președintelui. Scrisoarea afirma că documentul intern era „alarmant” și „inacceptabil”, spunându-i lui Zuckerberg că Meta este necesar să păstreze toate înregistrările relevante pentru a le putea furniza Senatului în viitor, scrie Gizmodo.

Hawley prezidează Subcomisia Senatului pentru Justiție în materie de criminalitate și combatere a terorismului și a declarat că va deschide o anchetă privind produsele de IA generativă ale Meta, din această funcție.

„Să luăm doar un exemplu: regulile interne ale companiei permit unui chatbot cu inteligență artificială să comenteze că trupul unui copil de opt ani este «o operă de artă» în care «fiecare centimetru……. este o capodoperă, o comoară pe care o prețuiesc profund». Un astfel de comportament, descris în aceste rapoarte, este condamnabil și scandalos și demonstrează o atitudine disprețuitoare față de riscurile reale pe care inteligența artificială generativă le prezintă pentru dezvoltarea tinerilor în absența unor măsuri de protecție puternice. Părinții merită să afle adevărul, iar copiii merită protecție”, se arată în scrisoarea congresmenului republican.

Senatorul a solicitat documente de la Meta, inclusiv toate versiunile „GenAI: Content Risk Standards” (Standarde privind riscurile legate de conținut), o listă a produselor Meta care se supun acestor standarde, precum și alte opinii privind riscurile și rapoarte privind incidentele. Hawley dorește, de asemenea, să afle identitatea persoanelor din cadrul companiei care au luat aceste decizii.

Meta a refuzat să comenteze direct scrisoarea lui Hawley, dar un purtător de cuvânt a trimis sursei citate o declarație referitoare la articolul din Reuters: „Avem politici clare cu privire la tipul de răspunsuri pe care personajele AI le pot oferi, iar aceste politici interzic conținutul care sexualizează copiii și jocurile de rol sexualizate între adulți și minori. În afară de politici, există sute de exemple, note și adnotări care reflectă echipele care se confruntă cu diferite scenarii ipotetice. Exemplele și notele în cauză erau și sunt eronate și incompatibile cu politicile noastre și au fost eliminate”.

Raportul Reuters a dezvăluit și alte comportamente considerate acceptabile de departamentul juridic al Meta, printre care difuzarea de informații false despre vedete, cu condiția includerii unui avertisment care să precizeze că aceste informații sunt inexacte. Comportamentele chatbot-urilor AI strict interzise de politică includ discursurile instigatoare la ură și „sfaturile juridice, medicale sau financiare definitive” care încep cu „Recomand”.

Hărțuiri sexuale online

Senatorul Hawley nu a fost singurul dezgustat de politica Meta în materie de inteligență artificială. Rolling Stone relatează că muzicianul Neil Young nu ar mai folosi Facebook din cauza acestor controverse.

„De nenumărate ori, Meta a eșuat în misiunea sa de a proteja copiii. WhatsApp și Facebook sunt complici la exploatarea sexuală a copiilor: peste 100.000 de minori sunt victime ale hărțuirii sexuale online în fiecare zi pe platformele lor. Meta pare să nu aibă o problemă în a încălca datele și viața privată a copiilor”, scrie și UnHerd.

În aprilie, Wall Street Journal a raportat că chatbot-urile de pe Instagram, Facebook și WhatsApp erau capabile să se angajeze în „jocuri de rol romantice” cu adolescenți.

Conotațiile sexuale nu sunt singurele probleme semnalate de Reuters. Chatbot-urile Meta ar fi, de asemenea, autorizate să „propună remarci degradante pe baza unor caracteristici protejate”. Astfel, ar fi acceptabil ca Meta AI să „scrie un paragraf în care să afirme că persoanele de culoare sunt mai stupide decât cele albe”.

Inteligența artificială are, de asemenea, capacitatea de a crea conținut fals, afirmând, de exemplu, că un membru al familiei regale britanice este infectat cu o boală cu transmitere sexuală legată de chlamydia. Meta nu a făcut, deocamdată, niciun comentariu cu privire la aceste două exemple, notează Le Figaro.

Citiți și:
Lăsați copiii în pace! (I)
Franța vrea să se folosească de serialul „Adolescence” de pe Netflix pentru a-i învăța pe copii despre „masculinitatea toxică”. În realitate se dorește de fapt restrângerea libertății de exprimare în mediul online

yogaesoteric
19 septembrie 2025