Trei cercetători de la Anthropic avertizează că inteligența artificială (IA) ar putea „ucide toți oamenii” în decurs de un deceniu

Trei cercetători de la Anthropic avertizează că tehnologiile bazate pe inteligență artificială (IA) pe care industria lor se grăbește să le construiască ar putea distruge umanitatea înainte de sfârșitul deceniului, potrivit Breitbart.

Axios relatează că Jacob Coxon a demisionat recent din funcția de cercetător IA la Anthropic. La scurt timp după ce s-a despărțit de companie, el a postat un avertisment pe X.

„Cei care construiesc IA cred cu tărie că ne-ar putea ucide pe toți până la sfârșitul deceniului. Aceasta nu este o cascadorie de marketing. Dimpotrivă, mulți directori și cercetători seniori își vor exprima opiniile în presă astfel încât să pară rezonabile. Totuși, aud aceiași oameni exprimându-și teama în privat. Nicio altă activitate umană nu prezintă acest nivel de pericol”, a scris Coxon.

Avertismentul lui Coxon, susținut de doi dintre foștii săi colegi de la Anthropic

Doi dintre foștii săi colegi l-au susținut în același fir de discuție. Evan Hubinger, care conduce departamentul de știință a alinierii la Anthropic, a scris:

„Jacob are dreptate aici – credem cu tărie că IA ar putea ucide toți oamenii! Personal, cred că va fi >10% în următorul deceniu. Cred că Anthropic face tot posibilul, dar nu avem încă un plan pentru a rezolva problema alinierii pentru superinteligență și nu suntem în mod clar pe drumul cel bun”, a scris el.

„Dezvoltatorii de IA cred că tehnologia lor ar putea provoca dispariția umană (sau rezultate similare). Aceasta s-ar putea petrece în următorii câțiva ani. În general, cu cât angajatul are o vechime mai mare, cu atât este mai îngrijorat”, a precizat și Samuel Marks, responsabilul de supraveghere scalabilă la Anthropic.

Cercetătorii șefi de la OpenAI au transmis mesaje similare

De curând, șeful științific al OpenAI, Jakub Pachocki, a publicat un eseu pe site-ul companiei în care avertizează că niciun laborator de inteligență artificială (IA) nu a făcut suficiente eforturi în ceea ce privește alinierea și monitorizarea pentru a justifica continuarea scalării sistemelor la viteză maximă. Între timp, OpenAI tocmai a lansat cel mai puternic model de inteligență artificială de până acum, a transmis Breitbart.

În eseu, Pachocki susține că încetinirile voluntare vor deveni probabil comune în întreaga industrie până când vor fi stabilite standarde de siguranță comune.

„Acesta este un moment care necesită prudență extremă”, a scris el.

„Sunt îngrijorat că nimeni nu este pregătit pentru consecințele unei creșteri rapide continue a inteligenței artificiale”, a mai scris Pachocki.

Citiți și:
Inteligența artificială și controlul de la distanță al creierului uman: Îți vei pierde libertatea de gândire și nici măcar nu-ți vei da seama
FMI avertizează asupra amenințărilor „inevitabile” generate de inteligența artificială la adresa sistemului financiar global

yogaesoteric
14 septembrie 2026