Noua politică a Apocalipsei IA: CEO-ul Anthropic pare să se teamă cel mai mult de oameni și nu de roboți!

Primele săptămâni din 2026 au marcat o nouă modificare în narațiunile populare despre inteligența artificială. Spre sfârșitul anului trecut, persoane influente din domeniul inteligenței artificiale își exprimau scepticismul cu privire la direcția de cercetare, iar o bulă financiară devenise un subiect de discuție deschis, chiar și printre directorii executivi implicați. Curând, însă, actualizările unor modele majore aveau să modifice din nou atenția industriei: dintr-odată, erau mult mai bune la scrierea de software.

O mare parte din creșterea entuziasmului pentru codarea realizată de IA a fost determinată de Claude Code, un produs popular printre dezvoltatori și construit de Anthropic, o companie care a pariat de mult timp pe automatizarea industriei tehnologice ca modalitate de a face bani. Asta a însemnat atenție pentru Anthropic, dar și pentru co-fondatorul și CEO-ul său, Dario Amodei. Acum, avea microfonul industriei. Voia să vorbească despre Claude Code, sigur. Mai mult decât atât, însă, a vrut să vorbească despre cum crede că evoluția IA ar putea merge foarte, foarte prost.

Face asta des. În 2024, Amodei a publicat Mașini ale Grației Iubitoare, un eseu lung, prudent optimist și foarte citit despre posibilitățile a ceea ce el a numit „inteligență artificială puternică”, comparând implementarea acesteia cu o „țară a geniilor într-un centru de date” și argumentând că ar putea, cu mult efort, să fie valorificată pentru a obține „vindecarea majorității bolilor, creșterea libertății biologice și cognitive, scoaterea a miliarde de oameni din sărăcie pentru a beneficia de noile tehnologii, o renaștere a democrației liberale și a drepturilor omului”.

Scris parțial ca răspuns la percepțiile conform cărora Amodei era un „doomer” al inteligenței artificiale, eseul a fost o încercare de a schița rezultatele pe termen lung ale inteligenței artificiale dacă, așa cum scrie el, „totul merge bine”. În ciuda acestui obiectiv, Mașini este o scriere bântuită de amenințări și „risc”, atât în sensul general, cât și în cel mai specializat, centrat pe inteligența artificială, al cuvântului. De atunci, a petrecut mult timp la conferințe și la televizor vorbind despre China, despre perturbarea locurilor de muncă și, în general, despre a fi pregătit. De curând, a publicat o continuare a cărții Mașinile, intitulată Adolescența tehnologiei, care este intenționat o avertizare despre ce s-ar putea petrece pe drumul către prosperitate, prezentată ca un demers de a „confrunta chiar ritul de trecere” și de a sublinia „riscurile cu care ne vom confrunta”.

În ceea ce privește dezvoltarea și siguranța inteligenței artificiale, este provocator, interesant și, în esență, încă optimist, un set ambițios de premise îndrăznețe prezentate de cineva care le susține în mod convingător, dintr-o poziție de autoritate și ca reprezentant al momentului actual al industriei sale. Însă apelurile sale la acțiune sunt cu totul altceva: un manifest politic reticent, care poate părea profund în dezacord cu lumea din jur, o serie de „ar trebui” și „poate” pe jumătate convingătoare, care contrastează ciudat cu o descriere a progresului și siguranței IA plină de voințe și posibilități. Ca operă de ficțiune speculativă despre tehnologii extraordinare, greu de imaginat, ea prezintă un viitor ciudat, extrem, dar gestionabil. Ca îndemn privind ceea ce este necesar să fie făcut ca răspuns la astfel de tehnologii – și ca previzualizare a modului în care politica americană le-ar putea procesa – este cât se poate de sumbru.

Câteva avertismente și un pic de context aici: Amodei este liderul unei companii cu scop lucrativ, evaluată la aproximativ 350 de miliarde de dolari după o majorare de capital care s-a încheiat la începutul lunii ianuarie, așa că orice spune el este necesar să fie interpretat ținând cont de acest aspect. Anthropic s-a evidențiat de mult timp drept un laboratorul responsabil și a depus eforturi considerabile pentru a-și demonstra – și a face publică – dedicarea sa pentru atenuarea riscurilor și evitarea rezultatelor nedorite, adesea prin cercetări publicate și declarații publice ale lui Amodei și ale altor persoane. (Scrierile sale sunt clar influențate de mișcarea altruismului eficient, cu care Anthropic are multe legături.)

Amodei a făcut donații pentru cauze și candidați liberali, l-a criticat public pe Donald Trump și a menționat „ororile pe care le vedem în Minnesota” în introducerea sa la Adolescența pe X; la rândul său, el a fost catalogat de David Sacks, țarul IA al Casei Albe, ca făcând parte dintr-un grup de „stângiști convinși” și „pesimiști” care fie stau în calea progresului AI, fie încearcă să-l modeleze ideologic. Compania sa se află în prezent în conflict cu Departamentul Apărării, cu care are un contract, cu privire la modul în care pot fi utilizate modelele sale.

Dezbaterile de lungă durată dintre cercetători, raționaliști și lideri tehnologici au început să se sorteze – sau, mai precis, au fost sortate cu forța – într-un cadru partizan american nepotrivit, dar obligatoriu, în care Amodei (eseist AI) și poate Demis Hassabis de la DeepMind sunt asociați cu liberalismul.

Viziunea precaută a lui Amodei asupra viitorului poate fi descrisă ca fiind dublă. Pe de o parte, el explică ce ar fi necesar să facă companiile ca a sa ca răspuns la ceea ce construiesc celelalte companii. Pe de altă parte, el subliniază ce ar fi necesar să facă toți ceilalți pe măsură ce acest proces de neoprit se desfășoară. Oricât de reconfortantă ar fi prima poveste – unii critici consideră că el respinge prea categoric scenariile simple de tipul „IA ucide pe toată lumea” și că în prezent este din ce în ce mai greu să se determine care este punctul de mijloc al acestei discuții –, ea este complicată de argumentul său repetat, prezentat ca o observație, potrivit căruia încetinirea dezvoltării pur și simplu nu este și nu a fost niciodată o opțiune. („Dacă o companie nu dezvoltă IA, altele o vor face aproape la fel de repede. Dacă toate companiile din țările democratice ar opri sau ar încetini dezvoltarea IA, prin acord reciproc sau decret de reglementare, atunci țările autoritare ar continua pur și simplu.”) Dacă intrăm în lumea pe care o imaginează el, în care noile riscuri extreme pot fi abordate doar printr-o coordonare fără precedent între companii, autorități de reglementare și state, se pare că am pornit cu cel mai rău start posibil.

O problemă și mai mare este mediul politic și economic real în care se plasează Amodei, care planează asupra aproape fiecare propoziție din Adolescența care nu se referă la Anthropic în sine. Odată ce părăsim lumea teoretic terifiantă, dar retoric izolată, a schimbărilor și riscurilor tehnologice pure – construim ceva foarte puternic, dar nu vă faceți griji, putem să ne asigurăm că este util și moral – remediile propuse de Amodei pentru a face față consecințelor „IA puternice” și automatizării – într-un calendar pe care el îl stabilește înainte de 2028! – par o listă de anti-tendințe naționale și globale. Acestea includ coordonarea altruistă între marile companii; noblesse oblige ca politică; un stat social extins; cetățeni care „se unesc” pentru a respinge autocrația; „dezvoltarea rapidă a vaccinurilor” și purificatoare de aer universale într-o lume care încearcă să uite covid; și respingerea în masă a supravegherii într-o țară în care cetățenii nu pot cumpăra suficiente camere Ring, iar contractele de supraveghere guvernamentală sunt a doua categorie de start-up-uri ca popularitate, după IA. Se vorbește foarte mult despre „adversarii noștri” într-un moment în care categoria pare să fie în schimbare, iar „coaliția dintre SUA și aliații săi democrați” menită să „conțină” autocrațiile se luptă să se mențină unită. O modificare constituțională privind implementarea responsabilă a IA? Companiile de tehnologie, care în ultima vreme au pierdut mulți angajați doar pentru a investi mai mult în IA, păstrându-și angajații doar de dragul de a-i păstra? În această economie?

Este destul de dificil să știi cum să interpretezi un astfel de manifest al uneia dintre cele mai puternice figuri din domeniul tehnologiei. Este un precursor sobru și strategic al documentelor de politică pentru următoarea administrație? Cel mai mediatizat episod de psihoză IA de până acum? O lamentare asupra problemelor de astăzi scrisă în dialectul tehnologic al viitorului? Dacă elimini AI-ul, se citește ca o platformă electorală social-democrată plină de reforme și așteptări normative pe care un progresist american le-ar găsi atrăgătoare, asemănându-se cu o pledoarie pentru a trata acumularea viitoare de bogăție a industriei tehnologice ca pe ceva asemănător unui fond suveran nordic. De asemenea, poate fi interpretat ca o serie de argumente despre aspecte pe care „noi” ar fi fost necesar să începem să le abordăm cu mult timp în urmă, cum ar fi inegalitatea bogăției – parțial o consecință a automatizărilor în masă din trecut – sau construirea treptată a unui stat de supraveghere terifiant în cadrul unei democrații nominale, cu ajutorul ultimei generații de mari companii de tehnologie.

Ideile lui Amodei sunt, spre meritul său, mai sincere decât gesturile vagi ale unor colegi de-ai săi în ceea ce privește venitul universal de bază sau hiperabundența, dar este necesar să fie analizate cu atenție. În măsura în care poți percepe frica în Adolescența, aceasta nu pare să se învârtă în jurul teroriștilor care folosesc IA pentru a construi o „viață în oglindă” care ar putea distruge planeta sau al perspectivei ca „țara geniilor” să preia controlul, ci mai degrabă în jurul modului în care situația este deja și a evoluat de ani de zile.

Este o interpretare ciudată venind din partea liderului unei companii cu sediul într-o țară care este în proces de a face un ultim pas către demantelarea, pentru a alege un exemplu, a serviciilor de sănătate universale. O implicație importantă în Adolescența este că, deși America ar putea fi slab pregătită pentru o schimbare iminentă, iar factorii de decizie politică ar putea avea capul în nisip, o perturbare bruscă ar putea forța pe toată lumea să facă în sfârșit ceva – nu doar în legătură cu problemele noi care decurg din scenariile IA ale lui Amodei, ci și pentru a face față problemelor de lungă durată care vor fi în curând exacerbate de automatizarea accelerată și de pierderea puterii. Totuși, dacă dezvoltarea IA ar forța o astfel de confruntare, Adolescența nu argumentează prea mult că remediile pe care le susține – mai multă democrație, mai multă diplomație, mai multă cooperare și o plasă de siguranță mai mare – sunt cele care vor prevala, chiar dacă, așa cum sugerează Amodei, argumentele altruiste în favoarea, să zicem, unui stat social mai puternic ar putea părea brusc evidente pentru mai mulți oameni. Cu alte cuvinte: nu este evident din acest eseu – sau din istorie! – de ce un șoc exogen brusc (sau chiar unul mai gradual) ar favoriza cooperarea, deliberarea și expansiunea democratică, cel puțin nu fără multă durere mai întâi.

Un motiv subestimat pentru care tehnocentrismul este în vogă în Silicon Valley este că, la fel ca previziunile privind dezvoltarea IA în sine, indicatorii recenți par să se încadreze într-o curbă ascendentă.

Este posibil ca tocmai la aceasta să se refere Amodei, în timp ce își vede colegii din domeniul IA avansând fie cu o indiferență hiperbogată, fie cu o devotare din ce în ce mai deschisă față de ideile post-democratice, post-umane, care odată erau respinse drept discuții teoretice pe LessWrong. (Altman era un prepper înainte ca OpenAI să decoleze, când era doar bogat; Musk crede pur și simplu că ar trebui și că într-o zi ar putea conduce lumea.) Este cu siguranță ușor să observi o frustrare profundă că cronologia sa și cea a Anthropic se suprapun cu cea a lui Donald J. Trump. Dar, în timp ce pledează pentru reangajarea în democrația liberală ca răspuns la dezvoltarea tehnologică și împotriva tendințelor politice pe care le consideră deja îngrijorătoare, Amodei atrage atenția asupra vulnerabilității sale fundamentale. Adică, uite ce s-a petrecut deja! O economie de piață reglementată, cuibărită într-o democrație, este acum concentrată monomaniacal pe construirea unei mașini care să-i înlocuiască și să-i dezarmeze subiecții, iar unii dintre cei care îi mobilizează resursele ne spun simultan că ar putea fi un dezastru, dar că nu au de ales decât să continue să avanseze cât mai repede posibil. Vorbim despre un sistem care nu a reușit să controleze superinteligența înainte ca aceasta să existe. Viziunea lui Amodei despre oamenii care „se unesc” în cadrul structurilor politice existente în prezent nu pare să se potrivească prea bine cu ceea ce spune că încearcă să realizeze compania sa, chiar înainte ca aceasta să fi fost creată. (În Mașini, el recunoaște că „nu are motive întemeiate să creadă că IA va promova în mod preferențial sau structural democrația”. Citind Adolescența, rămânem cu îndoieli că vom afla vreodată răspunsul).

Dar poate că nu va fi așa: în numeroase scenarii plauzibile, cu excepția „țării geniilor într-un centru de date”, social-democrația cu caracteristici Silicon Valley pare a fi o propunere pentru Partidul Democrat post-Trump și industria tehnologică, un fel de revenire la scară mărită la relația confortabilă pe care au avut-o în anii Obama și un set rezonabil de obiective progresiste într-o lume în care inegalitatea crește, mai degrabă decât să explodeze, și în care noi forme de automatizare se răspândesc în economie, mai degrabă decât să o distrugă. De asemenea, într-o astfel de lume, este un răspuns rezonabil la strategia actualei administrații în materie de IA, care este dereglementată și profund indiferentă la externalități.

Dar nici măcar nu e nevoie să ajungi la jumătatea drumului către scenariile unei „IA puternică” pe care liderii din domeniul tehnologiei le promit investitorilor lor înainte ca regulile, reglementările și cooperarea să înceapă să pară, atât pentru publicul larg, cât și pentru elita anxioasă, inadecvate sarcinilor de îndeplinit (recâștigarea puterii, libertății sau prosperității și, respectiv, păstrarea puterii). Muncitorii sunt deja îngrijorați de tulburările din domeniul muncii, iar o perioadă de criză economică asociată cu IA ar fi una cu un vinovat clar. Combinați asta cu sentimentul că tehnologia este un instrument natural al autoritarismului – care, din nou, devine din ce în ce mai intuitiv în ultima vreme, chiar și pentru cetățenii din democrațiile liberale – și nu veți ajunge, evident, în genul de lume pe care el și-o imaginează.

În schimb, poate vă veți regăsi într-un loc mai familiar, cu o mulțime de oameni îngrijorați că sistemul, reprezentat acum de mașini cărora li s-au dat nume și personalități și care sunt deținute de un grup restrâns de oameni foarte bogați, a fost din nou manipulat împotriva lor. Aceasta este, de asemenea, o lume în care marile discuții naționale și internaționale despre „ce este de făcut” nu vor fi conduse de firmele de tehnologie – în măsura în care acestea participă la discuții și acțiuni politice, este mai probabil ca acestea să fie conduse împotriva lor, indiferent dacă s-au poziționat sau nu decent. În sensul imediat și superficial, politica IA este deja brutală, și asta înainte ca profețiile să se împlinească sau nu. Dacă sunteți la conducerea unei companii de IA, acest fapt ar putea fi un motiv de îngrijorare.

Citiţi şi:
Cât de des minte și cenzurează inteligența artificială?
Inteligența artificială ca sistem de operare al totalitarismului digital
Revolta tinerilor care refuză să utilizeze inteligența artificială

yogaesoteric
10 februarie 2026