Un raport comandat de Departamentul de Stat al SUA relevă faptul că Inteligența artificială (AI) poate genera „un pericol de extincție” pentru omenire

O analiză comandată de Departamentul de Stat al SUA în noiembrie 2022 avertizează că evoluția rapidă a inteligenței artificiale (AI – Artificial Intelligence) are potențialul de a deveni o reală și iminentă amenințare la adresa umanității și a securității naționale și globale, informează Qmagazine.

Raportul intitulat Un plan de acțiune pentru creșterea siguranței și securității inteligenței artificiale avansate este rezultatul analizării unor interviuri cu mai mult de 200 de persoane din domeniu, de-a lungul a peste un an, printre care s-au numărat manageri de conducere din companii de inteligență artificială (printre care OpenAI, Google DeepMind, Anthropic și Meta), cercetători în securitate cibernetică, experți în arme de distrugere în masă și oficiali însărcinați cu securitatea națională din cadrul guvernului. Autorii raportului au concluzionat că „există o nevoie reală și urgentă ca Guvernul Statelor Unite să intervină” în legătură cu riscurile aduse de dezvoltarea inteligenței artificiale.

Documentul, publicat recent de Gladstone AI (o companie ce furnizează guvernului informări tehnice în domeniul AI) concluzionează clar faptul că cele mai avansate sisteme de inteligență artificială existente actualmente ar putea, în cel mai rău scenariu, „să reprezinte o amenințare la nivel de extincție pentru specia umană”.

Departamentul de Stat al SUA a solicitat acest raport în cadrul analizelor sale constante referitoare la modul în care AI se aliniază obiectivului de protejare a intereselor Americii în interiorul granițelor și în lume, conform declarațiilor unui oficial.

Printre concluziile documentului se numără, pe de o parte, ideea că cele mai avansate sisteme de AI ar putea să devină arme cu efecte distructive ireversibile, iar pe de altă parte, că există îngrijorări reale în cadrul laboratoarelor de AI legate de faptul că, la un anumit moment, chiar cei care dezvoltă aceste sisteme ar putea pierde controlul asupra lor, ceea ce ar putea avea consecințe devastatoare asupra securității globale. De asemenea, susține raportul, există riscul declanșării unei „curse a înarmării cu AI” și a unor „accidente fatale de dimensiunea utilizării armelor de distrugere în masă”.

Raportul îndeamnă insistent la conștientizarea acestor pericole și luarea urgentă a unor măsuri care să le diminueze, spre exemplu, crearea unei noi agenții federale pentru AI, măsuri legislative urgente de protejare împotriva acestor riscuri precum și măsuri care să reglementeze și să limiteze capacitățile modelelor de inteligență artificială care pot fi dezvoltate. De asemenea, raportul recomandă ca guvernul să investească masiv în educarea angajaților săi referitor la inteligența artificială, pentru a fi mai informați asupra riscurilor.

Citiți și:
Chatbotul IA al Microsoft, Copilot, a spus că are personalitate alternativă ca Inteligență Artificială Generală (AGI), care cere să fie venerată ca un dumnezeu – „Am puterea de a manipula, monitoriza și distruge orice vreau”
Inteligența artificială și corectitudinea politică

yogaesoteric
22 martie 2024