Premierul Britanic avertizează cu privire la pericolele tehnologiei
La reuniunea anuală a ONU din 2019, Președintele American Donald Trump a mărturisit pe Dumnezeu, a înfierat avorturile, a promovat naționalismul și conducerea responsabilă a țărilor.
La aceeași reuniune, premierul britanic Boris Johnson a lansat un avertisment privind pericolele noilor tehnologii. Spre sfârșitul alocuțiunii a invitat toate țările membre ONU să trimită reprezentanți la Londra în iulie 2020, când ar fi urmat să se țină un summit cu privire la reglementarea responsabilă a noilor tehnologii. Dar a venit criza covid și summit-ul nu s-a mai ținut…
Transcript:
„Domnule președinte, excelențele voastre, doamnelor și domnilor, dragi telespectatori care ne urmăriți târziu în noapte… Este o tradiție pentru premierul Marii Britanii să vină la Națiunile Unite și să promită că va lupta pentru valorile și regulile noastre – regulile unei lumi pașnice. Că vom proteja libertatea navigației în Golful Persic, că vom persevera pentru a fi pace în Orientul Mijlociu. Desigur, este o onoare să fac toate acestea. Dar nimeni nu poate ignora o forță din ce în ce mai mare, care schimbă viitorul fiecărui membru din această reuniune. Nu a mai fost nimic asemănător în istorie.
Când mă gândesc la marile revoluții științifice din trecut (tiparul, motorul cu aburi, aviația, energia atomică) mă gândesc la ele ca la instrumente noi, dar instrumente pe care le controlăm. Acest aspect nu prea se mai aplică în era digitală. Poți să păstrezi secretul față de prietenii tăi, față de părinți, de copii, față de doctorul personal, chiar față de antrenor. Dar faci eforturi mult mai mari ca să-ți ascunzi gândurile față de Google… Iar dacă așa este situația acum, în viitor s-ar putea să nu mai avem unde ne ascunde… Orașe inteligente vor deversa senzori, toți conectați între ei prin Internetul Obiectelor. Semnele de circulație vor comunica invizibil cu stâlpii de iluminat, pentru ca întotdeauna să găsești un loc de parcare pentru mașina electrică. Astfel încât orice coș de gunoi să fie colectat, orice stradă să fie curățată, iar mediul urban să fie la fel de curat precum o farmacie.
Dar această tehnologie poate și să-i supravegheze non-stop pe oameni. O «Alexa» din viitor… numai se va preface că primește ordine de la tine. Dar această «Alexa» te va supraveghea. În viitor, conectivitatea vocală va fi în fiecare cameră, și în aproape fiecare obiect. Salteaua îți va supraveghea coșmarurile; frigiderul va da semnale că a venit vremea să mai pui niște mâncare; ușa de la intrare se va deschide larg când te apropii, ca un servitor tăcut.
Contoarele digitale vor căuta singure cel mai ieftin furnizor de electricitate. Și fiecare din acestea va înregistra în amănunțime tot ce faci, folosind un limbaj electronic codificat. Iar aceste informații vor fi stocate nu pe un cip din interiorul lor, ci într-o mare rețea de computere, care se extinde din ce în ce mai puternic înspre rasa umană. O rețea gigantică, întunecată, un nor încărcat care este pe punctul de a deveni furtună. Iar noi nu avem niciun control asupra felului cum va ploua din nor, sau asupra momentului când va începe.
La fel cum s-au adunat hidrocarburile în pământ, cu fiecare frunză care a putrezit, așa și informația este acum țițeiul economiei moderne. Iar noi nu știm cine este calificat să dețină aceste noi «câmpuri petroliere». Nu știm cine este în măsură să aibă drept de proprietate asupra acestor munți de bani. Și nu știm cine decide cum sunt folosite acele informații.
Putem avea încredere în acești algoritmi informatici? Oare ar fi bine ca programele informatice – și numai ele – să decidă dacă putem lua un împrumut? Dacă putem să ne facem o asigurare, sau dacă ne putem opera, sau ce medicamente putem să luăm? Oare suntem condamnați la un viitor rece și lipsit de inimă, în care computerul zice «Da!» sau computerul zice «Nu!», ca un împărat într-o arenă? (Notă: se referă la obiceiul din antichitate, unde împăratul Romei putea decide dacă un gladiator trăiește sau moare.) Cum ai putea să convingi un algoritm? Cum îl convingi să-ți dea circumstanțe atenuante? De unde știm că roboții nu au fost programați în mod viclean pentru a ne păcăli?
Deja folosim servicii de mesagerie, care oferă comunicare instant la costuri minime. Dar aceleași programe pot fi proiectate să cenzureze în timp real orice conversație, unde cuvintele interzise să fie șterse automat. Într-adevăr, în anumite țări asta deja se petrece. Vai! Autoritarismul digital nu mai este doar apanajul cărților SF, ci este o realitate care se înfiripă acum.
Iar motivul pentru care vă spun acestea este că Anglia este unul din liderii mondiali în tehnologie. Și cred că guvernele au fost prinse pe nepregătite de implicațiile internetului… Un mare salt științific, cu un impact psihologic mult mai mare decât orice invenție de la Gutenberg încoace. Sosirea internetului este un eveniment mult mai mare decât apariția tiparului, mai mare decât era energiei atomice, dar e pe același nivel cu puterea nucleară, în sensul că este capabilă atât de bine, cât și de rău.
Noile tehnologii par a veni în goana mare spre noi, și ne concentrăm privirea, pentru că nu știm dacă sunt spre bine sau spre rău. Dacă sunt prieteni sau dușmani. Inteligența artificială… care sunt implicațiile? Roboți care spală pentru bătrâni și au grijă de ei? Sau roboți cu ochii roșii, trimiși din viitor ca să extermine rasa umană. Care sunt implicațiile biologiei sintetice? Ne vom putea înlocui ficatul și ochii, cu o regenerare miraculoasă a celulelor? Sau va aduce pe mesele noastre găini fără picioare… Oare nanotehnologia ne va ajuta să învingem bolile? Sau va lăsa roboți mici să se înmulțească în crăpăturile din sufletul nostru…
Dar cum proiectăm tehnologiile emergente și ce fel de valori vor modela viitorul umanității? Acesta este mesajul meu pentru voi, în această seară. În joc este dacă vom avea o lume orwelliană proiectată să cenzureze, să oprime și să controleze; sau o lume a emancipării, a dialogului și a cunoașterii, unde tehnologia amenință foametea și bolile, dar nu și libertățile noastre.
Cu 7 decenii în urmă, ONU a adoptat declarația universală a drepturilor omului, fără să voteze nimeni împotrivă. Pentru prima și poate pentru ultima dată, conducătorii națiunilor au fost de acord cu un set de principii. Iar declarația noastră afirmă libertatea opiniei, inviolabilitatea locuinței și a corespondenței, dreptul de a căuta și distribui idei. Dacă nu ne asigurăm că noua tehnologie reflectă acest spirit, mă tem că declarația noastră nu mai stă în picioare.
Prin urmare: misiunea Marii Britanii și a tuturor țărilor care împărtășesc valorile noastre este de a ne asigura că tehnologiile emergente sunt proiectate pentru libertate, deschidere și pluralitatea opiniilor, având mecanismele corecte de protecție pentru a apăra popoarele noastre.
De la lună la lună, decizii cruciale sunt luate în comitete academice, consilii de conducere a companiilor și în grupuri care concept standarde. Aceștia scriu regulile viitorului, făcând judecăți etice, alegând ce va apare și ce nu. Împreună, urmează să ne asigurăm că noile progrese tehnologice reflectă valorile noastre, începând de la proiectare.
Dar este necesar să fim mai ambițioși de atât. Este bine să găsim echilibrul potrivit între libertate și control, între inovare și reglementare, între activitățile private și supravegherea guvernului. A venit momentul să ne asigurăm că judecățile etice (de la proiectarea noilor tehnologii) sunt transparente pentru toți; să ne facem vocile auzite mai tare în organismele de reglementare; să cădem de acord asupra unui set comun de principii globale, pentru a modela standardele care vor ghida dezvoltarea tehnologiilor emergente.
Excelențe, doamnelor și domnilor, vă mulțumesc foarte mult că m-ați ascultat.”
Citiți și:
Prezentul Chinei, viitorul întregii lumi?
Generaţia 5G
Atenționare: inteligenţa artificială poate reconfigura ordinea globală. Riscul autoritarismului digital
yogaesoteric
17 ianuarie 2021