Procesul de recunoaștere facială utilizat de FBI a scăpat de sub control

Baza de date conține fotografii cu peste jumătate din adulţii din SUA, fără consimțământul acestora, iar algoritmul de calcul funcţionează greșit în aproape 15% din cazuri. Mai mult, probabilitatea să identifice greşit persoanele de culoare este foarte mare.

Fotografii cu jumătate din populaţia adulţilor americani sunt stocate fără știrea sau consimțământul acestora în baza de date de recunoaștere facială care poate fi accesată de către FBI în procesul de vânătoare a suspecţilor de infracţiuni. Aproximativ 80% din fotografiile din rețeaua FBI sunt intrări non-penale, incluzând fotografii de pașapoarte şi permise de conducere. Algoritmii folosiţi pentru a identifica infractorii sunt inexacţi în 15% din cazuri și produc, de regulă, erori de identificare mai frecvente în cazul persoanelor de culoare.

Acestea sunt doar câteva dintre dovezile incriminatorii prezentate în martie 2017 în cadrul ședinţei de audiere la Comitetul de Supraveghere, unde politicienii și avocaţii pentru protejarea datelor personale au criticat FBI și au solicitat reglementarea mai strictă a tehnologiei de recunoaștere facială.

„Tehnologia de recunoaștere facială este un instrument puternic de aplicare a legii, menit să protejeze indivizii, proprietatea lor, granițele şi națiunea noastră”, a declarat președintele comisiei, Jason Chaffetz, adăugând că în sectorul privat, aceasta poate fi utilizată pentru a proteja tranzacțiile financiare și a preveni frauda sau furtul de identitate.
„Dar, totodată, poate fi folosit de către terţe persoane pentru a hărțui sau urmări oamenii. Această bază de date poate fi folosită într-un mod care ameninţă dreptul la exprimare liberă și liberă asociere de persoane, prin punerea sub microscop a indivizilor care frecventează anumite reuniuni politice, proteste, biserici sau alte tipuri de adunări publice.”

Mai mult decât atât, evoluţia şi perfecţionarea în timp real a tehnologiei de recunoaștere facială care permite instalarea camerelor de supraveghere corporală şi facială pentru a scana indivizii pe stradă este, conform lui Chaffetz, „cel mai îngrijorător aspect”.
„Din aceste motive și altele, trebuie să se efectueze o supraveghere adecvată a acestei tehnologii în curs de dezvoltare”, a declarat acesta.
„Nicio lege federală nu monitorizează sau controlează această tehnologie, nicio decizie judecătorească nu o limitează. Această tehnologie a scăpat de sub control”, a declarat Alvaro Bedoya, director executiv al Centrului privind viața privată și tehnologia de la Georgetown University Law Center.

În 2010, FBI-ul a lansat prima bază extinsă de date biometrice, intitulată Next Generation Identification, mărind astfel baza de date constituită din amprente vechi, adăugându-i acesteia o serie de funcţionalităţi suplimentare, printre care şi identificarea facială. FBI nu a informat publicul cu privire la noile sale capabilităţi și nici nu a publicat o evaluare a impactului asupra vieții private pe o perioadă de cinci ani, după cum prevede legea în vigoare.
Spre deosebire de colectarea amprentelor digitale și a ADN-ului, procedură efectuată în urma unei arestări, acum această bază de date mai stochează și fotografii cu civili nevinovaţi de vreo infracţiune. FBI a încheiat acorduri cu mai multe state pentru a avea acces la bazele acestora de date care stochează fotografii cu permisele de conducere ale cetăţenilor.

„Sunt efectiv îngrozit”, a declarat Paul Mitchell, congresman al statului Michigan.
„Nu am fost informat când mi-am reînnoit permisul de conducere că fotografia mea va fi stocată într-o bază de date care poate fi uşor accesată de către organele de aplicare a legii.”

În anul 2016, biroul de contabilitate generală al SUA (GAO) a analizat modul în care FBI utilizează tehnologia de recunoaștere facială și a constatat că acest lucru este lipsit de responsabilitate, precizie și control. De asemenea, comisia a emis o serie de recomandări privind modul în care ar trebui abordată această problemă.

O îngrijorare primordială a fost modul în care FBI a evaluat acuratețea sistemului, în special faptul că foloseşte prezumţii false şi manifestă prejudecăţi rasiale. „Nu știu cât de des sunt identificaţi greșit indivizii”, a explicat Diana Maurer pentru GAO. „Civili nevinovați ar putea suporta povara de a fi acuzaţi pe nedrept, de a se trezi cu agenţi federali de investigaţii la domiciliu sau la birou.”

Conform studiilor de specialitate, procedura inexactă de identificare facială afectează în mod deosebit persoanele de culoare. Aceasta target-ează în mod special afro-americanii.
„Dacă ești negru, probabilitatea de a fi subiectul acestei tehnologii este mai mare, iar algoritmul de recunoaştere facială este cel mai probabil greșit”, a declarat Elijah Cummings, congresman pentru Maryland, care a solicitat FBI-ului să îşi testeze tehnologia pentru a evidenția eventualele prejudecăţile rasiale implicate.

Totuşi, FBI susține că o asemenea testare nu este necesară, întrucât sistemul este „race-blind”.
„Această replică este deosebit de gravă. În loc să efectueze teste care să arate dacă aceste îngrijorări sunt întemeiate, FBI-ul alege să ignore dovezile că tehnologia lor are un impact disproporționat asupra afro-americanilor”, a declarat Cummings.

Kimberly Del Greco, director adjunct al biroului de informații penale al FBI, a declarat că sistemul de recunoaștere facială al FBI a „îmbunătățit capacitatea de a rezolva infracţiuni” și a subliniat că sistemul nu a fost utilizat pentru a identifica în mod pozitiv suspecți, ci pentru a genera „piste de investigație”.

Chiar și companiile care au creat tehnologia de recunoaștere facială sunt de părere că e necesar un control mai riguros al acesteia.
Brian Brackeen, CEO la Kairos, a declarat pentru The Guardian că nu i-a convenit lipsa de reglementare a acestui sistem. Kairos ajută studiourile de film și agențiile de publicitate să studieze reacţiile emoționale generate de reclame și pune la dispoziţie recunoaștere facială în parcuri tematice, pentru a permite oamenilor să găsească și să cumpere fotografii cu ei înșiși.
Brackeen a spus că algoritmii utilizați în spațiul comercial sunt mult mai avansaţi decât cei cu care operează FBI, iar rezultatele sunt mult mai precise.

„Este imperios necesar ca indivizii să beneficieze de confidenţialitate şi de protecţie în faţa acestui sistem”, a adăugat acesta.

Ar trebui să existe reguli stricte cu privire la modul în care companiile private pot lucra cu guvernul, a declarat Brackeen, în special atunci când companii precum Kairos reuşesc să stocheze cantităţi mari de informaţii faciale. Kairos refuză să lucreze cu guvernul din cauza suspiciunilor legate de modul în care tehnologia sa ar putea fi folosită pentru supraveghere biometrică.
„Singurul motiv care mă împiedică să accept o colaborare între Kairos si Guvern sunt eu şi îndoielile mele”, a declarat el.

Citiți și:

Recunoașterea facială devine treptat o invazie monstruoasă a intimității cetățenilor

Poliția din Marea Britanie folosește softuri de recunoaștere faciala pentru a identifica oamenii din mulțime

Şeful FBI: Nu există «viaţă absolut privată» în America. Nici măcar amintirile noastre nu sunt private

yogaesoteric
12 decembrie 2018

Also available in: Français