Studiu: Asistenții cu inteligență artificială pot primi comenzi «ascunse» sau nedetectabile urechilor umane

Cercetătorii demonstrează cum comenzile inteligente subliminale au potențial de atacuri rău intenționate

Cercetătorii din Statele Unite și China au efectuat teste în încercarea de a demonstra că unele comenzile „ascunse” sau cele nedetectabile urechilor umane pot ajunge la asistenți cu inteligență artificială precum Siri și le comandă să efectueze acțiuni pe care proprietarii dispozitivelor nu le-au intenționat niciodată. Cercetarea a fost publicată într-un articol din The New York Times, sugerând că aceste comenzi subliminale pot forma numere de telefon, deschide site-uri și alte acțiuni cu potențial mai periculos dacă ajung pe mâinile cui nu trebuie.

Un grup de studenți de la Universitatea din California, Berkeley și Georgetown University au publicat recent o lucrare de cercetare, afirmând că pot insera comenzi în înregistrări muzicale sau în textul vorbit. Când sunt redate lângă un Amazon Echo sau Apple iPhone, o persoană ar auzi doar melodia sau pe cineva care vorbește, în timp ce Siri și Alexa „ar putea auzi o instrucțiune pentru a adăuga ceva la lista dvs. de cumpărături”. Sau, mai periculos, instrucțiuni pentru a debloca ușile, a transfera bani din bancă și a cumpăra articole online.

Metoda prin care elevii au reușit să efectueze comenzile ascunse nu este la îndemână pentru publicul larg, dar unul dintre autorii lucrării, Nicholas Carlini, crede că grupuri rău intenționate ar putea face deja experimente cu tehnologii similare. „Am vrut să vedem dacă am putea să facem aceste comenzi chiar și mai greu sesizabile”, a spus Nicholas Carlini, student în anul cinci în securitatea calculatoarelor, la UC Berkeley, și unul dintre autorii lucrării.

Dl. Carlini a adăugat că, deși nu există dovezi că aceste tehnici au părăsit laboratorul, nu poate fi decât o chestiune de timp înainte ca cineva să înceapă să le exploateze. „Presupunerea mea este că oamenii răi au angajat deja oameni să facă ceea ce fac eu”, a spus el.

Anul trecut, cercetătorii de la Universitatea Princeton și Universitatea Zheijiang din China au efectuat teste similare, demonstrând că asistenții cu inteligență artificială ar putea fi activați prin frecvențe care nu sunt audibile pentru oameni.

Printr-o tehnică numită „DolphinAttack”, cercetătorii au construit un emițător pentru a trimite o comandă ascunsă care a format un anumit număr de telefon, în timp ce în alte teste s-au făcut fotografii și s-au trimis mesaje text. DolphinAttack se spune că este limitat în ceea ce privește raza de acțiune, totuși, deoarece „este necesar să fie aproape de dispozitivul receptor”. DolphinAttack ar putea injecta comenzi vocale ascunse la 7 sisteme de recunoaștere a vorbirii de ultimă oră (de exemplu, Siri, Alexa) pentru a activa sistemul astfel încât să fie disponibil permanent pentru a realiza diverse atacuri, printre care activarea lui Siri pentru inițierea unui apel FaceTime pe iPhone, activarea Google Now pentru a comuta telefonul în modul avion și chiar a manipula sistemul de navigație într-un automobil Audi.

Într-un alt un set de cercetări, un grup de la Universitatea Illinois din Urbana-Champaign a demonstrat că această limitare a razei de acțiune ar putea fi depășită, arătând că unele comenzi au fost primite de la 8 metri distanță.

Carlini de la Universitatea Berkeley a declarat pentru The New York Times că este „încrezător” că echipa sa va fi în curând capabilă să trimită cu succes comenzi „împotriva oricărui sistem de dispozitive inteligente de pe piață”. El a spus că grupul dorește să demonstreze companiilor că acest defect este o problemă potențială, „și apoi sperăm că alți oameni vor spune: «OK, aceasta este posibil, acum să încercăm să o rezolvăm»”.

Din motive de securitate, Apple este strictă cu anumite comenzi Siri legate de HomeKit, blocându-le în spatele codurilor de acces ale dispozitivului ori de câte ori utilizatorii au parolele activate. De exemplu, dacă doriți să deblocați ușa din față cu o deblocare inteligentă conectată, puteți să îi cereți lui Siri, dar este necesar să introduceți codul de acces pe un iPhone sau iPad după ce ați lansat comanda. HomePod, pe de altă parte, nu are în mod intenționat această funcționalitate.

Citiți și:

Dispozitivul inteligent Alexa sperie utilizatorii: Începe să râdă malefic noaptea

Ultimele caracteristici ale dispozitivelor? Ele vă pot spiona aproape în permanență fiecare mişcare

yogaesoteric
16 mai 2019

Also available in: Français