Le deepfake, aussi une question de sécurité nationale

En intelligence artificielle, il existe une technique émergente appelée réseaux antagonistes génératifs (en anglais « generative adversarial networks » ou GANs). A priori, elle sert à entrainer les ordinateurs à repérer et à identifier des objets dans des paysages fictifs ou dans de fausses images satellitaires. En des termes plus simples, elle permet de connaitre la vérité à partir de la fiction.

Pour ce faire, ces réseaux neuronaux inversent le processus suivi par les algorithmes conventionnels. Par exemple, au lieu de dire « la présence de x, y et z dans ces groupes de pixels signifie qu’il s’agit d’une image d’un chat », le réseau GAN pourrait dire « ceci est une image d’un chat, donc x, y et z doivent être présents. Que sont x, y et z et comment sont-ils liés ? »

Par conséquent, les GANs peuvent tromper les logiciels d’analyse, comme la reconnaissance faciale, en générant les éléments nécessaires pour que la fiction devienne réaliste. Dans ce sens, cette classe d’algorithmes pourrait représenter une menace.

La menace concerne tout le monde

Concrètement, les GANs pourraient être utilisés par des personnes malveillantes pour nuire à des dirigeants politiques, des célébrités ou, tout simplement, d’autres personnes. En effet, ils pourraient constituer une arme dévastatrice dans le deepfake, aussi connu sous l’appellation de « fake porn ». Cette pratique consiste à recourir à des IA proposées en ligne pour coller le visage d’une personne sur le corps d’une actrice ou d’un acteur pornographique.

Néanmoins, les fausses vidéos peuvent être détectées par des indicateurs biométriques comme le pouls et la parole. Par contre, il n’en est pas de même pour les paysages factices. « Oubliez le [ministère de la Défense] et les [services de renseignement]. Imaginez que Google Maps soit infiltré par cela », a averti Todd Myers, responsable de l’automatisation pour la direction CIO-Technologie du National Geospatial-Intelligence, pour expliquer l’enjeu. « Et imaginez, dans cinq ans, lorsque les voitures Tesla [conduite autonome] seront sur les routes. »

Pour l’expert, les GANs pourraient également représenter une menace pour toute une nation. « Donc, d’un point de vue tactique ou de planification de mission, vous entraînez vos forces à suivre un certain chemin, vers un pont, alors que celui n’y est pas. Ensuite, une grande surprise vous attend », a-t-il déclaré.

Selon le chercheur, des Chinois ont déjà conçu des GANs permettant de « manipuler des scènes et des pixels afin de créer des choses pour des raisons néfastes. »

Un défi technique et financier

Il existe des moyens de filtrer les effets des GANs, mais ils pourraient s’avérer complexes et couteux. « Pour chaque collecte, vous devez avoir une copie en double de ce qui s’est passé de différentes sources », a expliqué Myers. « Le plus important est le financement nécessaire pour que vous puissiez faire ce que je viens de dire. »

Les responsables américains de la sécurité nationale ont fait part de leur inquiétude sur l’intégrité des données. « C’est quelque chose qui nous tient à cœur », a déclaré le général Jack Shanahan, qui dirige le nouveau Centre commun d’intelligence artificielle du Pentagone. « Si vous pouvez accéder à ces données, vous pouvez combattre l’empoisonnement, la corruption, les tromperies et les dénégations, entre autres choses. »

« Nous avons un plan de protection de programme solide pour protéger les données », a-t-il poursuivi.

yogaesoteric
31 mai 2019

Also available in: English