Des employés de Google démissionnent à cause d’un projet d’intelligence artificielle militaire

Pour certains employés de la firme, le projet Maven, qui doit permettre d’analyser des images de drones militaires, est incompatible avec les principes éthiques de l’entreprise. Il est réalisé en partenariat avec le Pentagone.

Mutinerie à Mountain View. Plusieurs employés de Google ont démissionné au début d’avril en réaction à la participation de leur entreprise à un programme d’intelligence artificielle à des fins militaires. Baptisé projet Maven, il est réalisé en partenariat avec le Pentagone. En phase de développement, l’algorithme controversé doit permettre d’améliorer l’analyse d’images de drones. L’objectif est de distinguer les individus des objets inertes en zones de guerre. Comme le rapporte le site Gizmodo, les démissionnaires sont une douzaine pour le moment. « La décision la plus forte que je pouvais prendre contre cela était de partir », a déclaré l’un d’entre eux au site américain.

Selon ces employés mécontents, les enjeux sont avant tout éthiques. Google doit-il participer à l’élaboration d’une technologie potentiellement utilisée pour tuer? « Ce n’est pas comme si Google était cette petite start-up d’apprentissage automatique qui essaie de trouver des clients dans différentes industries. Il me semble que c’est logique pour Google et sa réputation de rester en dehors de cela », explique un employé anonyme à Gizmodo.

Près de 4000 signataires pour une pétition interne

Une pétition interne avait déjà été largement relayée dans les médias début avril. Près de 4000 employés ont signé le document adressé au PDG de Google, Sundar Pichai. Cela représente environ 5% des effectifs globaux de la firme. « Nous croyons que Google ne devrait pas être dans le business de la guerre. Par conséquent, nous demandons que le projet Maven soit annulé, que Google rédige, publie et applique une politique claire stipulant que ni Google ni ses partenaires ne construiront jamais de technologie de guerre », demandait la pétition. L’initiative a fait changer les plans de l’entreprise. Elle était candidate à un nouveau contrat avec le département américain de la Défense, cette fois-ci dans le domaine du cloud (informatique dématérialisée) : le projet JEDI ( Join Enterprise Defense Infrastructure). Mais elle a annoncé qu’elle ne renouvellera pas le contrat avec le Pentagone, qui prend fin l’année prochaine.

Le géant américain avait annoncé en février son intention de mettre en place des « politiques internes et des garanties », pour que l’intelligence artificielle ne dépasse pas certaines limites. Cependant, selon les anciens employés interrogés par Gizmodo, aucun document officiel n’a été publié depuis.

Dans une lettre ouverte publiée le 14 mai, l’International Committee for Robot Arms Control (ICRAC), une association qui promeut un usage pacifique de la robotique, a interpellé les dirigeants de Google sur ce sujet. « Si une action éthique de la part des entreprises technologiques nécessite de réfléchir à qui pourrait bénéficier d’une technologie et qui pourrait être lésé, alors nous pouvons affirmer qu’aucun sujet ne mérite une réflexion plus sobre que les algorithmes destinés à cibler et tuer à distance et sans responsabilité publique », expliquent ses auteurs. Plus de 400 scientifiques et universitaires ont déjà signé le document. La lettre demande elle aussi la fin du projet Maven et la signature d’une charte internationale qui interdit l’usage d’armes autonomes.
 
 
 

yogaesoteric

17 octobre 2018

Also available in: Română