Un nouveau logiciel de reconnaissance faciale prédit si vous êtes un criminel sur la base de votre visage

Une équipe de l’université de Harrisburg, PA, a développé un logiciel de reconnaissance faciale automatisé qui, selon eux, peut prédire avec 80 % de précision et « sans préjugés raciaux » si une personne est susceptible de devenir un criminel, simplement en regardant une photo d’elle.

« En automatisant l’identification des menaces potentielles sans préjugés, notre objectif est de produire des outils pour la prévention du crime, l’application de la loi et les applications militaires », ont-ils déclaré, en précisant qu’ils cherchaient des « partenaires stratégiques » avec lesquels travailler pour mettre en œuvre leur produit.

Dans un usage inquiétant des mots, l’équipe, dans son propre communiqué de presse , passe de la mention de ceux que le logiciel reconnaît comme étant des « criminels probables » à celle de « criminels » en l’espace d’une seule phrase, suggérant qu’ils ont confiance dans la pseudo-science raciste discréditée de la phrénologie qu’ils semblent avoir mise à jour pour le 21e siècle.

La réaction du public au projet a été moins qu’enthousiaste, à en juger par les commentaires laissés sur Facebook, qui comprenaient « Les sociétés ont essayé de promouvoir l’idée de ” criminels nés ” pendant des siècles », « et ce n’est pas du profilage parce que… » et « 20 % sont suivis par la police en permanence parce qu’ils ont le ” visage du crime ” ». En effet, la réponse a été si négative que l’université a retiré le communiqué de presse d’Internet. Cependant, il est toujours visible grâce à l’Internet Wayback Machine.

Alors que l’équipe de recherche prétend éliminer les préjugés et le racisme de la prise de décision, en la laissant à un algorithme sans visage, ceux qui écrivent le code et ceux qui décident qui est un criminel au départ, ont certainement leurs propres préjugés.

Pourquoi les sans-abri ou les personnes de couleur qui « traînent » sur les trottoirs sont-ils criminalisés, mais pas les sénateurs et les membres du Congrès qui votent pour les guerres et les opérations de changement de régime ? Et qui est le plus susceptible d’être arrêté ? Les cadres de Wall Street qui prennent de la cocaïne dans leur bureau ou les ouvriers qui fument de la marijuana ou du crack ? Plus le niveau d’une personne dans la société est élevé, plus ses crimes deviennent graves et nuisibles, mais la probabilité d’une arrestation et d’une peine de prison diminue. Les Noirs ont plus de chances d’être arrêtés pour le même crime que les Blancs et sont également condamnés à des séjours plus longs en prison. En outre, les logiciels de reconnaissance faciale sont réputés pour leur incapacité à distinguer les personnes de couleur, ce qui suscite d’autres inquiétudes.

Les chiffres de la criminalité sont fortement influencés par les personnes que la police choisit de suivre et par les priorités qu’elle décide de donner. Par exemple, une étude récente a révélé que 97,5 % des habitants de Brooklyn arrêtés pour avoir enfreint les lois sur la distanciation sociale étaient des personnes de couleur. Par ailleurs, une analyse de 95 millions d’arrêts de circulation a révélé que les policiers étaient beaucoup plus susceptibles d’arrêter des Noirs pendant la journée lorsque leur race pouvait être déterminée à distance. Dès le crépuscule, la disparité diminuait considérablement, car un « voile de ténèbres » les sauvait d’un harcèlement excessif, selon les chercheurs . Ainsi, la population des personnes condamnées pour des crimes ne correspond pas nécessairement à la population qui les commet.

Le film à succès de 2002, Minority Report, se déroule dans un monde futur où la division de pré-criminalité du gouvernement arrête tous les meurtres bien avant qu’ils ne se produisent, les futurs criminels étant enfermés de manière préventive. Même s’il est précis, un taux de précision de 80 % vaut-il la peine de risquer la création d’une société dystopique de type « Minority Report » où les gens sont surveillés et arrêtés pour des pré-crimes ?

La phrénologie, l’étude longtemps abandonnée de la taille et de la forme de la tête, a une histoire longue et sordide de pseudo-science raciste et élitiste dangereuse. Par exemple, le livre de Cesare Lombroso de 1876, L’homme criminel, disait aux étudiants que les grandes mâchoires et les hautes pommettes étaient une caractéristique des « criminels, des sauvages et des singes », et était un signe certain de « l’amour des orgies et de l’irrésistible envie de faire le mal pour lui-même, le désir non seulement d’éteindre la vie de la victime, mais aussi de mutiler le cadavre, de déchirer sa chair et de boire son sang ». Pendant ce temps, les violeurs ont presque toujours des oreilles de cruche, des traits délicats, des lèvres gonflées et des bossues. Lombroso lui-même était professeur de psychiatrie et d’anthropologie criminelle et ses livres ont été enseignés dans les universités pendant des décennies. Pour Lombroso, il était presque impossible pour une belle personne de commettre un crime grave.

Le dernier développement technologique de l’université de Harrisburg semble être une « phrénologie algorithmique » actualisée, qui reconditionne une idée dangereuse pour le XXIe siècle, d’autant plus remarquable qu’ils essaient de la vendre aux forces de l’ordre comme un outil impartial aidant la société.

yogaesoteric
30 juin 2020