Les robots pourraient devenir RACISTES ou SEXISTES selon un rapport – « Les préjugés sont difficiles à contrer »
L’intelligence artificielle pourrait devenir raciste et sexiste, a averti sensationnellement un rapport choquant de l’année 2018.
Selon une étude de l’Université de Cardiff et du Massachusetts Institute of Technology (MIT), il semblerait que la discrimination puisse évoluer chez les robots, car elle pourrait facilement être exposée sur des machines artificiellement intelligentes.
La recherche a révélé que les préjugés ne sont pas un phénomène propre à l’être humain et que les machines pourraient apprendre les unes des autres.
En se basant sur des simulations informatiques, l’équipe a découvert que les machines peuvent apprendre des humains et ensuite de leurs pairs robots.
Dans un jeu, les IA informatisées étaient invitées à faire un don à quelqu’un de leur propre équipe ou d’un groupe différent en fonction de la réputation de l’individu.
Au fur et à mesure que le jeu avançait et que des milliers de simulations se multipliaient, les chercheurs ont réalisé que l’IA apprenait de ses pairs à ne donner qu’à des personnes qui se trouvaient dans une situation similaire.
Cela a montré que l’IA « mettait à jour ses préjugés en copiant de préférence ceux qui ont un meilleur rendement à court terme, ce qui signifie que ces décisions ne nécessitent pas nécessairement des capacités cognitives avancées ».
Le co-auteur de l’étude, le professeur Roger Whitaker, du Crime and Security Research Institute de l’Université de Cardiff et de la School of Computer Science and Informatics, a déclaré : « En effectuant ces simulations des milliers et des milliers de fois, nous commençons à comprendre comment les préjugés évoluent et les conditions qui les favorisent ou les entravent. »
« Nos simulations montrent que les préjugés sont une force puissante de la nature et qu’à travers l’évolution, ils peuvent facilement être encouragés dans les populations virtuelles, au détriment d’une connectivité plus large avec les autres. »
« La protection contre les groupes préjudiciables peut, par inadvertance, conduire à la formation d’autres groupes préjudiciables, avec pour résultat une population fracturée. »
« Des préjugés aussi répandus sont difficiles à contrer. »
« Il est possible que des machines autonomes capables de se reconnaître dans les discriminations et de copier les autres soient à l’avenir sensibles aux phénomènes préjudiciables que l’on observe dans la population humaine. »
Les résultats pourraient être une mauvaise nouvelle pour les humains, car les robots gagneront de plus en plus de puissance à l’avenir.
L’économiste en chef de la Banque d’Angleterre, Andy Haldane, a déclaré que l’intelligence artificielle sera dans les « emplois de la pensée » d’ici 2045.
M. Haldane a déclaré à l’émission Today de la BBC Radio 4 : « Les trois premières révolutions industrielles ont porté essentiellement sur le remplacement des humains par des machines pour des tâches principalement manuelles, tandis que la quatrième sera différente. »
« Tout d’un coup, ce sera la machine qui remplacera les humains en pensant et en faisant des choses. »
yogaesoteric
27 février 2019