« Scénario cauchemardesque » : en quelques clics, des criminels peuvent produire de faux nus de n’importe qui, générés par l’IA

par Lucas Nolan

Des chatbots d’IA en ligne permettent aux utilisateurs de générer des photos nues explicites de personnes réelles en quelques clics, ce qui alarme les experts sur un « scénario cauchemardesque » qui se profile à l’horizon.

Une enquête récente de Wired a mis au jour une tendance inquiétante sur l’application de messagerie Telegram, où des dizaines de chatbots alimentés par l’IA permettent aux utilisateurs de créer de fausses images et vidéos de nudité de pratiquement n’importe qui. Ces robots, qui seraient utilisés par environ 4 millions de personnes par mois, peuvent prétendument retirer les vêtements des photos fournies ou même générer du contenu explicite montrant des personnes en train de se livrer à une activité sexuelle.

Henry Ajder, expert en deepfake, qui a découvert pour la première fois le monde souterrain des chatbots de Telegram il y a quatre ans, s’est dit très préoccupé par l’augmentation considérable du nombre d’utilisateurs qui créent et partagent activement ce type de contenu. « Il est vraiment inquiétant que ces outils – qui ruinent des vies et créent un scénario cauchemardesque, principalement pour les jeunes filles et les femmes – soient encore si faciles d’accès et à trouver sur le web de surface, sur l’une des plus grandes applications au monde », a déclaré Ajder à Wired.

Si des célébrités comme Taylor Swift et Jenna Ortega ont été victimes de l’essor des deepfakes pornographiques, on a également signalé récemment que des adolescentes avaient été prises pour cible, certaines photos de nu ayant été utilisées dans des cas de « sextorsion ». Une enquête a même révélé que 40% des élèves américains ont signalé la circulation de « deepfake » dans leur école.

La prolifération des sites de « deepfake » dans le contexte des progrès de la technologie de l’intelligence artificielle a suscité un examen approfondi de la part des législateurs. En août, le bureau du procureur de San Francisco a poursuivi en justice plus d’une douzaine de sites web « déshabillants ». Contactée par Wired au sujet du contenu explicite du chatbot sur Telegram, la société n’a pas répondu, mais les bots et les canaux associés ont soudainement disparu, bien que les créateurs aient promis de « créer un autre bot » le lendemain.

Emma Pickering, responsable des abus facilités par la technologie et de l’autonomisation économique au sein de l’organisation britannique Refuge, spécialisée dans la lutte contre les abus domestiques, a souligné les dommages psychologiques que ces fausses images peuvent causer, entraînant traumatisme, humiliation, peur, embarras et honte. Elle a fait remarquer que, bien que cette forme d’abus soit de plus en plus courante dans les relations entre partenaires intimes, les auteurs sont rarement tenus pour responsables.

yogaesoteric
3 novembre 2024