{"id":167770,"date":"2024-07-29T10:54:48","date_gmt":"2024-07-29T10:54:48","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=167770"},"modified":"2024-07-29T10:54:48","modified_gmt":"2024-07-29T10:54:48","slug":"veesion-et-surveillance-en-supermarches-vraie-illegalite-faux-algorithmes","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/veesion-et-surveillance-en-supermarches-vraie-illegalite-faux-algorithmes\/","title":{"rendered":"Veesion et surveillance en supermarch\u00e9s : vraie ill\u00e9galit\u00e9, faux algorithmes ?"},"content":{"rendered":"

par <\/em>La Quadrature du Net<\/em><\/p>\n

Le vendredi 21 juin, le Conseil d\u2019\u00c9tat a rendu une ordonnance de r\u00e9f\u00e9r\u00e9<\/a> pass\u00e9e presque inaper\u00e7ue concernant Veesion, la start-up fran\u00e7aise de surveillance algorithmique des \u00ab vols \u00bb en supermarch\u00e9s. Bien qu\u2019il s\u2019agisse d\u2019une proc\u00e9dure toujours en cours (l\u2019affaire doit encore \u00eatre jug\u00e9e au fond), la justice administrative a confort\u00e9 ce que nous soulignons depuis 3 ans : l\u2019ill\u00e9galit\u00e9 du logiciel con\u00e7u par la start-up de surveillance.<\/p>\n

\"\"<\/p>\n

Autre fait pass\u00e9 inaper\u00e7u : la d\u00e9localisation \u00e0 Madagascar d\u2019une partie de travail de Veesion \u2013 et la possible remise en cause de l\u2019authenticit\u00e9 de son algorithme.<\/p>\n

La surveillance algorithmique, ce n\u2019est pas que pour nos rues, villes, espaces publics. Comme les cam\u00e9ras, ces dispositifs de surveillance s\u2019\u00e9tendent, se normalisent et s\u2019insinuent petit \u00e0 petit dans nos quotidiens. Veesion est une start-up fran\u00e7aise qui vend un logiciel de surveillance algorithmique pour soi-disant d\u00e9tecter les vols en supermarch\u00e9.<\/p>\n

Concr\u00e8tement, il s\u2019agit d\u2019installer sur les cam\u00e9ras des supermarch\u00e9s un algorithme rep\u00e9rant des gestes consid\u00e9r\u00e9s comme suspects pour d\u00e9tecter les \u00ab mauvaises intentions de possibles voleurs \u00e0 l\u2019\u00e9talage <\/em>\u00bb (pour reprendre l\u2019expression d\u2019un publi-reportage de la soci\u00e9t\u00e9 par le journal d\u2019extr\u00eame-droite le JDD<\/em><\/a>).<\/p>\n

L\u2019objectif est purement financier : promettre \u00e0 ses clients (des grandes ou petites surfaces) une r\u00e9duction de \u00ab plus de 60% des pertes li\u00e9es au vol \u00e0 l\u2019\u00e9talage <\/em>\u00bb et de sauver \u00ab 1 \u00e0 3% du chiffre d\u2019affaires <\/em>\u00bb qui leur serait subtilis\u00e9. Dans sa pr\u00e9sentation<\/a> en 2021 (sur un post Medium aujourd\u2019hui supprim\u00e9), le cr\u00e9ateur de Veesion allait plus loin : son logiciel devait prot\u00e9ger la grande distribution des troubles sociaux \u00e0 venir du fait de la d\u00e9tresse sociale (comprendre : prot\u00e9ger les grandes surfaces des populations pauvres pouss\u00e9es au vol par la situation \u00e9conomique).<\/p>\n

Le probl\u00e8me est double. Non seulement, Veesion se vante de faire du business sur la d\u00e9tresse sociale mais leur logiciel est \u00e9galement ill\u00e9gal. D\u2019autant qu\u2019il n\u2019est pas certain que cet algorithme existe r\u00e9ellement.<\/p>\n

Une start-up multiprim\u00e9e, subventionn\u00e9e\u2026.\u2026 et purement ill\u00e9gale<\/strong><\/p>\n

La Quadrature du Net<\/em> avait tir\u00e9<\/a> la sonnette d\u2019alarme d\u00e8s le d\u00e9but : en surveillant les gestes de ses clients, la start-up analyse des donn\u00e9es comportementales \u2013 dites biom\u00e9triques \u2013 particuli\u00e8rement prot\u00e9g\u00e9es au niveau du droit fran\u00e7ais et europ\u00e9en. Un tel traitement est par principe interdit par l\u2019article 9 du RGPD<\/em> et l\u2019article 6 de la loi Informatique et Libert\u00e9s<\/em>, et les exceptions \u00e0 cette interdiction sont strictes. Or, aucune de ces conditions n\u2019est applicable au dispositif de Veesion, qui bafoue donc cette interdiction.<\/p>\n

Nous n\u2019\u00e9tions pas les seul\/es \u00e0 relever l\u2019ill\u00e9galit\u00e9 de Veesion : la CNIL l\u2019avait dit (via plusieurs m\u00e9dias \u2013 en se fondant sur un motif d\u2019ill\u00e9galit\u00e9 diff\u00e9rent), tout comme le minist\u00e8re de l\u2019Int\u00e9rieur. M\u00eame Veesion le savait. Bref, tout le monde savait que le logiciel d\u00e9velopp\u00e9 par Veesion ne respectait pas le droit en vigueur (pour plus de d\u00e9tails, voir notre analyse<\/a> de 2023).<\/p>\n

Veesion n\u2019a pourtant pas sembl\u00e9 \u00eatre inqui\u00e9t\u00e9e le moins du monde. Pire encore, ces derni\u00e8res ann\u00e9es, elle attire des subventions, re\u00e7oit des prix, fait de la publicit\u00e9 dans les journaux, r\u00e9cup\u00e8re des centaines de clients\u2026.\u2026 Sur son site, Veesion parle m\u00eame de milliers de commer\u00e7ants. Un des co-fondateurs, Beno\u00eet Koenig, passe sur les plateaux<\/a> de BFM<\/em>, affirmant la l\u00e9galit\u00e9 de son dispositif. En mars 2023, la start-up l\u00e8ve plus de 10 millions d\u2019euros. En juin 2024, elle annonce<\/a> plus de 150 salari\u00e9s et plus de 8 millions de chiffre d\u2019affaires.<\/p>\n

Le capitalisme de surveillance n\u2019a pas peur du droit<\/strong><\/p>\n

Apr\u00e8s plusieurs ann\u00e9es d\u2019ind\u00e9cence, la r\u00e9cente ordonnance<\/a> du Conseil d\u2019\u00c9tat vient r\u00e9v\u00e9ler que la CNIL a engag\u00e9 une proc\u00e9dure contre Veesion en raison de l\u2019ill\u00e9galit\u00e9 de son logiciel. La CNIL a notamment souhait\u00e9 en alerter l\u2019ensemble de ses clients en obligeant \u00e0 afficher dans les magasins concern\u00e9s une information sur une telle infraction \u00e0 la loi. Veesion a essay\u00e9 de faire suspendre en urgence cette proc\u00e9dure et le Conseil d\u2019\u00c9tat a rejet\u00e9 la requ\u00eate le 21 juin dernier.<\/p>\n

Prenons les bonnes nouvelles o\u00f9 elles sont : c\u2019est un petit coup d\u2019arr\u00eat \u00e0 la vid\u00e9osurveillance algorithmique dans les supermarch\u00e9s. En cette p\u00e9riode de Jeux Olympiques, <\/strong>c\u00e9l\u00e9brations de la normalisation de l\u2019algorithmisation de la surveillance publique, c\u2019est un point positif \u00e0 conserver.<\/p>\n

Difficile n\u00e9anmoins d\u2019\u00eatre enti\u00e8rement convaincu\/es.<\/p>\n

Si nous n\u2019avons pas acc\u00e8s \u00e0 la d\u00e9cision de la CNIL, il est fort problable que celle-ci ait consid\u00e9r\u00e9 le logiciel de Veesion ill\u00e9gal uniquement parce que les client\u00b7es des magasins ne peuvent pas s\u2019opposer au traitement de leur image. Ce motif d\u2019ill\u00e9galit\u00e9 \u00e9tait d\u00e9j\u00e0 rappel\u00e9 par la CNIL dans sa position<\/a> de 2022 sur la VSA mais nous parait tr\u00e8s limit\u00e9 sur le plan politique. C\u2019est en effet une bien faible victoire qui emp\u00eache de remettre en cause le fondement m\u00eame de l\u2019algorithme et son aspect disproportionn\u00e9 et probl\u00e9matique. Non seulement la d\u00e9cision du Conseil d\u2019\u00c9tat est une d\u00e9cision prise dans une proc\u00e9dure d\u2019urgence (il reste \u00e0 attendre la d\u00e9cision sur le fond de l\u2019affaire qui arrivera dans plusieurs mois) et, de surcro\u00eet, Veesion a annonc\u00e9<\/a> depuis que la CNIL avait pour l\u2019instant suspendu sa d\u00e9cision en attente de nouveaux \u00e9l\u00e9ments de la part de l\u2019entreprise.<\/p>\n

\"\"<\/p>\n

Cette d\u00e9cision ne mettra de toute fa\u00e7on pas \u00e0 terre plusieurs ann\u00e9es de normalisation de ce logiciel. Personne ne demandera aux fondateurs de Veesion et \u00e0 leurs associ\u00e9s de rembourser l\u2019argent qu\u2019ils ont touch\u00e9 sur leur business sordide. Personne ne viendra compenser les droits et libert\u00e9s des personnes qui auront \u00e9t\u00e9 espionn\u00e9\/es ou identifi\/e\u00e9s par cet algorithme. Alors m\u00eame que les garde-fous contre la surveillance s\u2019amenuisent petit \u00e0 petit, les maigres barri\u00e8res qui nous restent sont all\u00e9grement m\u00e9pris\u00e9es par ces entreprises de surveillance.<\/p>\n

C\u2019est d\u2019ailleurs sans aucun doute une strat\u00e9gie r\u00e9fl\u00e9chie, avec laquelle l\u2019\u00e9cosyst\u00e8me du business num\u00e9rique s\u2019accorde bien : normaliser une pratique ill\u00e9gale pour cr\u00e9er et asseoir un march\u00e9 puis attendre du droit qu\u2019il s\u2019adapte \u00e0 un \u00e9tat de fait, arguant de la cr\u00e9ation d\u2019emplois et de l\u2019innovation apport\u00e9e. Lors de la consultation publique lanc\u00e9e par la CNIL sur le sujet en 2022, Veesion plaidait<\/a> pour sa cause et expliquait \u00e0 quel point cela serait un drame \u00e9conomique que de freiner cette technologie, sans jamais questionner ses cons\u00e9quences sur les libert\u00e9s.<\/p>\n

Veesion semble \u00eatre aussi pass\u00e9e \u00e0 autre chose et cherche d\u00e9j\u00e0 \u00e0 s\u2019exporter aux \u00c9tats-Unis o\u00f9 le droit \u00e0 la vie priv\u00e9e et la protection des donn\u00e9es personnelles sont encore moins respect\u00e9s. M\u00e9diatiquement, la d\u00e9cision du Conseil d\u2019\u00c9tat ne semble aussi faire que peu de bruit \u2013 alors m\u00eame que les supermarch\u00e9s clients de Veesion sont nombreux, comme Carrefour, Leclerc ou BioCoop.<\/p>\n

D\u00e9localisation de la surveillance en supermarch\u00e9 \u00e0 Madagascar<\/strong><\/p>\n

Un autre probl\u00e8me pour Veesion a \u00e9t\u00e9 soulev\u00e9 par les recherches effectu\u00e9es par deux sociologues, Cl\u00e9ment Le Ludec et Maxime Cornet, chercheurs \u00e0 T\u00e9l\u00e9com Paris, sp\u00e9cialistes sur le domaine de l\u2019intelligence artificielle. Dans un article sur France Info<\/em><\/a> pass\u00e9 lui-aussi relativement inaper\u00e7u (d\u00e9cidemment), les deux chercheurs sont revenus sur la sous-traitance \u00e0 des travailleur\/euses sous-pay\u00e9\/es dans des pays comme Magadascar par l\u2019\u00e9cosyst\u00e8me de l\u2019IA. Les chercheurs s\u2019inqui\u00e8tent en particularit\u00e9 de la pr\u00e9carit\u00e9 de ces \u00ab travailleurs en bout de cha\u00eene <\/em>\u00bb.<\/p>\n

L\u2019article de France Info<\/em> va plus loin : des personnes ayant \u00e9t\u00e9 employ\u00e9es \u00e0 Madagascar pour une soci\u00e9t\u00e9 semblable \u00e0 celle de Veesion disent avoir pour travail de rep\u00e9rer des vols en supermarch\u00e9s directement sur le flux de vid\u00e9osurveillance des magasins : \u00ab Notre objectif c\u2019est de trouver les vols. Ce sont eux qui envoient les vid\u00e9os, nous on les traite juste. En direct, en temps r\u00e9el. Nous on envoie juste l\u2019alerte et eux ils font l\u2019arrestation des suspects <\/em>\u00bb. M\u00eame si la soci\u00e9t\u00e9 s\u2019en d\u00e9fend, Veesion elle-m\u00eame ne semble pas chercher \u00e0 Madagascar des personnes pour am\u00e9liorer un algorithme existant, mais au contraire pour \u00ab signaler des vols (\u2026) dans les magasins le plus rapidement possible <\/em>\u00bb ou pour \u00ab avertir le magasin d\u2019un comportement douteux <\/em>\u00bb.<\/p>\n

En d\u2019autres termes : il est possible que, pour une partie des clients de Veesion, il n\u2019y ait pas vraiment d\u2019algorithme pour rep\u00e9rer des comportements suspects dans un supermarch\u00e9\u2026.\u2026 mais seulement un\/e travailleur\u00b7se pr\u00e9caire \u00e0 l\u2019autre bout du monde charg\u00e9\/e de visionner le flux de cam\u00e9ra en direct et de rep\u00e9rer \u00ab \u00e0 la main \u00bb ces gestes suspects, en imitant l\u2019algorithme. En somme, la fable du turc m\u00e9canique.<\/p>\n

Cela rejoint le travail<\/a> des m\u00eames chercheurs publi\u00e9 en 2023 concernant une soci\u00e9t\u00e9 de surveillance en supermarch\u00e9 non explicitement nomm\u00e9e mais qui ressemble beaucoup \u00e0 Veesion. Cl\u00e9ment Le Ludec et Maxime Cornet r\u00e9v\u00e8lent, concernant cette soci\u00e9t\u00e9, que les personnes employ\u00e9es \u00e0 Madagascar \u00ab agissent avant tout comme des agents de s\u00e9curit\u00e9 \u00e0 distance, d\u00e9tectant les vols presque en temps r\u00e9el <\/em>\u00bb.<\/p>\n

\u00c0 noter que Veesion s\u2019appuie sur une double exploitation. Si une grande partie repose sur des personnes exploit\u00e9es \u00e0 Madagascar, les caissi\u00e8res et caissiers deviennent aussi des \u00ab travailleurs du clic <\/em>\u00bb. Comme l\u2019avait \u00e9crit lundimatin<\/em> dans son article<\/a> sur l\u2019entreprise, le g\u00e9rant du magasin conserve en effet le d\u00e9tail des interactions sur les \u00e9crans des employ\u00e9\u00b7es, afin de v\u00e9rifier leur r\u00e9activit\u00e9 aux alertes du logiciel : \u00ab Libre \u00e0 lui alors de sommer ses employ\u00e9s d\u2019\u00eatre plus attentifs aux alertes de la machine en cas de non-retour de leur part <\/em>\u00bb.<\/p>\n

Il y a dans la soci\u00e9t\u00e9 Veesion le concentr\u00e9 des d\u00e9rives des start-ups sur le march\u00e9 du num\u00e9rique : banalisation des technologies de surveillance, non-respect affich\u00e9 du droit, d\u00e9pendance \u00e0 de la main d\u2019\u0153uvre exploit\u00e9e \u00e0 l\u2019autre bout du monde, et forte approximation autour de l\u2019effectivit\u00e9 de son logiciel. Un tel exemple vient interroger l\u2019effectivit\u00e9 du droit comme encadrement. Ces entreprises ne le respectent pas et r\u00e9coltent pourtant une importante aide financi\u00e8re et m\u00e9diatique.<\/p>\n

Quand un cadre juridique n\u2019est ni respect\u00e9 par les entreprises concern\u00e9es, ni appliqu\u00e9 par l\u2019autorit\u00e9 qui en est responsable (ici, la CNIL agit mollement plusieurs ann\u00e9es apr\u00e8s la mise en \u0153uvre du logiciel), c\u2019est bien l\u2019interdiction explicite de ces syst\u00e8mes de surveillance qui doit primer.<\/p>\n

\u00a0<\/em><\/p>\n

yogaesoteric
\n29 juillet 2024<\/strong><\/p>\n

\u00a0<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

par La Quadrature du Net Le vendredi 21 juin, le Conseil d\u2019\u00c9tat a rendu une ordonnance de r\u00e9f\u00e9r\u00e9 pass\u00e9e presque inaper\u00e7ue concernant Veesion, la start-up fran\u00e7aise de surveillance algorithmique des \u00ab vols \u00bb en supermarch\u00e9s. Bien qu\u2019il s\u2019agisse d\u2019une proc\u00e9dure toujours en cours (l\u2019affaire doit encore \u00eatre jug\u00e9e au fond), la justice administrative a confort\u00e9 […]<\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[825],"tags":[],"class_list":["post-167770","post","type-post","status-publish","format-standard","hentry","category-societe-1602-fr"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/167770","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=167770"}],"version-history":[{"count":1,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/167770\/revisions"}],"predecessor-version":[{"id":167777,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/167770\/revisions\/167777"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=167770"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=167770"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=167770"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}