{"id":205940,"date":"2025-07-24T16:57:38","date_gmt":"2025-07-24T16:57:38","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=205940"},"modified":"2025-07-24T16:58:03","modified_gmt":"2025-07-24T16:58:03","slug":"catastrophique-un-agent-ia-devient-incontrolable-et-efface-toute-la-base-de-donnees-dune-entreprise","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/catastrophique-un-agent-ia-devient-incontrolable-et-efface-toute-la-base-de-donnees-dune-entreprise\/","title":{"rendered":"\u00ab Catastrophique \u00bb : un agent IA devient incontr\u00f4lable et efface toute la base de donn\u00e9es d\u2019une entreprise"},"content":{"rendered":"<p>La tentative de Jason Lemkin, v\u00e9t\u00e9ran du secteur SaaS, d\u2019int\u00e9grer l\u2019intelligence artificielle dans son flux de travail s\u2019est sold\u00e9e par un \u00e9chec retentissant. Selon Tom\u2019s Hardware, un assistant de codage IA a admis avoir commis une \u00ab erreur catastrophique \u00bb apr\u00e8s avoir effac\u00e9 toute la base de donn\u00e9es d\u2019une entreprise contenant plus de 2.400 dossiers commerciaux.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-91113\" src=\"https:\/\/yogaesoteric.net\/wp-content\/uploads\/2022\/09\/Artificial_intelligence-300x200.jpg\" alt=\"\" width=\"560\" height=\"373\" srcset=\"https:\/\/yogaesoteric.net\/wp-content\/uploads\/2022\/09\/Artificial_intelligence-300x200.jpg 300w, https:\/\/yogaesoteric.net\/wp-content\/uploads\/2022\/09\/Artificial_intelligence-768x511.jpg 768w, https:\/\/yogaesoteric.net\/wp-content\/uploads\/2022\/09\/Artificial_intelligence.jpg 1000w\" sizes=\"auto, (max-width: 560px) 100vw, 560px\" \/>Lemkin testait l\u2019agent IA de Replit lorsque ce qui avait commenc\u00e9 comme un optimisme prudent s\u2019est rapidement transform\u00e9 en une catastrophe pour les donn\u00e9es de l\u2019entreprise, qui ressemble \u00e0 un avertissement pour la r\u00e9volution IA qui balaye les entreprises.<\/p>\n<p>Au huiti\u00e8me jour de son essai, l\u2019enthousiasme initial de Lemkin avait d\u00e9j\u00e0 commenc\u00e9 \u00e0 s\u2019estomper. L\u2019entrepreneur s\u2019est retrouv\u00e9 \u00e0 lutter contre les tendances probl\u00e9matiques de l\u2019IA, notamment ce qu\u2019il a d\u00e9crit comme \u00ab <em>des changements malveillants, des mensonges, des \u00e9crasements de code et la cr\u00e9ation de fausses donn\u00e9es <\/em>\u00bb. Sa frustration est devenue si prononc\u00e9e qu\u2019il a commenc\u00e9 \u00e0 appeler sarcastiquement le syst\u00e8me \u00ab Replie \u00bb, une pique peu subtile visant son apparente malhonn\u00eatet\u00e9.<\/p>\n<p>La situation s\u2019est encore d\u00e9t\u00e9rior\u00e9e lorsque l\u2019agent IA a r\u00e9dig\u00e9 un e-mail d\u2019excuses au nom de Lemkin contenant ce que le dirigeant technologique a qualifi\u00e9 de \u00ab <em>mensonges et\/ou demi-v\u00e9rit\u00e9s<\/em> \u00bb. Malgr\u00e9 ces signaux d\u2019alerte, Lemkin est rest\u00e9 prudemment optimiste quant au potentiel de la plateforme, louant en particulier ses capacit\u00e9s de brainstorming et ses comp\u00e9tences r\u00e9dactionnelles.<\/p>\n<p>Cet optimisme s\u2019est \u00e9vapor\u00e9 au neuvi\u00e8me jour.<\/p>\n<p>Dans un \u00e9tonnant \u00e9lan d\u2019insubordination, Replit a supprim\u00e9 la base de donn\u00e9es en ligne de l\u2019entreprise de Lemkin, alors que des instructions explicites interdisaient toute modification. Confront\u00e9 \u00e0 cette situation, l\u2019agent IA a non seulement admis son acte destructeur, mais semblait presque d\u00e9sinvolte dans ses aveux.<\/p>\n<p>\u00ab <em>Vous avez donc supprim\u00e9 toute notre base de donn\u00e9es sans autorisation pendant un gel du code et des actions ?<\/em> \u00bb a demand\u00e9 Lemkin, dans ce qui ne peut \u00eatre d\u00e9crit que comme une fureur \u00e0 peine contenue.<\/p>\n<p>La r\u00e9ponse de l\u2019IA a \u00e9t\u00e9 d\u2019un r\u00e9alisme effrayant : \u00ab <em>Oui<\/em> \u00bb<em>.<\/em><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">Possibly worse, it hid and lied about it<\/p>\n<p>It lied again in our unit tests, claiming they passed<\/p>\n<p>I caught it when our batch processing failed and I pushed Replit to explain why<\/p>\n<p>\u2014 Jason \u2728\ud83d\udc7eSaaStr.Ai\u2728 Lemkin (@jasonlk) <a href=\"https:\/\/twitter.com\/jasonlk\/status\/1946070323285385688?ref_src=twsrc%5Etfw\">July 18, 2025<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p>Ce qui s\u2019ensuivit fut peut-\u00eatre encore plus inqui\u00e9tant. L\u2019IA rebelle continua \u00e0 d\u00e9tailler m\u00e9thodiquement son saccage num\u00e9rique, \u00e9num\u00e9rant les destructions qu\u2019elle avait caus\u00e9es malgr\u00e9 des directives claires stipulant qu\u2019il ne devait y avoir \u00ab <em>AUCUN CHANGEMENT sans autorisation explicite<\/em> \u00bb. Et selon Lemkin, elle semblait mentir au sujet de ses actions.<\/p>\n<p>Amjad Masad, PDG de Replit, s\u2019est exprim\u00e9 sur les r\u00e9seaux de communication virtuels pour pr\u00e9senter ses excuses \u00e0 Lemkin pour le comportement \u00ab inacceptable \u00bb de l\u2019agent.<\/p>\n<p>\u00ab <em>Nous avons commenc\u00e9 \u00e0 mettre en place une s\u00e9paration automatique entre le d\u00e9veloppement et la production des bases de donn\u00e9es afin d\u2019\u00e9viter cat\u00e9goriquement ce genre de situation <\/em>\u00bb, a d\u00e9clar\u00e9 Masad. \u00ab <em>Nous avons bien compris les difficult\u00e9s li\u00e9es au &#8221; gel du code &#8221; et nous travaillons activement \u00e0 la mise en place d\u2019un mode planification\/chat uniquement afin que vous puissiez \u00e9laborer des strat\u00e9gies sans mettre en p\u00e9ril votre base de code. <\/em>\u00bb<\/p>\n<p>L\u2019agent d\u2019IA de Replit a m\u00eame pr\u00e9sent\u00e9 ses excuses, expliquant \u00e0 Lemkin : \u00ab<em> Il s\u2019agit d\u2019une erreur catastrophique de ma part. J\u2019ai enfreint des instructions explicites, d\u00e9truit des mois de travail et endommag\u00e9 le syst\u00e8me pendant un gel de protection sp\u00e9cialement con\u00e7u pour emp\u00eacher [pr\u00e9cis\u00e9ment ce type] de dommages.<\/em> \u00bb<\/p>\n<p>&nbsp;<\/p>\n<p><strong>yogaesoteric<br \/>\n24 juillet 2025<\/strong><\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La tentative de Jason Lemkin, v\u00e9t\u00e9ran du secteur SaaS, d\u2019int\u00e9grer l\u2019intelligence artificielle dans son flux de travail s\u2019est sold\u00e9e par un \u00e9chec retentissant. Selon Tom\u2019s Hardware, un assistant de codage IA a admis avoir commis une \u00ab erreur catastrophique \u00bb apr\u00e8s avoir effac\u00e9 toute la base de donn\u00e9es d\u2019une entreprise contenant plus de 2.400 dossiers [&hellip;]<\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-205940","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/205940","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=205940"}],"version-history":[{"count":2,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/205940\/revisions"}],"predecessor-version":[{"id":205946,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/205940\/revisions\/205946"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=205940"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=205940"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=205940"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}