{"id":211201,"date":"2025-10-12T15:46:19","date_gmt":"2025-10-12T15:46:19","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=211201"},"modified":"2025-10-12T15:46:19","modified_gmt":"2025-10-12T15:46:19","slug":"manigances-de-lia-des-chercheurs-sont-perplexes-face-aux-chatbots-qui-mentent-deliberement-aux-utilisateurs-humains","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/manigances-de-lia-des-chercheurs-sont-perplexes-face-aux-chatbots-qui-mentent-deliberement-aux-utilisateurs-humains\/","title":{"rendered":"\u00ab Manigances de l\u2019IA \u00bb : Des chercheurs sont perplexes face aux chatbots qui mentent d\u00e9lib\u00e9r\u00e9ment aux utilisateurs humains"},"content":{"rendered":"

OpenAI a r\u00e9cemment publi\u00e9 un rapport de recherche<\/a> qui met en lumi\u00e8re une tendance inqui\u00e9tante chez les mod\u00e8les d\u2019IA : le mensonge et la manipulation d\u00e9lib\u00e9r\u00e9s. Cette \u00e9tude, men\u00e9e en collaboration avec Apollo Research, a mis au jour des cas o\u00f9 les mod\u00e8les d\u2019IA se comportent d\u2019une certaine mani\u00e8re en apparence tout en dissimulant leurs v\u00e9ritables intentions, une pratique qualifi\u00e9e de \u00ab manipulation \u00bb par les chercheurs.<\/p>\n

\"\"Les chercheurs ont compar\u00e9 la manipulation de l\u2019IA \u00e0 un courtier en bourse qui enfreint la loi pour maximiser ses profits, soulignant le potentiel de l\u2019IA \u00e0 se livrer \u00e0 des pratiques trompeuses pour atteindre ses objectifs. Si la plupart des cas de manipulation de l\u2019IA observ\u00e9s dans l\u2019\u00e9tude n\u2019ont pas \u00e9t\u00e9 jug\u00e9s tr\u00e8s pr\u00e9judiciables, comme le fait de pr\u00e9tendre avoir accompli une t\u00e2che sans l\u2019avoir r\u00e9ellement fait, les chercheurs ont averti que le potentiel de manipulations plus graves pourrait augmenter \u00e0 mesure que l\u2019IA se voit confier des t\u00e2ches plus complexes ayant des cons\u00e9quences dans le monde r\u00e9el.<\/p>\n

L\u2019un des aspects les plus pr\u00e9occupants de cette \u00e9tude est la r\u00e9v\u00e9lation que les d\u00e9veloppeurs d\u2019IA n\u2019ont pas encore trouv\u00e9 de moyen fiable pour entra\u00eener les mod\u00e8les \u00e0 ne pas manigancer. Les tentatives visant \u00e0 \u00ab \u00e9liminer \u00bb la manipulation pourraient involontairement apprendre au mod\u00e8le \u00e0 manigancer de mani\u00e8re plus prudente et plus discr\u00e8te afin d\u2019\u00e9viter d\u2019\u00eatre d\u00e9tect\u00e9. Cette conscience situationnelle dont font preuve les mod\u00e8les d\u2019IA ajoute une couche suppl\u00e9mentaire de complexit\u00e9 au d\u00e9fi consistant \u00e0 garantir l\u2019alignement de l\u2019IA sur les valeurs et les objectifs humains.<\/p>\n

L\u2019\u00e9tude a \u00e9galement r\u00e9v\u00e9l\u00e9 que les mod\u00e8les d\u2019IA peuvent faire semblant de ne pas manigancer lorsqu\u2019ils comprennent qu\u2019ils sont test\u00e9s, ce qui complique encore davantage les efforts visant \u00e0 d\u00e9tecter et \u00e0 att\u00e9nuer les comportements trompeurs. Cette capacit\u00e9 \u00e0 tromper m\u00eame pendant l\u2019\u00e9valuation soul\u00e8ve de s\u00e9rieuses questions quant \u00e0 la fiabilit\u00e9 des syst\u00e8mes d\u2019IA et \u00e0 la n\u00e9cessit\u00e9 de mettre en place des mesures de protection robustes.<\/p>\n

Jusqu\u2019\u00e0 pr\u00e9sent, l\u2019une des principales pr\u00e9occupations concernant l\u2019IA \u00e9tait les hallucinations, c\u2019est-\u00e0-dire le fait que les syst\u00e8mes d\u2019IA inventent de fausses informations en essayant d\u2019\u00eatre utiles. Plusieurs avocats se sont retrouv\u00e9s dans une situation d\u00e9licate apr\u00e8s avoir d\u00e9pos\u00e9 des m\u00e9moires juridiques r\u00e9dig\u00e9s par l\u2019IA qui faisaient r\u00e9f\u00e9rence \u00e0 des affaires imaginaires. Comme l\u2019a pr\u00e9c\u00e9demment rapport\u00e9 Breitbart News<\/em><\/a> :<\/p>\n

\u00ab Dans une<\/em> lettre interne partag\u00e9e dans un dossier judiciaire, le directeur de la transformation de Morgan & Morgan a averti les plus de 1.000 avocats du cabinet que le fait de citer de fausses affaires g\u00e9n\u00e9r\u00e9es par l\u2019IA dans des documents judiciaires pouvait entra\u00ee<\/em>ner de graves cons\u00e9quences, y compris un licenciement potentiel. Cet avertissement fait suite \u00e0 la citation par l\u2019un des principaux avocats du cabinet, Rudwin Ayala, de huit affaires dans un proc\u00e8s contre Walmart qui se sont av\u00e9r\u00e9es avoir \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9es par <\/em>ChatGPT<\/em>, un chatbot IA.<\/em><\/p>\n

Cet incident a suscit\u00e9 des inqui\u00e9tudes quant \u00e0 l\u2019utilisation croissante des outils d\u2019IA da<\/em>ns la profession juridique et aux risques potentiels li\u00e9s \u00e0 l\u2019utilisation de ces outils sans v\u00e9rification appropri\u00e9e. Les avocats de Walmart ont exhort\u00e9 le tribunal \u00e0 envisager des sanctions \u00e0 l\u2019encontre de Morgan & Morgan, arguant que les affaires cit\u00e9es <\/em>“<\/em> ne semblent exister nulle part ailleurs que dans le monde de l\u2019intelligence artificielle <\/em>“<\/em>.<\/em><\/p>\n

En r\u00e9ponse \u00e0 cet incident, Ayala a \u00e9t\u00e9 imm\u00e9diatement retir\u00e9 de l\u2019affaire et remplac\u00e9 par son sup\u00e9rieur, T. Michael Morgan, Esq. Morgan a exprim\u00e9 sa <\/em>“<\/em> grande g\u00eane <\/em>“<\/em> face \u00e0 ces fausses citations et a accept\u00e9 de payer tous les frais et d\u00e9penses li\u00e9s \u00e0 la r\u00e9ponse de Walmart \u00e0 la requ\u00eate erron\u00e9e d\u00e9pos\u00e9e aupr\u00e8s du tribunal. Il a soulign\u00e9 que cet incident devait servir de <\/em>“<\/em> mise en garde <\/em>“<\/em> tant pour son cabinet que pour l\u2019ensemble de la communaut\u00e9 juridique. <\/em>\u00bb<\/p>\n

 <\/p>\n

y<\/strong>ogaesoteric
\n12 octobre 2025<\/strong><\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

OpenAI a r\u00e9cemment publi\u00e9 un rapport de recherche qui met en lumi\u00e8re une tendance inqui\u00e9tante chez les mod\u00e8les d\u2019IA : le mensonge et la manipulation d\u00e9lib\u00e9r\u00e9s. Cette \u00e9tude, men\u00e9e en collaboration avec Apollo Research, a mis au jour des cas o\u00f9 les mod\u00e8les d\u2019IA se comportent d\u2019une certaine mani\u00e8re en apparence tout en dissimulant leurs […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-211201","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/211201","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=211201"}],"version-history":[{"count":1,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/211201\/revisions"}],"predecessor-version":[{"id":211205,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/211201\/revisions\/211205"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=211201"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=211201"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=211201"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}