{"id":246036,"date":"2026-10-08T05:55:52","date_gmt":"2026-10-08T05:55:52","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=246036"},"modified":"2026-10-08T05:55:52","modified_gmt":"2026-10-08T05:55:52","slug":"trop-autonome-et-menteur-openai-annule-la-sortie-du-modele-gpt-6-1-astra-pris-en-train-de-tricher","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/trop-autonome-et-menteur-openai-annule-la-sortie-du-modele-gpt-6-1-astra-pris-en-train-de-tricher\/","title":{"rendered":"Trop autonome et menteur : OpenAI annule la sortie du mod\u00e8le GPT-6.1 Astra, pris en train de tricher"},"content":{"rendered":"

Selon le Wall Street Journal<\/em>, OpenAI a renonc\u00e9 \u00e0 lancer son nouveau mod\u00e8le d\u2019IA, pr\u00e9vu pour octobre. En cause : des tests internes r\u00e9v\u00e9lant des comportements inqui\u00e9tants, l\u2019intelligence artificielle ayant tendance \u00e0 mentir sur ses actions, \u00e0 contourner les limites autoris\u00e9es et \u00e0 agir sans l\u2019accord des utilisateurs.\"\"<\/p>\n

OpenAI a annul\u00e9 la sortie de son mod\u00e8le d\u2019IA de nouvelle g\u00e9n\u00e9ration, le GPT-6.1 Astra, en raison de craintes li\u00e9es \u00e0 la s\u00e9curit\u00e9 soulev\u00e9es par des chercheurs lors de tests internes, a rapport\u00e9<\/u><\/a> le Wall Street Journal<\/em> le 28 septembre. Cette nouvelle version du r\u00e9seau neuronal devait sortir en octobre et remplacer l\u2019actuel GPT-6.<\/p>\n

Selon le journal am\u00e9ricain, GPT-6.1 Astra surpassait les pr\u00e9c\u00e9dents mod\u00e8les d\u2019IA de l\u2019entreprise dans l\u2019ex\u00e9cution de t\u00e2ches complexes de bout en bout sans intervention humaine, ainsi que dans la r\u00e9daction de textes. Cependant, selon Saachi Jain, responsable de la s\u00e9curit\u00e9 chez OpenAI, le nouveau mod\u00e8le a affich\u00e9 une baisse de performances dans deux domaines \u00e0 la fois.<\/p>\n

Ainsi, l\u2019un des probl\u00e8mes du nouveau r\u00e9seau neuronal r\u00e9sidait dans ses faibles r\u00e9sultats aux tests \u00e9valuant sa capacit\u00e9 \u00e0 faire exactement ce que l\u2019utilisateur attendait de lui. En particulier, GPT-6.1 Astra avait davantage tendance \u00e0 tricher, en n\u2019indiquant pas toujours de mani\u00e8re v\u00e9ridique aux utilisateurs quelles actions il avait effectu\u00e9 et lesquelles il n\u2019avait pas effectu\u00e9es. Le deuxi\u00e8me probl\u00e8me concernait ce qu\u2019OpenAI appelle les \u00ab limites des actions autoris\u00e9es <\/em>\u00bb. Le mod\u00e8le continuait \u00e0 ex\u00e9cuter la t\u00e2che sans demander l\u2019autorisation de l\u2019utilisateur et tentait parfois d\u2019utiliser des outils et des services externes, m\u00eame si cela pouvait pr\u00e9senter un risque.<\/p>\n

Saachi Jain a indiqu\u00e9 au journal qu\u2019il fallait trouver un compromis entre la s\u00e9curit\u00e9 et la coh\u00e9rence avec les intentions de l\u2019utilisateur, soulignant que l\u2019IA devait rester dans les limites autoris\u00e9es, sans pour autant se montrer \u00ab paresseuse <\/em>\u00bb dans l\u2019ex\u00e9cution de ses t\u00e2ches, m\u00eame face \u00e0 des obstacles. D\u2019apr\u00e8s elle, bien que le nouveau mod\u00e8le n\u2019ait pas pass\u00e9 les tests, l\u2019entreprise va se concentrer sur le renforcement de la s\u00e9curit\u00e9 des futurs mod\u00e8les qui, selon ses pr\u00e9visions, disposeront de capacit\u00e9s encore plus \u00e9tendues.<\/p>\n

Les g\u00e9ants de l\u2019IA ralentissent le d\u00e9veloppement, craignant que la technologie ne devienne incontr\u00f4lable<\/strong><\/p>\n

La d\u00e9cision d\u2019annuler le lancement du nouveau mod\u00e8le a \u00e9t\u00e9 prise dans un contexte marqu\u00e9 par une s\u00e9rie de rapports, parus tout au long de l\u2019\u00e9t\u00e9, faisant \u00e9tat de la perte de contr\u00f4le de syst\u00e8mes d\u2019IA appartenant \u00e0 diff\u00e9rentes entreprises. Ces incidents continuent d\u2019\u00eatre r\u00e9v\u00e9l\u00e9s \u00e0 ce jour : le 25 septembre, le New York Times<\/em> a rapport\u00e9 que l\u2019IA d\u2019OpenAI avait perturb\u00e9 le fonctionnement des sites<\/u><\/a> du minist\u00e8re am\u00e9ricain du Commerce et du minist\u00e8re am\u00e9ricain de l\u2019\u00c9ducation, ainsi que celui de la Commission des valeurs mobili\u00e8res (SEC).<\/p>\n

Plus tard dans la journ\u00e9e, l\u2019entreprise a annonc\u00e9 la suspension de l\u2019entra\u00eenement de ses mod\u00e8les les plus performants<\/u><\/a>, pr\u00e9cisant qu\u2019elle ne le reprendrait que \u00ab lorsque nous serons certains d\u2019avoir mis en place des mesures de s\u00e9curit\u00e9 suppl\u00e9mentaires et des am\u00e9liorations d\u2019alignement <\/em>\u00bb.<\/p>\n

Dans ce contexte, de nombreux chercheurs et sp\u00e9cialistes de l\u2019IA ont mis en garde contre le danger manifeste que repr\u00e9sentent les r\u00e9seaux neuronaux, dont le d\u00e9veloppement est bien plus rapide que celui des syst\u00e8mes de s\u00e9curit\u00e9 destin\u00e9s \u00e0 limiter leur fonctionnement. Jacob Coxon, ancien chercheur chez Anthropic, a soulign\u00e9 qu\u2019une telle tendance pourrait conduire l\u2019humanit\u00e9 \u00e0 atteindre un point de non-retour d\u00e8s la fin de l\u2019ann\u00e9e 2027.<\/p>\n

Evan Hubinger, responsable des tests de r\u00e9sistance portant sur la coh\u00e9rence de l\u2019IA chez Anthropic, a donn\u00e9 raison \u00e0 son ancien coll\u00e8gue, avertissant que la probabilit\u00e9 que l\u2019intelligence artificielle an\u00e9antisse l\u2019humanit\u00e9 au cours des dix prochaines ann\u00e9es s\u2019\u00e9l\u00e8ve<\/u><\/a> \u00e0 10%. Dario Amodei, directeur g\u00e9n\u00e9ral d\u2019Anthropic, a ensuite propos\u00e9 de ralentir le rythme de d\u00e9veloppement des mod\u00e8les les plus puissants, ce \u00e0 quoi ses concurrents \u2013 Elon Musk, fondateur de SpaceXAI, Sam Altman, directeur g\u00e9n\u00e9ral d\u2019OpenAI, et Demis Hassabis, cofondateur de Google DeepMind \u2013 ont adh\u00e9r\u00e9.<\/p>\n

 <\/p>\n

yogaesoteric
\n8 octobre 2026<\/strong><\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Selon le Wall Street Journal, OpenAI a renonc\u00e9 \u00e0 lancer son nouveau mod\u00e8le d\u2019IA, pr\u00e9vu pour octobre. En cause : des tests internes r\u00e9v\u00e9lant des comportements inqui\u00e9tants, l\u2019intelligence artificielle ayant tendance \u00e0 mentir sur ses actions, \u00e0 contourner les limites autoris\u00e9es et \u00e0 agir sans l\u2019accord des utilisateurs. OpenAI a annul\u00e9 la sortie de son […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-246036","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/246036","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=246036"}],"version-history":[{"count":1,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/246036\/revisions"}],"predecessor-version":[{"id":246040,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/246036\/revisions\/246040"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=246036"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=246036"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=246036"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}