{"id":179836,"date":"2024-11-29T10:15:08","date_gmt":"2024-11-29T10:15:08","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=179836"},"modified":"2024-11-29T10:15:08","modified_gmt":"2024-11-29T10:15:08","slug":"openai-google-et-anthropic-se-heurtent-a-des-obstacles-dans-lavancement-des-modeles-dia-ce-qui-laisse-planer-des-doutes-sur-lagi-a-court-terme","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/openai-google-et-anthropic-se-heurtent-a-des-obstacles-dans-lavancement-des-modeles-dia-ce-qui-laisse-planer-des-doutes-sur-lagi-a-court-terme\/","title":{"rendered":"OpenAI, Google et Anthropic se heurtent \u00e0 des obstacles dans l\u2019avancement des mod\u00e8les d\u2019IA, ce qui laisse planer des doutes sur l\u2019AGI \u00e0 court terme"},"content":{"rendered":"

Les entreprises technologiques qui se concentrent sur le d\u00e9veloppement de chatbots, comme OpenAI, Google et Anthropic, ont \u00e9t\u00e9 confront\u00e9es \u00e0 d\u2019importants vents contraires \u00e0 court terme pour faire progresser les grands mod\u00e8les de langage. Malgr\u00e9 des dizaines de milliards de dollars d\u2019investissements, ces entreprises technologiques enregistrent des rendements d\u00e9croissants dans la mise au point de LLM plus sophistiqu\u00e9s.\"\"<\/p>\n

Des sources ont indiqu\u00e9 \u00e0 Bloomberg<\/em><\/u><\/a> que le nouveau LLM Orion d\u2019OpenAI a connu des limitations de performance. Cela signifie que le nouveau LLM serait plus performant que les mod\u00e8les existants de l\u2019entreprise, mais cela ne signifie pas qu\u2019il y aura un saut significatif dans le d\u00e9veloppement, comme celui de GPT-3 \u00e0\u00a0GPT-4.<\/p>\n

\u00ab \u00c0 la fin de l\u2019\u00e9t\u00e9, par exemple, Orion n\u2019\u00e9tait pas \u00e0 la hauteur lorsqu\u2019il tentait de r\u00e9pondre \u00e0 des questions de codage pour lesquelles il n\u2019avait pas \u00e9t\u00e9 form\u00e9, ont d\u00e9clar\u00e9 les personnes concern\u00e9es. Dans l\u2019ensemble, Or<\/em>ion n\u2019est pas consid\u00e9r\u00e9 jusqu\u2019\u00e0 pr\u00e9sent comme un progr\u00e8s aussi important par rapport aux mod\u00e8les existants d\u2019OpenAI que GPT-4 l\u2019\u00e9tait par rapport \u00e0 GPT-3.5, le syst\u00e8me qui alimentait \u00e0 l\u2019origine le chatbot phare de l\u2019entreprise, ont d\u00e9clar\u00e9 les personnes. <\/em>\u00bb\u00a0<\/em>\u2013<\/em>\u00a0<\/em>Bloomberg<\/em><\/p>\n

Le rythme effr\u00e9n\u00e9 du d\u00e9veloppement de LLM plus sophistiqu\u00e9s semble \u00e9galement avoir frapp\u00e9 un mur proverbial chez Google, o\u00f9 son logiciel Gemini n\u2019a pas r\u00e9pondu aux attentes, selon les sources, ajoutant qu\u2019Anthropic est \u00e9galement confront\u00e9 \u00e0 des d\u00e9fis avec son mod\u00e8le Claude tant attendu, appel\u00e9 3.5 Opus.<\/p>\n

Bloomberg<\/em> note que l\u2019un des principaux obstacles rencontr\u00e9s par ces entreprises technologiques a \u00e9t\u00e9 de \u00ab trouver de nouvelles sources inexploit\u00e9es de donn\u00e9es d\u2019entra\u00eenement de haute qualit\u00e9, cr\u00e9\u00e9es par l\u2019homme, qui peuvent \u00eatre utilis\u00e9es pour construire des syst\u00e8mes d\u2019IA plus avanc\u00e9s<\/em> \u00bb.<\/p>\n

Selon certaines sources, les pi\u00e8tres performances d\u2019Orion en mati\u00e8re de codage s\u2019expliquent par le manque de donn\u00e9es de codage suffisantes pour entra\u00eener le LLElles ont ajout\u00e9 que m\u00eame si le mod\u00e8le pr\u00e9sente des am\u00e9liorations par rapport aux anciens mod\u00e8les, il est de plus en plus difficile de justifier les co\u00fbts consid\u00e9rables li\u00e9s \u00e0 la construction et \u00e0 l\u2019exploitation de nouveaux mod\u00e8les.<\/p>\n

Ces revers pourraient r\u00e9v\u00e9ler une v\u00e9rit\u00e9 d\u00e9rangeante pour l\u2019industrie technologique qui consacre des dizaines de milliards de dollars aux centres de donn\u00e9es et \u00e0 l\u2019infrastructure de l\u2019IA, et la possibilit\u00e9 d\u2019atteindre l\u2019intelligence g\u00e9n\u00e9rale artificielle dans un avenir proche pourrait \u00eatre une chim\u00e8re.\"\"<\/p>\n

John Schulman, cofondateur et chercheur scientifique d\u2019OpenAI, qui a r\u00e9cemment quitt\u00e9 l\u2019entreprise, a d\u00e9clar\u00e9 que l\u2019AGI pourrait \u00eatre atteinte dans quelques ann\u00e9es. Dario Amodei, PDG d\u2019Anthropic, pense qu\u2019elle pourrait voir le jour d\u2019ici 2026.<\/p>\n

Cependant, Margaret Mitchell, responsable de l\u2019\u00e9thique chez Hugging Face, une startup sp\u00e9cialis\u00e9e dans l\u2019IA, a fait remarquer que \u00ab la bulle de l\u2019AGI est en train d\u2019\u00e9clater un peu<\/em> \u00bb, ajoutant que des \u00ab approches de formation diff\u00e9rentes<\/em> \u00bb pourraient s\u2019av\u00e9rer n\u00e9cessaires pour progresser.<\/p>\n

Dans un entretien<\/u><\/a> r\u00e9cent avec Lex Fridman, Amodei, d\u2019Anthropic, a d\u00e9clar\u00e9 qu\u2019il y a \u00ab beaucoup de choses<\/em> \u00bb qui pourraient \u00ab faire d\u00e9railler<\/em> \u00bb la progression de l\u2019IA, y compris la possibilit\u00e9 que \u00ab nous manquions de donn\u00e9es <\/em>\u00bb. Il s\u2019est toutefois montr\u00e9 optimiste quant \u00e0 la capacit\u00e9 des chercheurs en IA \u00e0 surmonter les obstacles.<\/p>\n

Les efforts de mise \u00e0 l\u2019\u00e9chelle ralentissent\u2026.\u2026\"\"<\/p>\n

\u00ab Il s\u2019agit moins d\u2019une question de quantit\u00e9 que de qualit\u00e9 et de diversit\u00e9 des donn\u00e9es<\/em> \u00bb, a d\u00e9clar\u00e9 Lila Tretikov, responsable de la strat\u00e9gie en mati\u00e8re d\u2019IA chez New Enterprise Associates et ancienne directrice adjointe de la technologie chez Microsoft.<\/p>\n

Selon elle, \u00ab nous pouvons g\u00e9n\u00e9rer des quantit\u00e9s de mani\u00e8re synth\u00e9tique, mais nous avons du mal \u00e0 obtenir des ensembles de donn\u00e9es uniques et de haute qualit\u00e9 sans l\u2019aide de l\u2019homme, en particulier lorsqu\u2019il s\u2019agit du langage <\/em>\u00bb.<\/p>\n

Noah Giansiracusa, professeur agr\u00e9g\u00e9 de math\u00e9matiques \u00e0 l\u2019universit\u00e9 Bentley de Waltham (Massachusetts), estime que les mod\u00e8les d\u2019IA continueront \u00e0 s\u2019am\u00e9liorer, mais que l\u2019hypercroissance de ces derni\u00e8res ann\u00e9es n\u2019est pas viable :
\n\u00ab Nous avons \u00e9t\u00e9 tr\u00e8s enthousiastes pendant une br\u00e8ve p\u00e9riode de progr\u00e8s tr\u00e8s rapides. Ce n\u2019\u00e9tait tout simplement pas durable.<\/em> \u00bb<\/p>\n

Si les entreprises technologiques peinent \u00e0 am\u00e9liorer les performances du LLM, cela soul\u00e8ve de s\u00e9rieux doutes quant \u00e0 la possibilit\u00e9 de continuer \u00e0 investir massivement dans l\u2019infrastructure de l\u2019IA.<\/p>\n

\u00ab La construction de l\u2019infrastructure pour l\u2019IA est la bulle. Les entreprises d\u2019IA 2.0 capables de trouver un moyen de la mon\u00e9tiser s<\/em>eront celles qui investiront dans les ann\u00e9es \u00e0 venir. Autant allumer une allumette pour ce fonds. La construction de l\u2019infrastructure, comme l\u2019infrastructure des t\u00e9l\u00e9communications pendant le boom de l\u2019Internet, sera surabondante et les prix s\u2019effondreront<\/em> \u00bb, a r\u00e9cemment d\u00e9clar\u00e9<\/u><\/a> Edward Dowd sur X.\"\"<\/p>\n

Le fait que les entreprises sp\u00e9cialis\u00e9es dans l\u2019IA s\u2019efforcent de mettre au point des modules de formation continue plus avanc\u00e9s est sans aucun doute un signe inqui\u00e9tant pour la bulle de l\u2019IA.<\/p>\n

 <\/p>\n

yogaesoteric
\n29 novembre 2024<\/strong><\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Les entreprises technologiques qui se concentrent sur le d\u00e9veloppement de chatbots, comme OpenAI, Google et Anthropic, ont \u00e9t\u00e9 confront\u00e9es \u00e0 d\u2019importants vents contraires \u00e0 court terme pour faire progresser les grands mod\u00e8les de langage. Malgr\u00e9 des dizaines de milliards de dollars d\u2019investissements, ces entreprises technologiques enregistrent des rendements d\u00e9croissants dans la mise au point de […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-179836","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/179836","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=179836"}],"version-history":[{"count":1,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/179836\/revisions"}],"predecessor-version":[{"id":179850,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/179836\/revisions\/179850"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=179836"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=179836"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=179836"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}