{"id":153498,"date":"2024-04-01T12:39:16","date_gmt":"2024-04-01T12:39:16","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=153498"},"modified":"2024-04-01T12:39:16","modified_gmt":"2024-04-01T12:39:16","slug":"separer-linformation-de-la-desinformation-les-menaces-de-la-revolution-de-lia","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/separer-linformation-de-la-desinformation-les-menaces-de-la-revolution-de-lia\/","title":{"rendered":"S\u00e9parer l\u2019information de la d\u00e9sinformation : Les menaces de la r\u00e9volution de l\u2019IA"},"content":{"rendered":"

par Per Bylund<\/p>\n

L\u2019intelligence artificielle (IA) ne peut pas distinguer les faits de la fiction. Elle n\u2019est pas non plus cr\u00e9ative et ne peut pas cr\u00e9er de nouveaux contenus, mais r\u00e9p\u00e8te, reconditionne et reformule ce qui a d\u00e9j\u00e0 \u00e9t\u00e9 dit (mais peut-\u00eatre d\u2019une mani\u00e8re nouvelle).<\/p>\n

\"\"Je suis s\u00fbr que quelqu\u2019un ne sera pas d\u2019accord avec ce dernier point, en soulignant peut-\u00eatre que l\u2019IA peut clairement g\u00e9n\u00e9rer, par exemple, de nouvelles chansons et de nouvelles paroles. Je suis d\u2019accord avec cette affirmation, mais elle n\u2019est pas pertinente. L\u2019IA produit de \u00ab nouvelles \u00bb paroles de chansons uniquement en puisant dans les donn\u00e9es des paroles de chansons pr\u00e9c\u00e9dentes et utilise ensuite ces informations (les mod\u00e8les d\u00e9couverts par induction) pour g\u00e9n\u00e9rer ce qui nous semble \u00eatre une nouvelle chanson (et qui peut tr\u00e8s bien en \u00eatre une). Cependant, il n\u2019y a pas de talent artistique, pas de cr\u00e9ativit\u00e9. Ce n\u2019est qu\u2019un remaniement structurel de ce qui existe d\u00e9j\u00e0.<\/p>\n

Bien s\u00fbr, nous pouvons d\u00e9battre de la mesure dans laquelle les humains peuvent avoir des pens\u00e9es vraiment nouvelles et si l\u2019apprentissage humain peut \u00eatre bas\u00e9 uniquement ou principalement sur le mim\u00e9tisme. Toutefois, m\u00eame si nous admettons, pour les besoins de l\u2019argumentation, que tout ce que nous savons et faisons n\u2019est que reproduction, les \u00eatres humains ont une capacit\u00e9 limit\u00e9e \u00e0 se souvenir exactement et commettent des erreurs. Nous comblons \u00e9galement les lacunes par ce qui nous semble subjectivement (et non objectivement) logique (test de Rorschach, quelqu\u2019un ?). M\u00eame dans ce sc\u00e9nario tr\u00e8s limit\u00e9, avec lequel je ne suis pas d\u2019accord, les humains g\u00e9n\u00e8rent de la nouveaut\u00e9 au-del\u00e0 de ce que l\u2019IA est capable de faire.<\/p>\n

L\u2019incapacit\u00e9 \u00e0 distinguer les faits de la fiction et l\u2019attachement inductif \u00e0 des mod\u00e8les de donn\u00e9es existants sont des probl\u00e8mes qui peuvent \u00eatre r\u00e9solus par des programmes, mais qui se pr\u00eatent \u00e0 la manipulation.<\/p>\n

Manipulation et propagande<\/strong><\/p>\n

Lorsque Google a lanc\u00e9 son IA Gemini en f\u00e9vrier, il est imm\u00e9diatement apparu que l\u2019IA avait un programme woke. Entre autres choses, l\u2019IA a pouss\u00e9 les id\u00e9aux de diversit\u00e9 woke<\/u><\/a> dans toutes les r\u00e9ponses possibles et imaginables et a notamment refus\u00e9 de montrer des images de personnes blanches (y compris lorsqu\u2019on lui a demand\u00e9 de produire des images des P\u00e8res fondateurs).<\/p>\n

Marc Andreessen, gourou de la technologie et investisseur de la Silicon Valley, a r\u00e9sum\u00e9<\/u><\/a> la situation sur X (anciennement Twitter) : \u00ab Je sais que c\u2019est difficile \u00e0 croire, mais l\u2019<\/em>IA des grandes entreprises technologiques produit les r\u00e9sultats qu\u2019elle produit parce qu\u2019elle ex\u00e9cute pr\u00e9cis\u00e9ment l\u2019agenda id\u00e9ologique, radical et biais\u00e9 de ses cr\u00e9ateurs. Les r\u00e9sultats apparemment bizarres sont voulus \u00e0 100 %. Elle fonctionne comme pr\u00e9vu.<\/em> \u00bb<\/p>\n

Il y a en effet une conception de ces IA au-del\u00e0 des moteurs de cat\u00e9gorisation et de g\u00e9n\u00e9ration de base. Les r\u00e9ponses ne sont pas parfaitement inductives ou g\u00e9n\u00e9ratives. Cela est en partie n\u00e9cessaire pour rendre l\u2019IA utile : des filtres et des r\u00e8gles sont appliqu\u00e9s pour s\u2019assurer que les r\u00e9ponses g\u00e9n\u00e9r\u00e9es par l\u2019IA sont appropri\u00e9es, qu\u2019elles correspondent aux attentes de l\u2019utilisateur et qu\u2019elles sont exactes et respectueuses. Compte tenu de la situation juridique, les cr\u00e9ateurs d\u2019IA doivent \u00e9galement s\u2019assurer que l\u2019IA ne viole pas, par exemple, les lois sur la propri\u00e9t\u00e9 intellectuelle ou qu\u2019elle ne tient pas de discours haineux. L\u2019IA est \u00e9galement con\u00e7ue (dirig\u00e9e) de mani\u00e8re \u00e0 ce qu\u2019elle ne se d\u00e9r\u00e8gle pas ou qu\u2019elle n\u2019offense pas ses utilisateurs (vous vous souvenez de Tay<\/u><\/a>\u00a0?).\"\"<\/p>\n

Toutefois, \u00e9tant donn\u00e9 que de tels filtres sont appliqu\u00e9s et que le \u00ab comportement \u00bb de l\u2019IA est d\u00e9j\u00e0 dirig\u00e9, il est facile d\u2019aller un peu plus loin. Apr\u00e8s tout, quand une r\u00e9ponse est-elle trop offensante par rapport \u00e0 une r\u00e9ponse offensante mais dans les limites du discours autoris\u00e9 ? Il s\u2019agit d\u2019une ligne fine et difficile qui doit \u00eatre sp\u00e9cifi\u00e9e de mani\u00e8re programmatique.<\/p>\n

Cela ouvre \u00e9galement la possibilit\u00e9 d\u2019orienter les r\u00e9ponses g\u00e9n\u00e9r\u00e9es au-del\u00e0 de la simple assurance qualit\u00e9. Avec les filtres d\u00e9j\u00e0 en place, il est facile de faire en sorte que l\u2019IA fasse des d\u00e9clarations d\u2019un type sp\u00e9cifique ou qu\u2019elle pousse l\u2019utilisateur dans une certaine direction (en termes de faits, d\u2019interpr\u00e9tations et de visions du monde s\u00e9lectionn\u00e9s). Il est \u00e9galement possible de donner \u00e0 l\u2019IA un ordre du jour, comme le sugg\u00e8re Andreessen, par exemple en la rendant implacablement woke.<\/p>\n

L\u2019IA peut donc \u00eatre utilis\u00e9e comme un outil de propagande efficace, ce que les entreprises qui la cr\u00e9ent et les gouvernements et agences qui la r\u00e9glementent ont reconnu.<\/p>\n

M\u00e9sinformation et erreur<\/strong><\/p>\n

Les \u00c9tats ont longtemps refus\u00e9 d\u2019admettre qu\u2019ils b\u00e9n\u00e9ficiaient de la propagande et qu\u2019ils l\u2019utilisaient pour diriger et contr\u00f4ler leurs sujets. Cela s\u2019explique en partie par le fait qu\u2019ils souhaitent conserver un vernis de l\u00e9gitimit\u00e9 en tant que gouvernements d\u00e9mocratiques qui gouvernent sur la base des opinions de la population (plut\u00f4t que de les fa\u00e7onner). La propagande a une mauvaise connotation : c\u2019est un moyen de contr\u00f4le.<\/p>\n

Cependant, on dit que les ennemis de l\u2019\u00c9tat \u2013 tant nationaux qu\u2019\u00e9trangers \u2013 comprennent le pouvoir de la propagande et n\u2019h\u00e9sitent pas \u00e0 l\u2019utiliser pour semer le chaos dans notre soci\u00e9t\u00e9 d\u00e9mocratique qui, par ailleurs, n\u2019est pas entach\u00e9e. Le gouvernement doit nous prot\u00e9ger de ces manipulations, affirment-ils. Bien s\u00fbr, il est rare que cela s\u2019arr\u00eate \u00e0 la simple d\u00e9fense. Nous l\u2019avons vu clairement lors de la pand\u00e9mie de covidie, au cours de laquelle le gouvernement et les entreprises de m\u00e9dias sociaux ont en fait interdit l\u2019expression d\u2019opinions qui ne correspondaient pas \u00e0 la ligne officielle (voir Murthy v. Missouri<\/u><\/a>).<\/p>\n

L\u2019IA est tout aussi facile \u00e0 manipuler \u00e0 des fins de propagande que les algorithmes des m\u00e9dias sociaux, mais avec l\u2019avantage suppl\u00e9mentaire qu\u2019il ne s\u2019agit pas seulement des opinions des gens et que les utilisateurs ont tendance \u00e0 croire que ce que l\u2019IA rapporte est vrai. Comme nous l\u2019avons vu dans l\u2019article<\/u><\/a> sur la r\u00e9volution de l\u2019IA, cette hypoth\u00e8se n\u2019est pas valable, mais elle est n\u00e9anmoins largement r\u00e9pandue.<\/p>\n

Si l\u2019IA peut \u00eatre charg\u00e9e de ne pas commenter certaines choses que les cr\u00e9ateurs (ou les r\u00e9gulateurs) ne veulent pas que les gens voient ou apprennent, alors elle est effectivement \u00ab trou\u00e9e de m\u00e9moire \u00bb. Ce type d\u2019informations \u00ab ind\u00e9sirables \u00bb ne se r\u00e9pandra pas car les gens n\u2019y seront pas expos\u00e9s \u2013 comme le fait de ne montrer que diverses repr\u00e9sentations des P\u00e8res fondateurs (comme le Gemini de Google) ou de ne pr\u00e9senter, par exemple, que des v\u00e9rit\u00e9s macro\u00e9conomiques keyn\u00e9siennes pour donner l\u2019impression qu\u2019il n\u2019y a pas d\u2019autre point de vue. Les gens ne savent pas ce qu\u2019ils ne savent pas.\"\"<\/p>\n

Bien s\u00fbr, rien ne dit que ce qui est pr\u00e9sent\u00e9 \u00e0 l\u2019utilisateur est vrai. En fait, l\u2019IA elle-m\u00eame ne peut pas distinguer les faits de la v\u00e9rit\u00e9 et ne fait que g\u00e9n\u00e9rer des r\u00e9ponses en fonction des directives et de ce qu\u2019on lui a donn\u00e9 \u00e0 manger. Cela laisse beaucoup de place \u00e0 la d\u00e9formation de la v\u00e9rit\u00e9 et peut faire croire au monde entier \u00e0 des mensonges purs et simples. L\u2019IA peut donc facilement \u00eatre utilis\u00e9e pour imposer un contr\u00f4le, que ce soit \u00e0 un \u00c9tat, aux sujets qu\u2019il gouverne ou m\u00eame \u00e0 une puissance \u00e9trang\u00e8re.<\/p>\n

La v\u00e9ritable menace de l\u2019IA<\/strong><\/p>\n

Quelle est donc la v\u00e9ritable menace de l\u2019IA ? Les grands mod\u00e8les de langage n\u2019\u00e9volueront pas (ne peuvent pas \u00e9voluer) vers l\u2019intelligence g\u00e9n\u00e9rale artificielle, car il n\u2019y a rien dans le tri inductif de grandes quantit\u00e9s d\u2019informations (cr\u00e9\u00e9es par l\u2019homme) qui puisse donner naissance \u00e0 la conscience. Pour \u00eatre franc, nous n\u2019avons m\u00eame pas encore compris ce qu\u2019est la conscience, alors penser que nous la cr\u00e9erons (ou qu\u2019elle \u00e9mergera d\u2019une mani\u00e8re ou d\u2019une autre d\u2019algorithmes d\u00e9couvrant des corr\u00e9lations linguistiques statistiques dans des textes existants) est tout \u00e0 fait hyperbolique. L\u2019intelligence artificielle g\u00e9n\u00e9rale est encore hypoth\u00e9tique.<\/p>\n

L\u2019IA ne repr\u00e9sente pas non plus une menace \u00e9conomique. Elle ne rendra pas les humains \u00e9conomiquement superflus et ne provoquera pas de ch\u00f4mage de masse. L\u2019IA est un capital productif, qui a donc de la valeur dans la mesure o\u00f9 il sert les consommateurs en contribuant \u00e0 la satisfaction de leurs besoins. Une IA mal utilis\u00e9e a autant de valeur qu\u2019une usine mal utilis\u00e9e \u2013 elle tendra vers sa valeur de rebut. Toutefois, cela ne signifie pas que l\u2019IA n\u2019aura aucun impact sur l\u2019\u00e9conomie. Elle le fera, et l\u2019a d\u00e9j\u00e0 fait, mais cet impact n\u2019est pas aussi important \u00e0 court terme que certains le craignent, et il est probablement plus important \u00e0 long terme que ce que nous pr\u00e9voyons.<\/p>\n

Non, la v\u00e9ritable menace est l\u2019impact de l\u2019IA sur l\u2019information. Cela s\u2019explique en partie par le fait que l\u2019induction est une source inappropri\u00e9e de connaissances \u2013 la v\u00e9rit\u00e9 et les faits ne sont pas une question de fr\u00e9quence ou de probabilit\u00e9s statistiques. Les preuves et les th\u00e9ories de Nicolaus Copernic et de Galileo Galilei seraient \u00e9limin\u00e9es comme improbables (fausses) par une IA form\u00e9e \u00e0 tous les \u00e9crits (les meilleurs et les plus brillants) sur le g\u00e9ocentrisme de l\u2019\u00e9poque. Il n\u2019y a pas de progr\u00e8s ni d\u2019apprentissage de nouvelles v\u00e9rit\u00e9s si nous ne faisons confiance qu\u2019aux th\u00e9ories historiques et aux pr\u00e9sentations des faits.<\/p>\n

Toutefois, ce probl\u00e8me peut probablement \u00eatre surmont\u00e9 par une programmation intelligente (c\u2019est-\u00e0-dire en appliquant des r\u00e8gles et des limitations bas\u00e9es sur les faits au probl\u00e8me de l\u2019induction), du moins dans une certaine mesure. Le plus grand probl\u00e8me est la corruption de ce que l\u2019IA pr\u00e9sente : la d\u00e9sinformation, la m\u00e9sinformation et la malinformation que ses cr\u00e9ateurs et administrateurs, ainsi que les gouvernements et les groupes de pression, lui ordonnent de cr\u00e9er afin de contr\u00f4ler ou d\u2019orienter l\u2019opinion publique ou les connaissances.\"\"<\/p>\n

C\u2019est l\u00e0 le v\u00e9ritable danger que signalait la d\u00e9sormais c\u00e9l\u00e8bre lettre ouverte<\/u><\/a> sign\u00e9e par Elon Musk, Steve Wozniak et d\u2019autres :
\n\u00ab Devrions-nous laisser les machines inonder nos canaux d\u2019information de propagande et de contre-v\u00e9rit\u00e9 ? Devrions-nous automatiser tous les emp<\/em>lois, y compris ceux qui sont gratifiants ? Devons-nous d\u00e9velopper des esprits non humains qui pourraient un jour \u00eatre plus nombreux, plus intelligents, plus obsol\u00e8tes et nous remplacer ? Devrions-nous risquer de perdre le contr\u00f4le de notre civilisation ? <\/em>\u00bb<\/p>\n

Hormis la r\u00e9f\u00e9rence \u00e0 l’\u00ab automatisation de tous les emplois \u00bb, qui n\u2019a rien d\u2019\u00e9conomique, l\u2019avertissement est pertinent. L\u2019IA ne se mettra pas \u00e0 nous ha\u00efr \u00e0 la mani\u00e8re de Terminator <\/em>et \u00e0 tenter d\u2019exterminer l\u2019humanit\u00e9. Elle ne nous transformera pas tous en batteries biologiques, comme dans Matrix<\/em>. Cependant, elle nous d\u00e9sinformera et nous induira en erreur, cr\u00e9era le chaos et risque de rendre nos vies \u00ab solitaires, pauvres, m\u00e9chantes, brutales et courtes \u00bb, surtout lorsqu\u2019elle est corrompue.<\/p>\n

 <\/p>\n

yogaesoteric
\n1 avril 2024<\/strong><\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

par Per Bylund L\u2019intelligence artificielle (IA) ne peut pas distinguer les faits de la fiction. Elle n\u2019est pas non plus cr\u00e9ative et ne peut pas cr\u00e9er de nouveaux contenus, mais r\u00e9p\u00e8te, reconditionne et reformule ce qui a d\u00e9j\u00e0 \u00e9t\u00e9 dit (mais peut-\u00eatre d\u2019une mani\u00e8re nouvelle). Je suis s\u00fbr que quelqu\u2019un ne sera pas d\u2019accord avec […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-153498","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/153498","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=153498"}],"version-history":[{"count":1,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/153498\/revisions"}],"predecessor-version":[{"id":153511,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/153498\/revisions\/153511"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=153498"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=153498"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=153498"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}