{"id":57149,"date":"2021-10-19T14:44:22","date_gmt":"2021-10-19T14:44:22","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=57149"},"modified":"2021-10-19T14:44:50","modified_gmt":"2021-10-19T14:44:50","slug":"57149","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/57149\/","title":{"rendered":"La guerre pour l\u2019intelligence artificielle"},"content":{"rendered":"

Le fant\u00f4me d\u2019Edward Teller a d\u00fb faire le tour des membres de la Commission Nationale sur l\u2019Intelligence Artificielle<\/em>. Le p\u00e8re de la bombe \u00e0 hydrog\u00e8ne ne fut jamais trop pr\u00e9occup\u00e9 par des doutes d\u2019ordre \u00e9thique li\u00e9s \u00e0 l\u2019invention de technologies meurtri\u00e8res. Ce n\u2019\u00e9tait pas, par exemple, \u00ab le travail des scientifiques de d\u00e9terminer si une bombe \u00e0 hydrog\u00e8ne devait \u00eatre construite, si elle devait \u00eatre utilis\u00e9e ou comment elle devait \u00eatre utilis\u00e9e<\/em> \u00bb. La responsabilit\u00e9, de quelque mani\u00e8re qu\u2019elle soit exerc\u00e9e, revenait au peuple am\u00e9ricain et \u00e0 ses repr\u00e9sentants \u00e9lus.<\/p>\n

L\u2019utilisation de l\u2019Intelligence Artificielle<\/em> a tourment\u00e9 les gens attach\u00e9s \u00e0 l\u2019\u00e9thique, mais enthousiasme certains leaders et inventeurs. Le Pr\u00e9sident russe Vladimir Poutine a affirm\u00e9<\/a> avec grandiloquence qu\u2019\u00ab il \u00e9tait impossible d\u2019assurer (s\u00e9curiser ?) le futur de notre civilisation <\/em>\u00bb sans une ma\u00eetrise de l\u2019Intelligence Artificielle<\/em>, de la g\u00e9n\u00e9tique, des syst\u00e8mes d\u2019armes sans \u00e9quipage et des armes hypersoniques.<\/p>\n

\"\"<\/a><\/p>\n

Les militants contre l\u2019utilisation de syst\u00e8mes d\u2019armes automatis\u00e9s dans les guerres voient leur nombre grandir. Le secr\u00e9taire g\u00e9n\u00e9ral de l\u2019ONU, Antonio Guterres, est l\u2019un d\u2019entre eux. \u00ab Les machines automatis\u00e9es avec le pouvoir et la discr\u00e9tion de choisir des cibles et de prendre des vies sans implication humaine <\/em>\u00bb \u00e9crivait<\/a>-il sur Twitter en Mars 2019 \u00ab sont inacceptables politiquement, r\u00e9pugnantes moralement, et devraient \u00eatre interdites par les lois internationales <\/em>\u00bb. Le Comit\u00e9 International pour le contr\u00f4le des armes robotis\u00e9es<\/em>, la Campagne pour arr\u00eater les robots tueurs<\/em> et Human Rights Watch<\/em> sont d\u00e9vou\u00e9s au bannissement des syst\u00e8mes d\u2019armes automatis\u00e9es l\u00e9tales. Les experts en armements tels que Zachary Kallenborn consid\u00e8rent cette position cat\u00e9gorique comme intenable, pr\u00e9f\u00e9rant un bannissement plus modeste sur les armes pr\u00e9sentant le risque le plus \u00e9lev\u00e9 ; les nu\u00e9es de drones, les armes automatis\u00e9es chimiques, biologiques, radiologiques et nucl\u00e9aires.<\/p>\n

Les d\u00e9tracteurs de tels syst\u00e8me d\u2019armements \u00e9taient tenus \u00e0 distance dans le projet de rapport<\/a> de la Commission destin\u00e9 au Congr\u00e8s. Ce document a vraiment un air de scientifique fou au service sanguinaire d\u2019un ma\u00eetre. C\u2019est logique, \u00e9tant donn\u00e9 que le pr\u00e9sident en est \u00c9ric Schmidt, conseiller technique chez Alphabet Inc., Compagnie m\u00e8re de Google, dont il \u00e9tait le directeur ex\u00e9cutif. Avec Schmidt aux commandes, nous pouvions \u00eatre s\u00fbrs d\u2019un show d\u00e9pouill\u00e9 de toute entrave morale. \u00ab La promesse de l\u2019IA, c\u2019est \u00e0 dire qu\u2019une machine puisse percevoir, d\u00e9cider et agir plus rapidement, dans un environnement plus complexe, avec plus de pr\u00e9cision qu\u2019un humain \u2013 constitue un avantage concurrentiel dans tout domaine. Elle sera employ\u00e9e \u00e0 des fins militaires, par des gouvernements et des groupes non-\u00e9tatiques. <\/em>\u00bb<\/p>\n

Dans sa d\u00e9position devant le Comit\u00e9 de services arm\u00e9s du S\u00e9nat, le 23 f\u00e9vrier, Schmidt a mis en exergue les \u00ab fondamentaux<\/em> \u00bb consistant \u00e0 conserver l\u2019ascendant US. Cela incluait le maintien de la comp\u00e9titivit\u00e9 nationale et la conception de la chose militaire avec ces fondamentaux \u00e0 l\u2019esprit. Mais pour ce faire, cela n\u00e9cessitait de la part de l\u2019establishment (responsable de la s\u00e9curit\u00e9) de garder les yeux grands ouverts sur tout dangereux rival. (Schmidt comprend suffisamment bien le Congr\u00e8s pour savoir que les pics de financement et de d\u00e9penses tendent \u00e0 \u00eatre li\u00e9s \u00e0 la mise en \u00e9vidence de menaces). Il voit \u00ab la menace de la sup\u00e9riorit\u00e9 chinoise dans les domaines de technologies-cl\u00e9s. \u00bb <\/em>comme \u00ab une crise nationale \u00bb<\/em>. En terme d\u2019IA, \u00ab seuls les USA et la Chine <\/em>\u00bb avaient \u00ab les ressources, la puissance commerciale, la r\u00e9serve de talents et l\u2019\u00e9cosyst\u00e8me n\u00e9cessaires pour diriger le monde<\/em> \u00bb. Au cours de la prochaine d\u00e9cennie, P\u00e9kin pourrait m\u00eame \u00ab d\u00e9passer les USA en tant que superpuissance mondiale pour l\u2019IA <\/em>\u00bb.<\/p>\n

La d\u00e9position de Schmidt pointe g\u00e9n\u00e9reusement sur la th\u00e8se de la menace chinoise. \u00ab Jamais auparavant dans le cours de ma vie<\/em> \u00bb pr\u00e9tend-il \u00ab ai-je \u00e9t\u00e9 plus inquiet de nous voir remplacer par un rival ou plus conscient de ce qu\u2019une seconde place signifie pour notre \u00e9conomie, notre s\u00e9curit\u00e9 ou le futur de notre nation<\/em> \u00bb. Il craignait que de telles inqui\u00e9tudes ne soient pas partag\u00e9es par les cercles officiels, avec le D\u00e9partement de D\u00e9fense traitant \u00ab l\u2019informatique comme une priorit\u00e9 mineure <\/em>\u00bb. L\u00e0, il pouvait donner des conseils sur des le\u00e7ons apprises dans les grouillantes entreprises de la Silicon Valley, o\u00f9 les principes ont la vie courte. Celles d\u00e9di\u00e9es \u00e0 la d\u00e9fense pouvaient \u00ab former des \u00e9quipes intelligentes, mener \u00e0 bien des projets difficiles, et se mettre en mouvement rapidement<\/em> \u00bb. \u00ab Des missiles <\/em>\u00bb,<\/em> fait-il valoir, devraient \u00eatre construits \u00ab \u00e0 la fa\u00e7on dont on fabrique maintenant des voitures : utiliser un atelier de conception pour d\u00e9velopper et simuler par ordinateur <\/em>\u00bb<\/p>\n

\"\"<\/a><\/p>\n

Tout cela signifie glorifier une forme moins r\u00e9pressible d\u2019IA, notamment dans ses applications militaires. Deux jours de discussions publiques virent le Vice-Pr\u00e9sident du comit\u00e9 Robert Work, vanter<\/a> les vertus de l\u2019IA au combat. \u00ab C\u2019est un imp\u00e9ratif moral d\u2019au moins suivre cette hypoth\u00e8se <\/em>\u00bb affirmant que \u00ab les armements automatiques ne tireront pas de fa\u00e7on indiscrimin\u00e9e, \u00e0 moins qu\u2019on les con\u00e7oive ainsi <\/em>\u00bb. Le diable est dans l\u2019humain, comme il l\u2019a toujours \u00e9t\u00e9.<\/p>\n

D\u2019une mani\u00e8re rappelant les d\u00e9bats relatifs au partage des armes atomiques, au sortir de la Seconde Guerre Mondiale, le comit\u00e9 \u00ab pousse les USA \u00e0 suivre une strat\u00e9gie compl\u00e8te en lien \u00e9troit avec nos alli\u00e9s et partenaires pour l\u2019innovation et l\u2019adoption d\u2019une Intelligence Artificielle, qui mette en avant les valeurs cruciales des soci\u00e9t\u00e9s libres et ouvertes <\/em>\u00bb. Une coalition sugg\u00e9r\u00e9e entre les puissances et les partenaires partageant les m\u00eames valeurs, se concentrerait sur le r\u00f4le des \u00ab technologies \u00e9mergentes respectant les normes et les valeurs d\u00e9mocratiques <\/em>\u00bb et \u00ab coordonnerait des politiques pour contrer l\u2019utilisation n\u00e9faste de ces technologies par des r\u00e9gimes autoritaires <\/em>\u00bb. Pass\u00e9 rapidement aux oubliettes, est le fait que des distinctions telles que r\u00e9gimes autoritaires et d\u00e9mocratiques ont peu de sens au bout d\u2019un fusil.<\/p>\n

Des changements en interne sont aussi sugg\u00e9r\u00e9s pour voler dans les plumes de certains. Le D\u00e9partement d\u2019\u00c9tat sort du lot quand il s\u2019agit d\u2019\u00e9voquer ce qui n\u00e9cessite des r\u00e9formes. \u00ab Il n\u2019y a actuellement aucune direction claire pour une politique ou une diplomatie autour des technologies \u00e9mergentes au sein du d\u00e9partement d\u2019\u00c9tat, ce qui limite la capacit\u00e9 du D\u00e9partement pour prendre des d\u00e9cisions strat\u00e9giques dans le domaine technologique <\/em>\u00bb. Quand ils se tournent vers le D\u00e9partement d\u2019\u00c9tat, les alli\u00e9s et les partenaires sont dans l\u2019embarras car ils ne savent pas vers quel fonctionnaire ils doivent se tourner, et ce pour une quantit\u00e9 de sujets, qu\u2019il s\u2019agisse d\u2019IA, d\u2019informatique quantique, de 5G, de biotechnologies ou de nouvelles technologies \u00e9mergentes.<\/p>\n

En g\u00e9n\u00e9ral, le gouvernement US se distingue par son d\u00e9labrement, se voit reprocher d\u2019op\u00e9rer \u00ab \u00e0 vitesse humaine et pas \u00e0 la vitesse des machines <\/em>\u00bb. Il se tra\u00eene quand il s\u2019agit du d\u00e9veloppement commercial de l\u2019IA. Il souffre de \u00ab d\u00e9ficits techniques qui vont de r\u00e9ductions d\u2019effectif dans le domaine digital, \u00e0 des politiques d\u2019acquisition inad\u00e9quates, une architecture en r\u00e9seau insuffisante ou des faiblesses dans le traitement de donn\u00e9es <\/em>\u00bb.<\/p>\n

La politique officielle du Pentagone<\/a>, en l\u2019\u00e9tat actuel des choses, est que des syst\u00e8mes d\u2019armements autonomes ou semi-autonomes devraient \u00eatre \u00ab con\u00e7us pour permettre aux commandants et aux op\u00e9rateurs d\u2019exercer des niveaux de jugements humains appropri\u00e9s quant au recours \u00e0 la force <\/em>\u00bb. En Octobre 2019, le Minist\u00e8re de la D\u00e9fense a adopt\u00e9 diff\u00e9rents principes \u00e9thiques concernant le recours militaire \u00e0 l\u2019IA, faisant ainsi du Centre d\u2019Intelligence Artificielle<\/em> du Minist\u00e8re de la d\u00e9fense le point focal. Cela inclut<\/a> de faire en sorte que le \u00ab personnel du D\u00e9partement de la D\u00e9fense exerce un niveau appropri\u00e9 de jugement et de soins, tout en demeurant responsable pour le d\u00e9veloppement, le d\u00e9ploiement, et le recours \u00e0 des moyens informatiques <\/em>\u00bb. Le principe de \u00ab tra\u00e7abilit\u00e9 <\/em>\u00bb est aussi inclus, avec le principe de contr\u00f4le humain, avec le personnel devant \u00ab poss\u00e9der une compr\u00e9hension appropri\u00e9e de la technologie, des processus de d\u00e9veloppement et des m\u00e9thodes op\u00e9rationnelles applicables au mat\u00e9riel dot\u00e9 d\u2019Intelligence Artificielle <\/em>\u00bb.<\/p>\n

La Commission Nationale<\/em> se paie de bonnes paroles vis \u00e0 vis de tels protocoles en reconnaissant que les op\u00e9rateurs, les organisations et le \u00ab peuple am\u00e9ricain <\/em>\u00bb ne soutiendraient pas des machines bas\u00e9es sur l\u2019IA, qui ne seraient pas \u00ab con\u00e7ues pour \u00eatre pr\u00e9visibles <\/em>\u00bb et avec des \u00ab principes clairs <\/em>\u00bb pr\u00e9sents \u00e0 l\u2019esprit. Mais en n\u2019\u00e9tant pas contraignante moralement, la sonnette d\u2019alarme devient un simple grincement. Le risque est \u00ab in\u00e9vitable <\/em>\u00bb et le fait de ne pas avoir recours \u00e0 l\u2019IA \u00ab pour r\u00e9soudre de v\u00e9ritables d\u00e9fis de S\u00e9curit\u00e9 Nationale risque de mettre les USA en position de faiblesse <\/em>\u00bb. Sp\u00e9cialement face \u00e0 la Chine.<\/p>\n

\u00a0<\/strong><\/p>\n

yogaesoteric
\n19 octobre 2021<\/strong><\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Le fant\u00f4me d\u2019Edward Teller a d\u00fb faire le tour des membres de la Commission Nationale sur l\u2019Intelligence Artificielle. Le p\u00e8re de la bombe \u00e0 hydrog\u00e8ne ne fut jamais trop pr\u00e9occup\u00e9 par des doutes d\u2019ordre \u00e9thique li\u00e9s \u00e0 l\u2019invention de technologies meurtri\u00e8res. Ce n\u2019\u00e9tait pas, par exemple, \u00ab le travail des scientifiques de d\u00e9terminer si une […]<\/p>\n","protected":false},"author":5,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1570],"tags":[],"class_list":["post-57149","post","type-post","status-publish","format-standard","hentry","category-la-menace-de-lintelligence-artificielle"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/57149","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=57149"}],"version-history":[{"count":2,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/57149\/revisions"}],"predecessor-version":[{"id":57157,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/57149\/revisions\/57157"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=57149"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=57149"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=57149"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}