L’étrange résonance entre IA en réseau et dérégulation économique<\/strong>\n <\/p>\n\n ![\"\"](\"\/all_uploads\/uploads5\/octombrie\/16\/20967_3.jpg\")
\n <\/p>\n
Pourquoi Elon Musk perpétue-t-il donc cette inquiétude, quant à une technologie qui semble être en bonne voie de régulation ? Parce qu’il a très bien perçu qu’au-delà des intentions, nous pourrions perdre le contrôle des machines pensantes de la même façon et pour les mêmes raisons qu’on perd le contrôle des régulations économiques. On va le voir, l’IA est en quelque sorte une extension surpuissante prolongeant le libéralisme économique, pouvant en amplifier les effets non contrôlés dans des proportions inconcevables.<\/p>\n
Pour comprendre ce nouveau danger, on doit introduire une brève distinction technique. L’IA emploie des méthodes assez variées, pouvant se ramener cependant à deux grandes catégories : les approches « cognitivistes » et « connexionnistes ».<\/p>\n
Les premières correspondent à la tentative naturelle de fabriquer une intelligence : elles modélisent le raisonnement, posent un univers de règles et d’inférences, déduisent et concluent avant d’agir. Elles « comprennent » les problèmes qu’elles abordent, dans la mesure où elles apprennent à les interpréter. Ces approches sont sans danger, car elles restent entièrement traçables : on peut à tout moment détecter et comprendre pourquoi la machine a pris telle ou telle décision. Ces approches ont connu un certain succès au début de l’IA, mais se sont révélées insuffisantes face à certains problèmes complexes, notamment ceux visant à reconnaître des formes, à synthétiser des informations continues, à mimer au plus près le comportement humain.<\/p>\n
L’approche connexionniste emploie une tout autre notion, celle d’intelligence collective. Elle met en œuvre un très grand nombre de petites unités simples, souvent inspirées du vivant telles que les neurones, pourvues d’une faible intelligence individuelle, mais de capacités phénoménales lorsqu’elles agissent en réseau. L’unité élémentaire est une cellule répondant à des stimuli d’entrée par quelques réponses simples, qu’elle propage aux cellules environnantes. Le réseau connexionniste n’a aucune « compréhension » de la situation à laquelle il est confronté: il se contente de répondre à des stimuli par d’autres stimuli.<\/p>\n
Des lois très simples régissent les connexions entre les cellules : lorsque deux d’entre elles sont excitées conjointement, leur liaison se renforce, dans le cas contraire, leur liaison s’affaiblit. Ce réseau de liaisons sait très mal répondre à ce qu’on lui demande d’apprendre au tout début. Mais rapidement, en lui montrant un très grand nombre d’exemples de réponses qu’il doit associer aux données qu’il reçoit, il se renforce constamment en pertinence et en précision, jusqu’à obtenir une efficacité sans égale.<\/p>\n
L’approche connexionniste est l’intelligence de la fourmilière : chaque unité est rudimentaire, mais collectivement, elle atteint une capacité très supérieure à la somme des capacités individuelles de ses membres. Les sciences cognitives expliquent encore mal comment un réseau de cellules simples obéissant à quelques lois de renforcement de leurs liaisons peut arriver à s’adapter et à résoudre les problèmes les plus complexes. Elles parlent de « qualités émergentes », « d’auto organisation », mais plus pour en constater l’efficacité que la prouver.<\/p>\n
Caractéristique gênante, les approches connexionnistes sont quasiment intraçables, contrairement aux approches cognitivistes. Il n’est plus possible d’expliquer simplement pourquoi le réseau a pris telle ou telle décision, le résultat étant noyé dans un jeu d’innombrables pondérations croisées dont on ne peut retrouver le fil. Une approche purement connexionniste est pour cette raison non admissible dans une voiture autonome. Des tentatives ont été faites de reconstituer le « raisonnement » du réseau, mais elles sont encore peu convaincantes.<\/p>\n
Cet élément technique acquis, nous pouvons comprendre que le danger ne viendra pas d’un cyborg tueur, mais de millions de petites cellules intelligentes, agissant en réseau, s’auto-renforçant et évoluant en permanence jusqu’à la mutation.<\/p>\n
\n ![\"\"](\"\/all_uploads\/uploads5\/octombrie\/16\/20967_4.jpg\")
\n <\/p>\n
La puissance de l’intelligence répartie est d’autant plus redoutable qu’elle est disséminée. Et la dissémination suprême consiste évidemment à être répartie partout sur le Web. Une interview de Musk et de Sam Altman, responsable de l’un des principaux incubateurs de la Valley, est plus qu’explicite : la question n’est pas celle du robot, qui n’est qu’un ensemble de capteurs et d’actionneurs, mais des algorithmes se trouvant sur le Web, selon les propres termes de Musk.<\/p>\n
L’IA redoutable est immatérielle : pas de manchette d’acier ou de rayon fatal comme le veulent les séries B de science-fiction, mais des millions de petits logiciels répartis, peu intelligents en eux-mêmes mais agissant en réseau de façon coordonnée, parvenant à une maîtrise collective stupéfiante mais non traçable et sans qu’une entité en particulier ne soit responsable.<\/p>\n
Quels pourraient être ces dangers d’une telle IA répartie ? On sait déjà que des algorithmes complexes flairent nos moindres goûts et centres d’intérêt pour présenter des propositions alléchantes à chaque détour d’un site de commerce en ligne. L’anticipation des désirs des gens par recoupement d’informations atteint parfois une précision si confondante qu’elle est inquiétante.<\/p>\n
Étendons cette compréhension fine à d’autres domaines. La tarification de tous les services auxquels on souscrit peut-être rendue totalement variable, ajustable en temps réel. Irréaliste ? C’est pourtant le cas de nos billets de train, dont le prix varie très fortement en fonction du moment. La tarification variable possède une justification très rationnelle, celle d’optimiser les pics de charge d’utilisation du service, en incitant à se présenter aux heures creuses. Ceci conduisit Uber à demander des tarifs exorbitants lors des attentats de Londres, simplement parce que l’algorithme calculait que les taxis devenaient une denrée rare et que l’on pouvait profiter de ce nouvel ajustement de l’offre et de la demande… Les algorithmes n’avaient aucune éthique vis-à-vis de la détresse dans laquelle se trouvaient les passants, l’optimisation du mieux-disant étant leur seule logique.<\/p>\n
Si les services deviennent ainsi ajustables, changeant leurs tarifs sans prévenir et sans aucune notion d’engagement, pourquoi ne pas étendre de tels principes au droit du travail ? Des algorithmes répartis mondialement compareraient en permanence les salaires, taux de disponibilité et productivité de chacun, et ajusteraient un contrat de travail instantané en permanence. La flexibilité parfaite, justifiée par le fait qu’ainsi chacun serait payé exactement à sa juste valeur, instantanément remplaçable si l’opportunité le permet. Nul souci dans cette belle optimisation, de la précarité qui interdirait tout projet personnel ni du long terme nécessaire au développement d’un être humain.<\/p>\n
L’on ne pourrait confier ainsi son avenir à un tel système de calcul ? On vient pourtant de vivre une affectation des bacheliers dans les universités selon un algorithme de tirage aléatoire, soumettant les destins personnels de milliers d’étudiants au résultat arbitraire d’un algorithme. Celui-ci ne comportait pas d’IA, mais précisément imaginons son usage dans des cas touchant aux études ou son emploi : la décision est indétectable, non reconstituable, et sans responsable identifié car disséminée dans les interactions de milliers de modules coopératifs. Restera l’argument massue de considérer qu’il ne peut s’agir que de la décision la plus optimisée, donc ne souffrant aucune discussion.<\/p>\n
\n ![\"\"](\"\/all_uploads\/uploads5\/octombrie\/16\/20967_5.jpg\")
\n <\/p>\n
Le droit du travail étant attaqué, pourquoi ne pas élargir le champ au droit tout court ? Impossible ? Le cabinet d’avocats BakerHostetler emploie depuis 2016 Ross, une IA fondée sur une technologie d’IBM effectuant en quelques secondes l’équivalent de milliers d’heures de travail de recherche dans les textes par des avocats humains. Les cols blancs ne sont pas plus épargnés par les menaces que l’IA fait planer sur leur emploi, avec une ubérisation de la profession d’avocat désormais en marche.<\/p>\n
La logique du mieux disant qui est la seule loi des réseaux connexionnistes pourrait aboutir à des dérapages très dangereux dans le domaine du droit. Les sociétés postmodernes ont de plus en plus tendance à relâcher l’universalité de la loi pour céder à son adaptation régionale voire à son complet morcellement selon les villes et quartiers. L’on voit ainsi régulièrement des élus expliquer que l’interdiction des femmes dans les cafés, l’observance d’interdits alimentaires religieux ou l’imposition de certaines relations hommes \/ femmes doit faire l’objet d’une adaptation au cas par cas.<\/p>\n
Les motivations de telles démissions sont connues: il s’agit d’une optimisation électorale, une suradaptation à la réalité locale de chaque quartier pour engranger le maximum de voix. Quelle tentation que celle d’un algorithme qui calculerait en permanence les adaptations de la loi en fonction des rapports de force locaux, assurant une paix fondée sur la flexibilité aux revendications des plus majoritaires localement et permettant une maximisation des chances électorales. La logique d’intelligence répartie répond à la décentralisation complète de nos règles, autorisant toutes les compromissions locales à partir du moment où elles sont rentables, économiquement comme électoralement.<\/p>\n
Il ne faut pas penser que le monde matériel serait épargné, parce que c’est par le seul biais de morceaux de logiciels que l’IA agit. L’internet des objets remplace la puissance de calcul centralisée dans un PC par des dizaines de petits objets communicants, plus spécialisés et moins puissants qu’un ordinateur, mais agissant de façon redoutablement coordonnée pour gérer sa maison. Étendus au-delà du domicile, on sera environnés de milliers de tels petits objets, interagissant en permanence pour recréer des logiques de réseaux disséminés. Mais qui dit dissémination dit faille : une cyberattaque récente s’est attaquée à des milliers de caméras de surveillance, beaucoup plus difficiles à toutes contrôler et protéger, pour investir des sites internet mondialement fréquentés.<\/p>\n
L’étape ultime intervient lorsque la frontière entre le numérique et le vivant se met à céder. Elon Musk affirme qu’on est déjà des cyborgs, les smartphones et autres objets connectés étant devenus des prothèses prolongeant l’usage des membres et des sens. Des connexions directes de l’influx nerveux vers les smartphones sont envisagées, faisant des objets connectés des membres de son corps à part entière. Enfin, des « nano-bots », robots microscopiques, pourraient être injectés dans le flux sanguin. Individuellement capables d’opérations très limitées, leur organisation en réseau permettrait d’accomplir des tâches médicales de haute volée. Mais pour cette application de l’intelligence disséminée comme pour d’autres, que se passe-t-il si elle développe sa propre logique par auto-organisation, échappant à la sienne ?<\/p>\n
\n Le jour où la terre s’arrêta et la mémoire d’Athènes<\/strong>\n <\/p>\n\n ![\"\"](\"\/all_uploads\/uploads5\/octombrie\/16\/20967_6.jpg\")
\n <\/p>\n
Le danger réel de l’IA et sa résonance troublante avec la dérégulation moderne apparaissent de manière frappante dans les deux versions du film de SF « Le jour où la terre s’arrêta », dans son ancienne version de 1951 et dans celle moderne de 2008. L’extraterrestre chargé de mettre en garde les terriens contre leur prochaine destruction est accompagné d’un robot garde du corps, Gort. Dans la version de 1951, Gort est représenté sous une forme humanoïde compacte et unie, capable de terrasser un adversaire par sa force mécanique ou un rayon émis par une fente oculaire. Il représente le fantasme du cyborg tueur, longtemps populaire, mais dont on vient de comprendre qu’il n’est pas le vrai danger. Le Gort de la version de 2008, accompagnant Keanu Reeves, est capable de se dissocier en une multitude innombrable de petits insectes mécaniques, pouvant se reproduire, se déplaçant comme une nuée tueuse. La puissance collective de cet essaim est bien plus redoutable que celle du robot de 1951, car elle accomplit à elle seule la tâche de destruction de la terre.<\/p>\n
La nouvelle version du film a bien ressenti l’évolution postmoderne. Les menaces ne sont plus un adversaire identifiable et massif, comme l’étaient les totalitarismes classiques. Elles sont fluides, adaptables, se dispersant à tous vents si l’on cherche à les pilonner, se resserrant comme les anneaux d’un python dans une étreinte implacable dès que l’opportunité se présente. Les réactions des marchés financiers à la moindre velléité d’ouvrir d’autres politiques ont cette fluidité des systèmes disséminés et coordonnés en réseau.<\/p>\n
Telle est l’IA moderne, amplificateur inouï des dévoiements du libéralisme, car procédant du même principe de suradaptation aux plus petits équilibres locaux et de poursuite d’objectifs qui n’ont plus d’autre règle qu’eux-mêmes. Les humains déjà variables d’ajustement économiques deviendraient les animaux de compagnie des processus de l’IA, tolérés tant qu’ils n’introduisent pas trop d’impuretés dans l’optimisation d’ensemble, rayés d’un trait de crayon numérique plus implacable encore que celui des actionnaires s’ils s’opposent à la marche de l’optimalité.<\/p>\n
La parade à ces nuées ardentes ? Il faut s’attacher à l’universalité de la loi, rester dans ce domaine irréductiblement athénien, refuser les compromissions de l’adaptation instinctive et opportuniste qui dissout les hommes et l’éthique.<\/p>\n
Le danger n’est pas seulement technologique, il est surtout dans le fait que ces intelligences non humaines renvoient les gens à leur propre déshumanisation.<\/p>\n
<\/p>\n
\n yogaesoteric
16 octobre 2019<\/strong>\n <\/p>\n\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
« L’Intelligence artificielle constitue un risque majeur pour la civilisation » a déclaré Elon Musk, PDG notamment de Neuralink, start-up dont l’objectif est d’ajouter au cerveau humain une part d’intelligence artificielle. Marc Rameaux analyse la dérégulation transhumaniste qui guette les gens. Marc Rameaux est Directeur de projet dans une grande entreprise industrielle. Il est […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_uf_show_specific_survey":0,"_uf_disable_surveys":false,"footnotes":""},"categories":[1260],"tags":[],"class_list":["post-22379","post","type-post","status-publish","format-standard","hentry","category-yoga-pour-les-debutants-1587-fr"],"_links":{"self":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/22379","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/comments?post=22379"}],"version-history":[{"count":0,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/posts\/22379\/revisions"}],"wp:attachment":[{"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/media?parent=22379"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/categories?post=22379"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yogaesoteric.net\/fr\/wp-json\/wp\/v2\/tags?post=22379"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"\"](\"\/all_uploads\/uploads5\/octombrie\/16\/20967_1.jpg\")
\n <\/p>\n![\"\"](\"\/all_uploads\/uploads5\/octombrie\/16\/20967_2.jpg\")
\n <\/p>\n