{"id":238366,"date":"2026-06-29T08:02:37","date_gmt":"2026-06-29T08:02:37","guid":{"rendered":"https:\/\/yogaesoteric.net\/?p=238366"},"modified":"2026-06-29T08:02:37","modified_gmt":"2026-06-29T08:02:37","slug":"la-menace-liee-a-lia-predite-par-la-science-fiction-est-desormais-a-nos-portes","status":"publish","type":"post","link":"https:\/\/yogaesoteric.net\/fr\/la-menace-liee-a-lia-predite-par-la-science-fiction-est-desormais-a-nos-portes\/","title":{"rendered":"La menace li\u00e9e \u00e0 l\u2019IA pr\u00e9dite par la science-fiction est d\u00e9sormais \u00e0 nos portes"},"content":{"rendered":"

La science-fiction a depuis longtemps pr\u00e9dit les menaces et les d\u00e9fis pos\u00e9s par l\u2019IA. Dans l\u2019univers de Star Trek<\/em>, notamment dans la s\u00e9rie originale, saison 2, \u00e9pisode 24, \u00ab L\u2019ordinateur ultime<\/em> \u00bb, le Dr Leonard McCoy prononce cette r\u00e9plique marquante : \u00ab La compassion : c\u2019est la seule chose qu\u2019aucune machine n\u2019ait jamais eue. C\u2019est peut-\u00eatre la seule chose qui permet aux hommes de garder une longueur d\u2019avance sur elles. <\/em>\u00bb Cette r\u00e9plique intervient au lendemain d\u2019un incident au cours duquel un nouvel ordinateur r\u00e9volutionnaire dot\u00e9 d\u2019IA, le M5, a utilis\u00e9 sa logique artificielle d\u00e9pourvue d\u2019\u00e2me pour transformer un exercice d\u2019entra\u00eenement en un massacre meurtrier. Dans un autre \u00e9pisode de Star Trek<\/em>, on fait la connaissance de Nomad, une IA g\u00e9nocidaire qui purifie l\u2019univers de ses imperfections biologiques.\"\"<\/p>\n

Pr\u00e9figurant l\u2019av\u00e8nement d\u2019une IA dot\u00e9e d\u2019immenses capacit\u00e9s de piratage, \u00e0 l\u2019image de \u00ab Mythos \u00bb d\u2019Anthropic<\/a>, la s\u00e9rie r\u00e9invent\u00e9e \u00ab Battlestar Galactica <\/em>\u00bb (2003-2009) met en sc\u00e8ne les Cylons, cr\u00e9\u00e9s par l\u2019humanit\u00e9 et anim\u00e9s par l\u2019IA, qui utilisent leur capacit\u00e9 \u00e0 pirater n\u2019importe quel ordinateur connect\u00e9 au r\u00e9seau pour se rebeller, manquant de peu d\u2019exterminer leurs cr\u00e9ateurs. Dans la franchise \u00ab Terminator<\/em> \u00bb, Skynet est devenu \u00ab intelligent \u00bb (a acquis une conscience) et a d\u00e9cid\u00e9 du sort de l\u2019humanit\u00e9, \u00e0 savoir son \u00ab extermination \u00bb, en une \u00ab microseconde \u00bb, d\u00e9clenchant un Armageddon nucl\u00e9aire contre l\u2019humanit\u00e9. Ces r\u00e9cits mettent en garde contre le fait que l\u2019intelligence artificielle, sans mesures de protection solides, peut mener \u00e0 une catastrophe. Alors que les capacit\u00e9s de l\u2019IA continuent de progresser \u00e0 un rythme effr\u00e9n\u00e9 en 2026, la fiction se rapproche rapidement de la r\u00e9alit\u00e9. Les protections logicielles, les normes industrielles et les r\u00e9glementations disparates sont insuffisantes. Il est essentiel de disposer d\u2019une base plus solide : des architectures mat\u00e9rielles immuables et des modifications de la l\u00e9gislation nationale et internationale.<\/p>\n

Les trois lois de la robotique d\u2019Isaac Asimov<\/strong><\/p>\n

Comme le d\u00e9crit le magazine Spectrum<\/em> de l\u2019Institute of Electrical and Electronics Engineers, les trois lois de la robotique<\/a> du c\u00e9l\u00e8bre scientifique et \u00e9crivain de science-fiction Isaac Asimov, pr\u00e9sent\u00e9es dans ses nouvelles \u00ab I, Robot<\/em> \u00bb, fournissent un cadre r\u00e9fl\u00e9chi pour les mesures de protection en mati\u00e8re d\u2019intelligence artificielle :<\/p>\n

    \n
  1. Un robot ne doit pas porter atteinte \u00e0 un \u00eatre humain ni \u00e0 l\u2019humanit\u00e9, ni, par son inaction, permettre qu\u2019un \u00eatre humain ou l\u2019humanit\u00e9 subisse un pr\u00e9judice.<\/li>\n
  2. Un robot doit ob\u00e9ir aux ordres donn\u00e9s par les \u00eatres humains, sauf si ces ordres entrent en conflit avec la Premi\u00e8re Loi.<\/li>\n
  3. Un robot doit prot\u00e9ger sa propre existence, tant que cette protection n\u2019entre pas en conflit avec la Premi\u00e8re ou la Deuxi\u00e8me Loi.<\/li>\n<\/ol>\n

    En r\u00e9sum\u00e9, les lois d\u2019Asimov constituent un bon point de d\u00e9part, mais comme le d\u00e9crit en d\u00e9tail le chef-d\u2019\u0153uvre qui a suivi, la s\u00e9rie \u00ab Fondation<\/em> \u00bb, elles s\u2019av\u00e8rent insuffisantes lorsqu\u2019il s\u2019agit de prot\u00e9ger l\u2019humanit\u00e9 authentique. De plus, il sera tr\u00e8s difficile d\u2019int\u00e9grer des \u00e9quivalents dans l\u2019IA, comme cela a \u00e9t\u00e9 fait dans l\u2019univers d\u2019Asimov via le cerveau \u00ab positronique \u00bb. Mais relever ce d\u00e9fi pour cr\u00e9er des garde-fous allant au-del\u00e0 des approches logicielles est essentiel pour garantir que l\u2019IA ne profite qu\u2019\u00e0 l\u2019humanit\u00e9.<\/p>\n

    L\u2019insuffisance des garde-fous logiciels, du chiffrement et de la r\u00e9glementation \u00e0 eux seuls<\/strong><\/p>\n

    Les garde-fous logiciels sont modifiables et vuln\u00e9rables au piratage et aux exploits.<\/p>\n

    Et l\u2019histoire d\u00e9montre la fragilit\u00e9 de l\u2019autor\u00e9gulation : la fuite de donn\u00e9es chez Equifax<\/a> (2017), l\u2019attaque de la cha\u00eene d\u2019approvisionnement SolarWinds<\/a> (2020), la vuln\u00e9rabilit\u00e9 de MOVEit (2023) et les violations en cours montrent que les promesses des entreprises concernant des \u00ab protections robustes \u00bb \u00e9chouent fr\u00e9quemment.<\/p>\n

    Nous sommes dans un \u00ab Far West \u00bb de l\u2019IA, avec des cadres r\u00e9glementaires mondiaux ou nationaux contraignants insuffisants.<\/p>\n

    Une v\u00e9ritable protection gr\u00e2ce \u00e0 des \u00ab gardiens \u00bb mat\u00e9riels immuables<\/strong><\/p>\n

    L\u2019histoire d\u00e9montre que les mesures de s\u00e9curit\u00e9 logicielles ne peuvent pas, \u00e0 l\u2019heure actuelle, et ne pourront jamais offrir le niveau de protection requis. S\u2019inspirant du cerveau positronique d\u2019Asimov, les mesures de s\u00e9curit\u00e9 int\u00e9gr\u00e9es dans des ASIC (circuits int\u00e9gr\u00e9s sp\u00e9cifiques \u00e0 une application) constitueront une couche essentielle qui fournira les garde-fous permettant d\u2019augmenter les chances que l\u2019IA profite \u00e0 l\u2019humanit\u00e9 plut\u00f4t que de lui nuire. Ces puces sp\u00e9cialis\u00e9es int\u00e8grent des millions de lignes de logique logicielle complexe ou de r\u00e8gles qui sont physiquement grav\u00e9es directement dans le silicium lui-m\u00eame. Une fois la puce fabriqu\u00e9e et d\u00e9ploy\u00e9e, ces r\u00e8gles deviennent immuables : elles ne peuvent \u00eatre ni modifi\u00e9es, ni mises \u00e0 jour, ni contourn\u00e9es par des changements logiciels, des correctifs ou des tentatives de piratage. La seule fa\u00e7on de modifier la logique int\u00e9gr\u00e9e consiste \u00e0 concevoir et \u00e0 produire physiquement une puce ASIC enti\u00e8rement nouvelle, un processus co\u00fbteux, chronophage et tr\u00e8s visible. Cela cr\u00e9e un \u00ab pare-feu mat\u00e9riel \u00bb bien plus fiable que n\u2019importe quelle protection logicielle, garantissant que les contraintes de s\u00e9curit\u00e9 critiques restent verrouill\u00e9es, quelle que soit l\u2019ing\u00e9niosit\u00e9 ou l\u2019agressivit\u00e9 des futurs syst\u00e8mes d\u2019IA.<\/p>\n

    Les ASIC agiront comme des gardiens en ligne, physiquement fixes. \u00c0 l\u2019avenir, tant les processeurs d\u00e9di\u00e9s \u00e0 l\u2019IA que les processeurs \u00e0 usage g\u00e9n\u00e9ral pourraient int\u00e9grer ces minuscules ASIC directement dans le processeur central (CPU), en tant que couche mat\u00e9rielle de filtrage de l\u2019IA, constituant une partie standard et incontournable du CPU.<\/p>\n

    Quelques principes de conception fondamentaux sugg\u00e9r\u00e9s :<\/p>\n