Le « Dark IA » : seul côté obscur de l’intelligence artificielle ?

Dans un monde informatique complexe et soucieux de sa sécurité, chaque semaine est porteuse de son lot d’innovations et autres révélations.

Ainsi, de nouveaux algorithmes plus intelligents et plus performants sont élaborés minutieusement et méthodiquement et l’on voit naitre du côté des professionnels l’envie de développer, et toujours plus, l’impact du SOAR – l’orchestration, l’automation et le temps de réponse dans le domaine de la sécurité – par des moyens autonomes.

Ces nouvelles techniques constituent peut-être un avantage pour nous aujourd’hui, mais elles pourraient bientôt se muer en alliés encore plus puissants pour nos adversaires. L’un des aspects les plus complexes des systèmes de sécurité autonomes de nouvelle génération consiste à trouver le juste équilibre entre intelligence et prévisibilité.

Attaques intelligentes et guérillas numériques

Ce n’est qu’une question de temps avant de voir émerger des attaques intelligentes, qu’il s’agisse de smart-phishing (diffusion d’un grand volume de spam, avec ciblage automatisé), de hivenets ou de swarmbots autonomes capables d’exécuter des attaques sans aucune supervision humaine ou encore de malwares polymorphes mutant au cours d’une attaque.

Les chercheurs white hat (en opposition au black hat, c’est-à-dire des individus aux pratiques éthiquement discutables) freinent actuellement les progrès des applications extrêmes de l’intelligence artificielle (IA), mais ils n’auront demain aucune emprise sur les responsables d’attaques et leurs méthodes. Ce côté obscur, le Dark AI, ne verra pas le jour dans un environnement étroitement contrôlé et son développement échappera certainement à toute réglementation.

La création de l’intelligence artificielle la plus efficace, fût-elle destructrice, s’affranchira des conséquences à long terme. Aujourd’hui, personne ne s’attend à ce que le Dark AI respecte les trois lois de la robotique. On peut toutefois prétendre que si l’IA et le machine learning seront effectivement en mesure de lancer de nouvelles formes d’attaques, elles ne seront pas en mesure de rivaliser quand elles seront utilisées en symbiose avec l’intelligence humaine. La course entre hackers et développeurs existe déjà aujourd’hui. Demain, elle sera encore plus vraie avec l’émergence de ces nouvelles technologies.

Si c’est un fait acquis que l’influence de l’IA devient prépondérante dans les solutions de cybersécurité, la création d’algorithmes complexes ne va pas de soi. Elle exige notamment des compétences de codage très pointues. Mais ce n’est là encore qu’une question de temps (et de moyens financiers) avant qu’on ne voie, en lieu et place de deux grandes armées s’affrontant sur le champ de bataille pour un unique combat décisif, une guerre hybride émergée, faite de milliers d’incidents et d’affrontements isolés, la plupart sans aucune intervention humaine. L’orchestration, l’automatisation et la possibilité de protéger l’ensemble des ressources au moyen d’outils de sécurité adaptatifs seront l’avenir du champ de bataille numérique.

Nouvel ordre mondial ?

Au-delà de ce qui ressemble à l’émergence d’un schéma que d’autres technologies ambivalentes nous font déjà vivre (le nucléaire, source d’énergie et armes nucléaires au Web et son Dark Web), l’IA parce qu’elle pose une question ontologique, tendrait à flouter la frontière entre l’ombre et la lumière. Son intrication programmée dans tous les aspects de nos vies nous conduit à redéfinir les valeurs et paradigmes intimes qui les régissent. Et si l’IA orchestrait et automatisait des « Cambridge Analytica » par millier quotidiennement, qu’adviendrait-il de nos opinions, de notre perception du monde, de nos croyances élaborées, fruits de l’expérience humaine accumulée depuis des milliers d’années ?

Parler d’aliénation serait défaitiste. La face sombre de l’IA est d’abord et avant tout technologique. Elle peut donc être contenue et contrebalancée. Mais elle a aussi un aspect philosophique comme en attestent les nombreux débats actuels. Enfin, elle est géopolitique. Si, comme elle semble en être capable, l’IA permet la naissance d’un épicentre mondial transculturel animé par une nouvelle caste de sachants, il est fort à parier que les structures de gouvernance que nous connaissons ne pourront faire face longtemps aux changements provoqués par son utilisation.

Dark IA ou non, elle porte en son sein la capacité de changer notre monde. Une question pourtant subsiste. Pour en faire quoi ?

yogaesoteric
16 février 2020

Also available in: Română