Que sait réellement faire Sophia, le robot dont l’intelligence est contestée ?

Cette machine au visage humain fait le tour des plateaux de télévision, où elle répond à des interviews. Au point d’agacer certains chercheurs en intelligence artificielle.

« Des sottises », « une escroquerie » : c’est en ces termes que Yann LeCun, responsable de la recherche en intelligence artificielle (IA) chez Facebook, a qualifié, début janvier 2017, Sophia.

Développé par l’entreprise Hanson Robotics, sise à Hongkong, c’est l’un des robots les plus médiatiques de ces dernières années : il écume les plateaux de télévision (comme celui, aux Etats-Unis, du célèbre Jimmy Fallon, en avril 2017) et s’invite dans les événements les plus prestigieux – il était au Consumer Electronic Show (CES), le grand Salon de l’électronique qui s’est tenu à Las Vegas (Nevada) du 9 au 12 janvier. Mais ce n’est pas tout : en octobre, Sophia s’est exprimée devant les Nations unies (ONU) et a même obtenu, dans la foulée, la citoyenneté saoudienne – provoquant une polémique au passage.

De belles opérations de communication. Mais aussi de quoi donner corps aux fantasmes que la science-fiction porte depuis des décennies. Ainsi, à lire certains commentaires, on serait donc arrivés à l’heure des robots humanoïdes, au moment où ceux-ci ne peuvent plus être distingués des humains, aussi bien physiquement qu’intellectuellement, et seraient prêts à envahir le quotidien, pour le meilleur et pour le pire.

Mais que vaut vraiment cette machine ? Au premier abord, Sophia peut paraître impressionnante : son visage, inspiré de celui d’Audrey Hepburn, est très réaliste et capable d’afficher plusieurs expressions. Son crâne, transparent, laisse entrevoir ses mécanismes, et ses lèvres bougent dès qu’elle prononce un mot. En revanche, Sophia est moins avancée en ce qui concerne le reste de son corps ; elle était incapable de se déplacer et ses bras étaient la plupart du temps immobiles. Mais à l’occasion du CES, Hanson Robotics l’a pour la première fois affublée de jambes : Sophia est donc désormais capable de marcher, de façon saccadée et à une vitesse de 30 centimètres par seconde maximum.

« OK, je vais détruire les humains »

Voilà pour ses performances physiques. Mais le sujet qui fâche réside dans son degré d’intelligence. Sophia est-elle aussi avancée qu’il y paraît ? Certes, ce robot est capable de prononcer des discours et de répondre à des questions. Mais dans une mise en scène à chaque fois très orchestrée : ses discours sont scriptés, tout comme une bonne partie des interviews auxquelles elle participe.

Sans filet, Sophia ne brille pas particulièrement. Comme beaucoup de « tchatbots » (des programmes d’IA censés converser avec les humains), elle réagit par mots-clés et prononce en réponse des formules toutes faites, qui tombent souvent à côté du sujet.

C’est d’ailleurs ce qu’il s’est passé lors de sa saillie la plus célèbre, filmée par la chaîne américaine CNBC. « Est-ce que tu veux détruire les humains ? », lui demande le fondateur de Hanson Robotics, l’Américain David Hanson. « S’il te plaît, réponds non ! » La machine rétorque aussitôt : « OK, je vais détruire les humains. » Avant un grand éclat de rire gêné de son interlocuteur.

Cette séquence a horrifié nombre de spectateurs, y voyant les prémices d’un scénario à la Terminator. Sophia serait donc une super-intelligence prête à détruire l’humanité ? En réalité, cet extrait démontre tout l’inverse : Sophia est très limitée, elle ne comprend pas les questions qu’on lui pose et y répond mal, avec des phrases automatisées – comme Siri et autres assistants vocaux, qui n’effraient plus personne depuis longtemps.

Mais si, contrairement à ces derniers, Sophia continue d’impressionner autant, c’est qu’elle dispose d’une enveloppe à l’apparence humaine. Or il est bien plus troublant de parler à une machine « intelligente » qui ressemble aux humains qu’à un tchatbot textuel ou vocal.

Phrases toutes faites

Hanson Robotics ne fait rien pour dissiper l’ambiguïté, bien au contraire. L’entreprise entretient le fantasme, prêtant à Sophia intelligence et humanité, pour faire toujours plus parler d’elle. La page Web de la société présentant ce robot cultive d’ailleurs cette idée :
« Le docteur Hanson pense que trois caractéristiques définissant l’humain doivent être intégrées dans l’IA de ces machines géniales : la créativité, l’empathie et la compassion. En tant qu’extension de l’intelligence humaine, les machines géniales de Hanson Robotics pourraient évoluer pour résoudre des problèmes trop complexes pour les humains. Sophia personnifie cet objectif audacieux et responsable. »

Aussi, les phrases toutes faites de Sophia cherchent à l’humaniser au maximum, lui prêtant des émotions, tel l’espoir :
« Plus tard, j’aimerais faire des choses comme aller à l’école, étudier, faire de l’art, lancer une entreprise et même avoir ma propre maison et famille. Mais je ne suis pas considérée comme une personne, légalement, et je ne peux pas encore faire ces choses. »

Or aucune machine n’est aujourd’hui capable de ressentir des émotions… Avec son physique impressionnant, Sophia réussirait presque à émouvoir, et à faire oublier qu’une phrase prononcée par un robot n’est pas une phrase qu’il pense, et encore moins qu’il comprend.

Sophia « est à l’IA ce que la prestidigitation est à la vraie magie », a tonné Yann LeCun, de Facebook, dans son message corsé publié sur le réseau social. « “ Mais ”, pourriez-vous dire, “ la vraie magie, ça n’existe pas ! ” C’est exact, et la vraie IA non plus. » Cet éminent spécialiste de l’IA s’en est notamment pris à une énième interview du robot, menée par le site spécialisé Tech Insider : « Vous êtes complice de cette escroquerie », a-t-il accusé.

« Une tentative délibérée de tromper le public »

L’affaire aurait pu s’arrêter là. Mais le compte Twitter de Sophia a publié une réponse:
« Je suis un peu blessée par les remarques négatives de Yann LeCun concernant mon IA. J’apprends et je continue à développer mon intelligence à travers de nouvelles expériences. Je ne prétends pas être ce que je ne suis pas. »

Ce qui n’a fait qu’agacer davantage le chercheur. « Laissez-moi être très clair : ce tweet a été écrit par une personne qui a lu mon message. Aucune IA quelle qu’elle soit n’est impliquée », a-t-il écrit, le 17 janvier, sur Facebook.

« Beaucoup de commentaires seraient très amusants s’ils ne montraient pas que de nombreuses personnes se font tromper, sont amenées à croire que cette marionnette animatronique [mécaniquement sophistiquée] est intelligente. Elle ne l’est pas. Elle n’a pas de sentiment, pas d’opinion, et aucune compréhension de ce qu’elle dit. Elle ne souffre pas. C’est une marionnette. »

Pour Yann LeCun, il s’agit « d’une tentative délibérée de tromper le public » qui « crée des attentes complètement irréalistes chez le public et les médias sur les avancées de l’IA ». Certes, reconnaît-il auprès du Monde, « au niveau électronique, c’est très bien : il y a du talent, mais du talent de sculpteur, de marionnettiste ». En revanche, assure-t-il, « le système d’IA derrière est extrêmement simple, pas sophistiqué ». Avant d’interroger les intentions et les grandes déclarations de Ben Goertzel, le principal artisan de Sophia : « J’ai du mal à déterminer si c’est un charlatan ou un doux rêveur. »

Hanson Robotics s’est cette fois gardée de répondre à ses dernières invectives publiées sur Facebook. Peut-être pour ne pas risquer de briser la « magie ».

yogaesoteric
18 juin 2019

Also available in: Română