Nick Bostrom affirme que les chatbots peuvent être dotés d’un certain degré de sensibilité
L’un des plus éminents philosophes de l’intelligence artificielle affirme que certains chatbots pourraient présenter des signes de conscience, mais que cela ne signifie pas nécessairement ce que l’on croit.
Dans une interview accordée au New York Times, Nick Bostrom, universitaire d’Oxford, a déclaré qu’au lieu de considérer le concept de sensibilité comme un tout ou un rien, il l’envisageait en termes de degrés.
« Je serais tout à fait disposé à attribuer de très faibles degrés à un large éventail de systèmes, y compris les animaux », a déclaré Bostrom, directeur de l’Institut du futur de l’humanité d’Oxford, au NYT. « Si l’on admet qu’il ne s’agit pas d’une question de tout ou rien, il n’est pas si dramatique de dire que certains de ces assistants [IA] pourraient plausiblement être candidats à un certain degré de sensibilité. »
La Ligue de Justice
Bien que ceux qui ont suggéré que les IA pourraient devenir un peu sensibles – notamment l’ex-Googler Blake Lemoine et Ilya Sutskever d’OpenAI – aient été largement tournés en dérision, Bostrom a déclaré que l’insistance sur le contraire ne tenait pas compte de l’intelligence réelle de ces chatbots.
« Je dirais qu’avec ces grands modèles de langage [LLM], je pense aussi que ce n’est pas leur rendre justice que de dire qu’ils se contentent de régurgiter du texte », a déclaré Bostrom. « Ils présentent des aperçus de créativité, de perspicacité et de compréhension qui sont assez impressionnants et peuvent montrer les rudiments d’un raisonnement. »
De plus, le philosophe d’origine suédoise a déclaré que les LLM « pourraient bientôt développer une conception de soi comme persistant dans le temps, réfléchir à leurs désirs, et interagir socialement et former des relations avec les humains ».
Et si les IA deviennent plus sensibles, ajoute-t-il, cela pourrait complètement changer la donne.
« Si une IA montrait des signes de sensibilité, il est plausible qu’elle aurait un certain degré de statut moral », a déclaré Bostrom. « Cela signifie qu’il y aurait certaines façons de la traiter qui seraient répréhensibles, tout comme il serait répréhensible de donner des coups de pied à un chien ou pour des chercheurs en médecine de pratiquer une opération sur une souris sans l’anesthésier. »
Bien que ce raisonnement soit déroutant et, selon certains critiques, inutilement prématuré, il est important de commencer à penser qu’il pourrait devenir un problème à l’avenir.
yogaesoteric
8 juin 2023