Contre la personnalité morale des robots !

 

« Donner la personnalité juridique aux robots c’est accepter de déresponsabiliser les hommes. »

Le Parlement européen a approuvé un rapport préconisant d’accorder une personnalité juridique aux robots. Pour Hubert Rodarie, directeur général délégué du groupe SMA, l’homme doit rester maître et responsable des machines qu’il conçoit ou possède.

Le Parlement Européen a approuvé en mars 2017 un rapport présenté par la député socialiste luxembourgeoise Mady Delvaux. Celui-ci a analysé les conséquences juridiques de la présence grandissante de robots dans la vie quotidienne européenne. Une mesure phare proposée dans le texte est de donner la personnalité juridique aux robots. Si plusieurs commentateurs ont réagi très négativement, ce rapport est passé plutôt inaperçu du moins en France où l’attention médiatique est concentrée sur l’élection présidentielle.

Pourtant ce vote mérite d’être relevé. Car il peut être replacé dans un débat séculaire lié à l’apparition auprès des citoyens d’un nouvel être : la « personne morale ». Rassurez-vous, il n’est pas question de faire ici une analyse juridique détaillée mais de s’appuyer sur cette expérience pour percevoir les enjeux de la proposition Delvaux.

Rappelons que, en s’appuyant sur une pure conception démocratique, par la loi Le Chapelier, la Révolution française, supprima les corporations qui avaient la capacité juridique. Ils laissèrent le citoyen seul face à l’État qui, conformément aux conceptions de Hobbes et de Rousseau, constituait de fait la seule personne morale. Pourtant, quelques années après, la personnalité morale a été réintroduite, notamment pour les sociétés commerciales. Fiction ou réalité, les juristes se divisent sur le sujet. Mais néanmoins cette personne morale est venue s’insérer en tant que telle dans la vie quotidienne des citoyens. Elle revendique des droits et lui sont imputés des responsabilités. Aux États-Unis, la Cour Suprême lui reconnaît même toutes les protections que la Constitution accorde à ses citoyens, l’arrêt Citizens United (2010) va au bout de cette logique en reconnaissant aux entreprises le droit de participer pleinement au débat politique.

Au premier regard, il n’y a pas de difficultés car les personnes morales sont théoriquement contrôlées par des hommes qui en assument les actions et les évolutions. Il s’agit donc de reconnaître une certaine réalité collective, principalement dans les activités économiques, mais que le révolutionnaire français avait nié de façon excessive.

Pourquoi pas, car cela tombe sous le sens quand il s’agit d’entreprises familiales, locales ou agissant surtout dans le territoire d’un pays. Toutefois des difficultés surgissent lorsque la taille et la puissance des entreprises dépassent celles de nombreux pays. Et ce, d’autant plus que le rattachement des entreprises à des personnes s’affaiblit fortement entre la subordination des salariés et la responsabilité des actionnaires limitée à leur apport en capital. Il s’est donc créé progressivement des entités qui se sont détachées et autonomisées par rapport à ceux qui y participent. La nature spécifique de cette autonomie apparaît clairement notamment lorsque se pose la question de leur nationalité : celle de leurs dirigeants, de leurs actionnaires, ou celle du pays de leur siège social ? Nul ne sait trancher a priori rationnellement. Et pourtant, il a fallu le faire en Europe et aux États-Unis à l’occasion des crises bancaires à partir de 2007. Or, si les entreprises ont des pouvoirs qui dépassent ceux des simples citoyens, certaines avaient aussi des tailles bien supérieures à celles des États auxquels elles se sont rattachées par force dans la tempête. Les conséquences ont été dramatiques pour les citoyens de certains pays. Ils payent encore pour les pertes de leurs « concitoyennes » qu’ils ont dû assumer.

Cette autonomie des personnes morales impose donc de se poser les questions suivantes : comment sont définis les objectifs, comment sont exercés les pouvoirs au sein de l’entreprise ?

À ce stade, on peut analyser les modes de fonctionnement des entreprises en regardant si elles reposent sur des prises de responsabilités de dirigeants stratèges bien identifiés ou si elles se réfèrent davantage à ce qu’on a appelé dans La pente despotique de l’économie mondiale (éd. Salvator 2015) un imaginaire cybernétique. Selon cet imaginaire, l’activité des entreprises doit être organisée autour d’objectifs et d’un ensemble de procédures visant à une « auto-adaptativité » et de règles pour les créer ou les modifier et qui constituent ce que l’on appelle la gouvernance.

Dans le premier cas on peut penser à ces groupes marqués ou dirigés par leurs fondateurs comme LVMH, Bolloré, Murdoch…

Le second groupe a tendance à devenir le modèle dominant depuis les années 1970. Il a succédé au modèle hiérarchisé issu du modèle militaire: on peut y classer sans discussion tous les groupes financiers où ce mode de fonctionnement est imposé par la réglementation comme on le décrit dans l’ouvrage cité, mais également des grandes entreprises industrielles où les dirigeants sont davantage des numéros 1 dont la légitimité sera limitée au bon fonctionnement de leurs organisations.

Si de larges pans de l’activité notamment industrielle gagnent à être organisés de façon rationnelle, d’autres échouent. Les établissements financiers sont un exemple de cet échec devenu évident lors de la crise de 2007/2008 car les banques avaient une organisation rationalisée par la mesure et la gestion du risque. Cet échec est logique. Il était prévisible car il y a des conditions précises pour valider a priori la pertinence d’un type de fonctionnement.

Mais dans tous les cas ces organisations créent ce qu’on a appelé une robotisation des entreprises, où se réduisent progressivement les degrés de liberté mais aussi les expressions du professionnalisme des intervenants. Les conséquences négatives, revers de l’efficacité, sont connues par de nombreux professionnels qui les ont vécus depuis 20 ans: complexité croissante, déqualification, attachement excessif à la forme, déresponsabilisation généralisée et enfin rigidification. Toutes ces évolutions sont bien sûr d’autant plus dangereuses lorsque les principes d’organisation à référence cybernétique (indentification, but, rétroactivité) sont inadaptés car ces phénomènes néfastes aux entreprises, notamment la rigidification et la complexité, apparaissent encore plus vite.

Ces constats permettent de faire la liaison avec les robots objets des attentions du Parlement Européen.

Initialement conçus pour reproduire des gestes répétitifs bien spécifiés, les perfectionnements présents et à venir de l’intelligence artificielle laissent entrevoir la possibilité de donner aux robots une autonomie fondée sur une capacité d’apprentissage y compris par rapport aux desseins de celui qui les a programmés. Comme pour les entreprises, cette autonomie justifie la proposition des auteurs du rapport de la reconnaître officiellement en accordant la personnalité morale juridique aux robots.

Pourtant l’autonomie réelle ou supposée est-elle le bon critère justifiant l’émancipation juridique des machines de son fabricant ou de son propriétaire en lui reconnaissant une personnalité morale titulaire de droits et de devoirs ?

La réponse est non et pour le justifier, on propose de faire un parallèle avec les entreprises qui ont acquis dès à présent les caractéristiques du mode de fonctionnement anticipé (espéré) pour les robots.

Depuis quelques années, les citoyens ont perçu les inconvénients de la robotisation des entreprises avec lesquelles ils sont forcés de coexister dans la société et l’espace politique : impacts sociaux, écologiques et opacité des décisions, point n’est besoin d’insister. Or ces inconvénients sont logiques dans le cadre cybernétique devenu dominant. Ils découlent des buts limités et essentiellement économiques assignés aux entreprises : créer de la valeur pour les actionnaires. Ces inconvénients sont amplifiés par la déresponsabilisation générale notée plus haut, chaque intervenant dans l’entreprise quel que soit son niveau hiérarchique n’étant plus tenu individuellement responsable que par la conformité ou non de ses actes aux règles de fonctionnement de l’entreprise.

Devant les protestations des citoyens, les entreprises ont été conduites à adopter des buts complémentaires liés à ce que l’on appelle des responsabilités sociétales ainsi que des initiatives caritatives auxquelles sont conviés les employés ou les clients. Clairement, on tente ainsi consciemment ou non de rendre, au sens propre du terme, plus humaines les entreprises qui était devenues davantage machines.

Pourtant, on peut considérer que ces tentatives risque de rester une réponse insuffisante car ces pratiques ne modifient pas de façon substantielle la logique générale de fonctionnement. En effet, de fait, les autres buts « humanisants » restent subordonnés à la création de valeur pour l’actionnaire. Et, souvent, ces objectifs « humanisants » sont explicitement justifiés de façon utilitariste par leur contribution à la « soutenabilité » de la réussite économique de l’entreprise. Enfin, leur adoption ne remédie pas à la déresponsabilisation généralisée principale source des principaux dysfonctionnements de la relation avec les citoyens.

De plus, à cette déresponsabilisation vient s’ajouter une tendance à une autonomie des entreprises les plus grandes par rapport à tout critère autre qu’économique notamment en se dégageant du pouvoir judiciaire des états dans lesquelles elles agissent. C’est l’enjeu des fameux ISDS, ces tribunaux arbitraux prévus par les accords commerciaux dont les décisions s’imposent aux états. On ne peut manquer de faire le parallèle avec la tradition révolutionnaire qui avait donné à l’État en France son propre réseau de tribunaux, dégageant la personne morale étatique et ses fonctionnaires de la justice civile. La justice des personnes morales tend à se détacher de celle des autres citoyens.

Au total, on pourrait dire que si on sait que l’homme ne se réduit pas à l’homo œconomicus, alors la coexistence en société avec des pures personna œconomica n’est pas supportable dans la durée.

Dès lors il est clair que l’émancipation des robots doit rester un sujet de roman de science-fiction. Au cœur de l’acceptation ce n’est pas le critère de l’autonomie qui doit être invoqué, c’est celui de la responsabilité.

Donner la personnalité juridique aux robots c’est accepter, une fois encore, de déresponsabiliser des hommes dans leurs objectifs et leurs moyens, comme on l’a fait pour les personnes morales.

Même si le robot acquiert des capacités d’actions plus grandes que celles strictement programmées, il n’en reste pas moins qu’ils sont conçus pour des objectifs précis qu’un homme, le concepteur ou le propriétaire, se doit d’assumer, c’est-à-dire d’en définir sous sa responsabilité les limites d’action et les effets sur les biens et les personnes.

L’homme, individuellement et collectivement, doit rester maître et donc responsable de son destin et des machines qu’il conçoit ou qu’il possède.

 

yogaesoteric
17 mai 2019

Also available in: Română