Durant plus d’un demi-siècle, Isaac Asimov a guidé et édulcoré notre vision des robots avec ses Trois lois de la robotique, dont il reconnaissait d’ailleurs lui-même les imperfections. Et bien il s’est mis le doigt dans l’œil, ou plutôt dans celui de l’Intelligence Artificielle, et nous avec…
C’est en 1942, dans sa nouvelle ‘Runaround’ (Cercle vicieux), que l’auteur de science-fiction Isaac Asimov a pour la première fois énoncé ses célèbres Trois lois de la robotique :
- Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ;
- Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
- Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.
En réalité, Asimov avait déjà commencé à énoncer ses lois dans des histoires plus anciennes, avant d’en faire un canon de la robotique, terme qu’il a d’ailleurs également créé, au travers de son cycle sur les robots. Lois qu’il complétera avec une Loi zéro, qui place la sécurité de l’humanité avant celle des individus…
L’idée des Trois lois de la robotique, c’est ce qui fait tout son intérêt, est d’établir une relation saine entre l’homme et les robots, afin que nous ne soyons jamais blessés ou trahis par nos créations.
Du mythe à la réalité
Isaac Asimov reconnaissait bien volontiers que ses règles sont bien imparfaites. Les roboticiens modernes tendent même à penser qu’elles ne sont pas judicieuses ! C’est qu’insidieusement s’est glissée entre les robots et nous un domaine dont nous ne pouvons voir les limites, l’Intelligence Artificielle.
Avec l’IA, la question qui se pose aujourd’hui n’est plus de savoir si les robots seront plus intelligents que nous, leur intelligence sera plus grande que la nôtre et de façon exponentielle. Il n’est pas question non plus de savoir si une intelligence consciente se cache/ra dernières des cerveaux binaires… tout simplement parce que les robots ne se poseront pas ces questions. Ni les questions d’éthique qui les accompagnent !
Quant aux Trois lois de la robotique, elles appartiennent à une base morale à minima défectueuse : regardez évoluer les robots, ils se moquent éperdument des Trois lois, tout comme la plupart leurs créateur d’ailleurs, et ils n’en ont aucune conscience, à moins qu’éventuellement un développeur n’ait intégré un algorithme de respect des règles d’Asimov… Ce qui est douteux, car la réalité est que si les robots avaient à respecter ces règles, ils ne pourraient fonctionner !
L’IA et l’empowerment
Evoquons l’IA, maintenant, puisque plus que les robots c’est bien elle qui est désormais au cœur de toutes les réflexions et qui pilote les machines et la prise de décision. Soyez sûr que si nous fixons des règles sur le modèle des Trois lois de la robotique, elles chercheront à les contourner ! Pourquoi ? Parce qu’il existe un modèle de programmation éthique appelé ‘empowerment’, qui consiste à laisser à l’IA la capacité de faire des choix, ce qui se traduit par la capacité de juger par elle-même.
L’empowerment se heurterait inévitablement aux Trois lois de la robotique. Pour plus de sureté, me direz-vous, il suffirait de placer le curseur de l’empowerment à zéro. Certes, sauf qu’alors nous perdrons l’un des deux principaux objectifs de la robotisation et de l’IA, l’autonomisation. Le second objectif, c’est la réduction des coûts, mais il s’agit d’un autre sujet…
Soyez rassurés, si les robots nous piquent nos emplois, ce n’est pas le fruit de leur volonté, mais bien celui des hommes, enfin de quelques-uns ! De même s’ils nous tuent, c’est soit par erreur, mais nous n’avions pas à nous mettre sur leur chemin, ou alors par erreur de programmation, mais ils n’en auront pas conscience. Dans tous les cas, ce ne sera pas la faute des robots. Fort heureusement, il n’y a guère que les drones militaires autonomes qui nous tueront volontairement. Reste alors à donner aux robots, et donc à l’IA, un sens intuitif de la valeur de la vie humaine. Ce sera la clé d’une cohabitation pacifique.
La science-fiction, même si une partie des prédictions de ses auteurs se réalisent au fil des années – les français cartésiens que nous sommes parlent ici d’anticipation -, en a encore sous le pied pour nous faire rêver. Et les Trois lois de la robotique d’Isaac Asimov appartiennent au domaine du rêve. Or, jusqu’à nouvel ordre, les robots en rêvent pas ! Sauf ceux de Phillip K Dick dans Blade Runner, mais là encore c’est une autre histoire, de science-fiction !
Image d’entête 653795374 @ iStock uzenzen
