Comment les trois lois de la robotique d’Asimov ont un impact sur l’IA

Les trois lois de la robotique sont emblématiques dans le monde de la science-fiction et sont devenues un symbole au sein de la communauté de l’IA et de la robotique, montrant à quel point il est difficile de concevoir un système qui soit à l’épreuve des erreurs.

Pour comprendre pleinement l’importance de ces trois lois, nous devons d’abord en apprendre davantage sur l’esprit brillant qui les a conçues, le défunt auteur de science-fiction Isaac Asimov. Nous devons ensuite comprendre comment adapter ces lois et les faire évoluer pour protéger l’humanité.

Isaac Asimov – L’ascension d’un génie

Isaac Asimov est né en Russie le 2 janvier 1920, et a immigré aux États-Unis à l’âge de trois ans. Il a grandi à Brooklyn, New York, et a obtenu son diplôme de l’Université de Columbia en 1939. Il a été reconnu comme un écrivain doué et prolifique qui se concentrait sur la science et la science-fiction. Au cours de sa carrière, il a écrit et/ou édité plus de 500 livres.

Asimov a été fortement inspiré par certains des écrivains les plus emblématiques du monde de la science-fiction. Il a commencé à travailler à la base navale de Philadelphie, où il a rencontré deux de ses collègues de travail, qui allaient bientôt devenir deux des écrivains de science-fiction les plus réussis de l’histoire de la fiction spéculative : L. Sprague de Camp et Robert A. Heinlein.

L. Sprague de Camp est un auteur primé qui a écrit plus de 100 livres et a été une figure majeure de la science-fiction dans les années 1930 et 1940. Certains de ses travaux les plus populaires incluent “Darkness Fall” (1939), “The Wheels of If” (1940), “A Gun for Dinosaur” (1956), “Aristotle and the Gun” (1958), et “The Glory That Was” (1960).

Robert A. Heinlein a été probablement l’écrivain de science-fiction le plus populaire au monde au sommet de sa carrière. Avec Isaac Asimov et Arthur C. Clarke, il a été considéré comme l’un des “Trois Grands” de la science-fiction. Certains des travaux les plus populaires de Robert A. Heinlein incluent “Farnham’s Freehold” (1964) et “À Sail Beyond the Sunset” (1987). La génération actuelle le connaît probablement le mieux pour l’adaptation cinématographique de son roman “Starship Troopers” (1959).

Le fait d’être entouré de ces géants du futurisme a inspiré Isaac Asimov à lancer sa carrière d’écrivain prolifique. Asimov a également été très respecté dans la communauté scientifique et a souvent été invité à donner des conférences publiques pour parler de science.

Les trois lois de la robotique

Isaac Asimov a été la première personne à utiliser le terme “robotique” dans une nouvelle intitulée “Liar!”, publiée en 1941.

Peu après, sa nouvelle de 1942 “Runaround” a présenté au monde ses trois lois de la robotique. Les lois sont :

1. Un robot ne peut pas blesser un être humain ou, par inaction, permettre à un être humain de subir un préjudice.

2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si ces ordres entrent en conflit avec la Première Loi.

3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi.

Ces lois ont été conçues pour offrir des points de trame intéressants, et Asimov a ensuite créé une série de 37 nouvelles de science-fiction et six romans mettant en scène des robots positroniques.

L’une de ces collections de nouvelles intitulée “Je, Robot” a été adaptée au cinéma en 2004. Le film “Je, Robot” avec Will Smith se déroule dans un futur dystopique en 2035 et met en scène des robots servants publics très intelligents qui fonctionnent selon les trois lois de la robotique. Le film, tout comme les histoires, est rapidement devenu une parabole sur la façon dont la programmation peut mal tourner, et que la programmation de tout type d’IA avancée implique un niveau de risque élevé.

Le monde a maintenant rattrapé ce qui était précédemment de la science-fiction, nous concevons maintenant des IA qui sont en quelque sorte beaucoup plus avancées que tout ce que Isaac Asimov aurait pu imaginer, tout en étant en même temps beaucoup plus limitées.

Les trois lois de la robotique sont souvent référencées dans les discussions sur l’intelligence artificielle générale (AGI). Nous allons rapidement explorer ce qu’est l’AGI, ainsi que la façon dont les trois lois de la robotique doivent évoluer pour éviter les problèmes potentiels à l’avenir.

Intelligence artificielle générale (AGI)

Actuellement, la plupart des types d’IA que nous rencontrons quotidiennement sont qualifiés d'”IA étroite”. Il s’agit d’un type d’IA qui est très spécifique et étroit dans sa fonction d’utilité. Par exemple, un véhicule autonome peut naviguer dans les rues, mais en raison de ses limites “étroites”, l’IA ne peut pas facilement effectuer d’autres tâches. Un autre exemple d’IA étroite serait un système de reconnaissance d’images qui peut facilement identifier et étiqueter des images dans une base de données, mais qui ne peut pas facilement être adapté à une autre tâche.

L’intelligence artificielle générale, communément appelée “AGI”, est une IA qui, comme les humains, peut apprendre rapidement, s’adapter, pivoter et fonctionner dans le monde réel. Il s’agit d’un type d’intelligence qui n’est pas étroit dans son champ d’application, elle peut s’adapter à toute situation et apprendre à gérer les problèmes du monde réel.

Il devrait être noté que même si l’IA progresse à un rythme exponentiel, nous n’avons pas encore atteint l’AGI. Lorsque nous atteindrons l’AGI est sujet à débat, et tout le monde a une réponse différente quant au calendrier. Je souscris personnellement aux vues de Ray Kurzweil, inventeur, futuriste et auteur de “La singularité est proche” qui croit que nous aurons atteint l’AGI d’ici 2029.

Il s’agit de ce calendrier 2029 qui est une horloge qui tic-tac, nous devons apprendre à intégrer un type de livre de règles dans l’IA, qui ne soit pas seulement similaire aux trois lois, mais qui soit plus avancé et capable d’éviter réellement les conflits entre les humains et les robots.

Lois de la robotique modernes

Alors que les trois lois de la robotique étaient phénoménales pour la littérature, elles sont considérablement dépourvues de sophistication pour être sérieusement programmées dans un robot. C’était, après tout, le point de l’intrigue derrière les nouvelles et les romans. Les conflits entre les trois lois, ou à tout le moins l’interprétation des trois lois, ont provoqué des problèmes tels que la réaction des robots contre les humains ou d’autres points de l’intrigue.

Le principal problème avec les lois actuelles est la programmation éthique qui obéit toujours aux instructions humaines et qui se protège toujours. Qu’en est-il, par exemple, si le robot est autorisé à se défendre contre un propriétaire qui l’abuse ?

Quel type de mécanisme de sauvegarde doit être programmé ? Comment instruire un robot pour qu’il s’éteigne, quoi qu’il arrive ? Que se passe-t-il si un robot est en train de sauver une ménagère d’une agression, devrait-il s’éteindre automatiquement si le mari violent le lui ordonne ?

Qui doit donner les instructions aux robots ? Avec des armes autonomes capables d’identifier et de cibler des ennemis à travers le globe, le robot doit-il être capable de refuser un ordre d’éliminer une cible s’il identifie la cible comme étant un enfant ?

En d’autres termes, si le robot est possédé et contrôlé par un psychopathe, peut-il refuser les ordres qui sont immoraux ? Les questions sont nombreuses, et les réponses sont trop difficiles pour qu’un individu puisse y répondre. C’est pourquoi des organisations telles que The Future of Life Institute sont si importantes, le moment de débattre de ces dilemmes moraux est maintenant, avant qu’un véritable AGI n’émerge.