Comment les trois lois de la robotique d'Asimov affectent l'IA

Les trois lois de la robotique sont emblématiques dans le monde de la science-fiction et sont devenues un symbole au sein de la communauté de l'IA et de la robotique de la difficulté de concevoir correctement un système infaillible.

Pour bien comprendre l'importance de ces trois lois, nous devons d'abord en apprendre davantage sur l'esprit brillant qui a conçu ces lois, le regretté auteur de science-fiction Isaac Asimov. Il faut alors comprendre comment adapter ces lois et les faire évoluer pour protéger l'humanité.

Isaac Asimov - La montée d'un génie

Isaac Asimov est né en Russie le 2 janvier 1920 et a immigré aux États-Unis à l'âge de trois ans. Il a grandi à Brooklyn, New York, et est diplômé de l'Université de Columbia en 1939.  Il a été reconnu comme un écrivain doué et prolifique qui s'est concentré sur la science et la science-fiction. Au cours de sa carrière, il a écrit et/ou édité plus de 500 livres.

Asimov a été grandement inspiré par certains des écrivains les plus emblématiques du monde de la science-fiction. Il a commencé son emploi au Philadelphia Navy Yard où il a rencontré deux de ses collègues, qui deviendront bientôt deux des écrivains de science-fiction les plus titrés de l'histoire de la fiction spéculative : L. Sprague de Camp ainsi que Robert A. Heinlein.

L. Sprague de Camp est un auteur primé qui a écrit plus de 100 livres et était une figure majeure de la science-fiction dans les années 1930 et 1940. Certaines de ses œuvres les plus populaires incluent "Darkness Fall" (1939), "The Wheels of If" (1940), "A Gun for Dinosaur" (1956), "Aristotle and the Gun" (1958) et "The Glory That Était" (1960).

Robert A. Heinlein était probablement l'écrivain de science-fiction le plus populaire au monde au plus fort de sa carrière. Avec Isaac Asimov, et Arthur C. Clarke il était considéré comme le « Big Three » des auteurs de science-fiction. Certaines des œuvres les plus populaires de Robert A. Heinlein comprenaient "Farnham's Freehold" (1964) et "À Naviguez au-delà du coucher du soleil » (1987). La génération actuelle le connaît probablement mieux pour l'adaptation cinématographique de son roman "Starship Troopers" (1959).

Être entouré de ces géants du futurisme a inspiré Issac Asimov à lancer sa prolifique carrière d'écrivain. Asimov était également très respecté dans la communauté scientifique et était fréquemment engagé comme conférencier public pour donner des conférences sur la science.

Les trois lois de la robotique

Issac Asimov a été le premier à utiliser le terme "Robotique" dans une nouvelle intitulée "Liar!" qui a été publié en 1941.

Peu de temps après, sa nouvelle de 1942 "Runaround" a présenté au monde ses trois lois de la robotique. Les lois sont :

1. Un robot ne peut blesser un être humain ou, par inaction, permettre à un être humain de se blesser.

2. Un robot doit obéir aux ordres qui lui sont donnés par des êtres humains, sauf si ces ordres entrent en conflit avec la première loi.

3. Un robot doit protéger sa propre existence aussi longtemps que cette protection n'est pas en conflit avec la première ou la deuxième loi.

Ces lois ont été conçues pour offrir des points d'intrigue intéressants, et Asimov a ensuite créé une série de 37 nouvelles de science-fiction et six romans mettant en vedette des robots positroniques.

L'un de ces recueils de nouvelles intitulé "I, Robot" a ensuite été adapté pour le cinéma en 2004. Le film "I, Robot" avec Will Smith se déroule dans une dystopie de 2035 et présente des robots fonctionnaires très intelligents qui fonctionnent sous les trois lois. de la robotique. Le film, tout comme les histoires, est rapidement devenu une parabole de la façon dont la programmation pouvait mal tourner, et que la programmation de tout type d'IA avancée implique un niveau de risque élevé.

Le monde a maintenant rattrapé ce qui était auparavant de la science-fiction, nous concevons maintenant une IA qui est à certains égards beaucoup plus avancée que tout ce qu'Issac Asimov aurait pu imaginer, tout en étant beaucoup plus limitée.

Les trois lois de la robotique sont référencées assez fréquemment dans les discussions sur l'intelligence générale artificielle (AGI). Nous explorerons rapidement ce qu'est l'AGI, ainsi que la façon dont les trois lois de la robotique doivent évoluer afin d'éviter des problèmes potentiels à l'avenir.

Intelligence Générale Artificielle (AGI)

Actuellement, la plupart des types d'IA que nous rencontrons quotidiennement sont qualifiés d'"IA étroites". Il s'agit d'un type d'IA très spécifique et étroit dans sa fonction utilitaire. Par exemple, un véhicule autonome peut naviguer dans les rues, mais en raison de ses limitations "étroites", l'IA ne peut pas facilement accomplir d'autres tâches. Un autre exemple d'IA étroite serait un système de reconnaissance d'images qui peut facilement identifier et étiqueter les images dans une base de données, mais qui ne pourrait pas être facilement adapté à une autre tâche.

L'Intelligence Générale Artificielle, communément appelée « AGI », est une IA qui, comme les humains, peut rapidement apprendre, s'adapter, pivoter et fonctionner dans le monde réel. C'est un type d'intelligence qui n'a pas une portée étroite, il peut s'adapter à n'importe quelle situation et apprendre à gérer les problèmes du monde réel.

Il convient de préciser que si l'IA progresse à un rythme exponentiel, nous n'avons toujours pas atteint l'AGI. Quand nous atteindrons l'AGI est à débattre, et tout le monde a une réponse différente quant à un calendrier. Je souscris personnellement à l'opinion de Ray Kurzweil, inventeur, futuriste et auteur de "The Singularity is Near" qui pense que nous aurons AGI atteint d'ici 2029.

C'est cette chronologie de 2029 qui est une horloge, nous devons apprendre à coder en dur un type de livre de règles dans l'IA, qui est non seulement similaire aux trois lois, mais qui est plus avancé et capable d'éviter réellement le monde réel conflit entre humains et robots.

Lois modernes de la robotique

Alors que les trois lois de la robotique étaient phénoménales pour la littérature, elles manquent considérablement de sophistication pour être sérieusement programmées dans un robot. C'était après tout le point d'intrigue derrière les nouvelles et les romans. Les conflits entre les trois lois, ou au moins l'interprétation des trois lois, ont provoqué l'effondrement des robots, des représailles contre les humains ou d'autres points cruciaux de l'intrigue.

Le principal problème avec les lois actuelles est que la programmation éthique de toujours obéir aux instructions humaines et de toujours se protéger peut entrer en conflit. Après tout, le robot a-t-il le droit de se défendre contre un propriétaire qui en abuse ?

Dans quel type de mécanisme de sécurité faut-il programmer ? Comment dire à un robot qu'il doit s'éteindre quelles que soient les répercussions ? Que se passe-t-il si un robot est en train de sauver une femme au foyer de la maltraitance, le robot doit-il s'éteindre automatiquement si le mari violent le lui demande ?

Qui doit donner les instructions aux robots ? Avec des armes autonomes capables d'identifier et de cibler des ennemis du monde entier, le robot devrait-il être capable de refuser une commande d'élimination d'une cible s'il identifie la cible comme étant un enfant ?

En d'autres termes, si le robot est détenu et contrôlé par un psychopathe, le robot peut-il refuser des ordres immoraux ? Les questions sont nombreuses et les réponses sont trop difficiles à répondre pour un individu. C'est pourquoi des organisations comme L'avenir de la vie Institut sont si importants, le moment est venu de débattre de ces dilemmes moraux avant qu'un véritable AGI n'émerge.