Cómo las Tres Leyes de la Robótica de Asimov Impactan en la IA

Las Tres Leyes de la Robótica son icónicas en el mundo de la ciencia ficción y se han convertido en un símbolo dentro de la comunidad de IA y robótica de lo difícil que es diseñar un sistema que sea infalible.

Para comprender completamente la importancia de estas tres leyes, debemos aprender primero sobre la mente brillante que concibió estas leyes, el difunto autor de ciencia ficción Isaac Asimov. Luego, debemos entender cómo adaptar estas leyes y hacer que evolucionen para proteger a la humanidad.

Isaac Asimov – El Ascenso de un Genio

Isaac Asimov nació en Rusia el 2 de enero de 1920, y emigró a los Estados Unidos a los tres años de edad. Creció en Brooklyn, Nueva York, y se graduó de la Universidad de Columbia en 1939. Fue reconocido como un escritor dotado y prolífico que se centró en la ciencia y la ciencia ficción. Durante su carrera, escribió y/o editó más de 500 libros.

Asimov se inspiró en gran medida en algunos de los escritores más icónicos del mundo de la ciencia ficción. Comenzó a trabajar en el Astillero Naval de Filadelfia, donde conoció a dos de sus compañeros de trabajo, que pronto se convertirían en dos de los escritores de ciencia ficción más exitosos de la historia de la ficción especulativa: L. Sprague de Camp y Robert A. Heinlein.

L. Sprague de Camp es un autor galardonado que escribió más de 100 libros y fue una figura importante en la ciencia ficción en las décadas de 1930 y 1940. Algunas de sus obras más populares incluyeron “La oscuridad cae” (1939), “Las ruedas del si” (1940), “Un rifle para un dinosaurio” (1956), “Aristóteles y el rifle” (1958), y “La gloria que fue” (1960).

Robert A. Heinlein fue probablemente el escritor de ciencia ficción más popular del mundo en la cúspide de su carrera. Junto con Isaac Asimov y Arthur C. Clarke, fue considerado uno de los “Tres Grandes” de los autores de ciencia ficción. Algunas de las obras más populares de Robert A. Heinlein incluyeron “La granja de Farnham” (1964) y “Navegar más allá del atardecer” (1987). La generación actual probablemente lo conoce mejor por la adaptación cinematográfica de su novela “Tropas del espacio” (1959).

Estar rodeado de estos gigantes del futurismo inspiró a Isaac Asimov a lanzar su prolífica carrera como escritor. Asimov también era muy respetado en la comunidad científica y era frecuentemente invitado a dar conferencias para hablar sobre la ciencia.

Las Tres Leyes de la Robótica

Isaac Asimov fue la primera persona en utilizar el término “Robótica” en un cuento llamado “Mentiroso”, publicado en 1941.

Poco después, su cuento de 1942 “Runaround” introdujo al mundo sus tres leyes de la robótica. Las leyes son:

1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño.

2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.

3. Un robot debe proteger su propia existencia siempre que tal protección no entre en conflicto con la Primera o Segunda Ley.

Estas leyes fueron diseñadas para ofrecer puntos de trama interesantes, y Asimov creó una serie de 37 cuentos de ciencia ficción y seis novelas que presentaban robots positrónicos.

Una de estas colecciones de cuentos, titulada “Yo, robot”, fue adaptada al cine en 2004. La película “Yo, robot”, protagonizada por Will Smith, está ambientada en un futuro distópico de 2035 y presenta robots públicos altamente inteligentes que operan bajo las tres leyes de la robótica. La película, al igual que los cuentos, se convirtió rápidamente en una parábola de cómo la programación podría salir mal y que programar cualquier tipo de IA avanzada implica un alto nivel de riesgo.

El mundo ha alcanzado ahora lo que anteriormente era ciencia ficción, estamos diseñando IA que en algunos sentidos es mucho más avanzada que cualquier cosa que Isaac Asimov hubiera podido imaginar, y al mismo tiempo es mucho más limitada.

Las tres leyes de la robótica se mencionan con frecuencia en discusiones sobre Inteligencia Artificial General (IAG). Exploraremos rápidamente qué es la IAG, así como cómo las tres leyes de la robótica deben evolucionar para evitar posibles problemas en el futuro.

Inteligencia Artificial General (IAG)

Actualmente, la mayoría de los tipos de IA que encontramos en nuestra vida diaria se cuantifican como “IA estrecha”. Este es un tipo de IA que es muy específico y estrecho en su función de utilidad. Por ejemplo, un vehículo autónomo puede navegar por las calles, pero debido a sus limitaciones “estrechas”, la IA no puede completar fácilmente otras tareas. Otro ejemplo de IA estrecha sería un sistema de reconocimiento de imágenes que puede identificar y etiquetar fácilmente imágenes en una base de datos, pero no podría adaptarse fácilmente a otra tarea.

La Inteligencia Artificial General, comúnmente referida como “IAG”, es una IA que, al igual que los humanos, puede aprender, adaptarse, cambiar de dirección y funcionar en el mundo real. Es un tipo de inteligencia que no es estrecha en su alcance, puede adaptarse a cualquier situación y aprender a manejar problemas del mundo real.

Debería mencionarse que, aunque la IA está avanzando a un ritmo exponencial, aún no hemos logrado la IAG. Cuándo la alcanzaremos es un tema de debate, y todos tienen una respuesta diferente sobre el cronograma. Personalmente, me suscribo a las opiniones de Ray Kurzweil, inventor, futurista y autor de “La singularidad está cerca”, quien cree que lograremos la IAG para 2029.

Es este cronograma de 2029 el que es un reloj de cuenta regresiva, debemos aprender a codificar un tipo de libro de reglas en la IA, que no solo sea similar a las tres leyes, sino que sea más avanzado y capaz de evitar realmente conflictos en el mundo real entre humanos y robots.

Leyes de la Robótica de la Era Moderna

Aunque las tres leyes de la robótica fueron fenomenales para la literatura, carecen significativamente de sofisticación para programar seriamente un robot. Esto fue, después de todo, el punto de la trama detrás de los cuentos y las novelas. Los conflictos entre las tres leyes, o al menos la interpretación de las tres leyes, hicieron que los robots se derrumbaran, se rebelaran contra los humanos o otros puntos de la trama crucial.

El principal problema con las leyes actuales es la programación ética de siempre obedecer las instrucciones humanas y siempre protegerse a sí mismo, lo que puede entrar en conflicto. ¿Está permitido que el robot se defienda contra un dueño que lo maltrata?

¿Qué tipo de mecanismo de seguridad debe programarse? ¿Cómo instruimos a un robot que debe apagarse, sin importar las consecuencias? ¿Qué sucede si un robot está en el proceso de salvar a una ama de casa de un abuso, debería el robot apagarse automáticamente si se le da la orden de hacerlo por el marido abusivo?

¿Quién debe dar las instrucciones a los robots? Con armas autónomas capaces de identificar y apuntar a enemigos desde todo el mundo, ¿debe el robot poder rechazar una orden de eliminar un objetivo si identifica al objetivo como un niño?

En otras palabras, si el robot es propiedad y está controlado por un psicópata, ¿puede el robot rechazar órdenes que son inmorales? Las preguntas son numerosas, y las respuestas son demasiado difíciles para que cualquier individuo las responda. Es por esto que organizaciones como El Instituto del Futuro de la Vida son tan importantes, el momento de debatir estos dilemas morales es ahora, antes de que surja una verdadera IAG.