Cómo las tres leyes de la robótica de Asimov impactan en la IA

Las Tres leyes de la robótica son icónicas en el mundo de la ciencia ficción y se han convertido en un símbolo dentro de la comunidad de IA y robótica de lo difícil que es diseñar correctamente un sistema que sea infalible.

Para comprender completamente la importancia de estas tres leyes, primero debemos aprender acerca de la mente brillante que concibió estas leyes del difunto autor de ciencia ficción Isaac Asimov. Entonces debemos entender cómo adaptar estas leyes y hacer que evolucionen para proteger a la humanidad.

Isaac Asimov - El ascenso de un genio

Isaac Asimov nació en Rusia el 2 de enero de 1920 y emigró a los Estados Unidos a los tres años. Creció en Brooklyn, Nueva York y se graduó de la Universidad de Columbia en 1939.  Fue reconocido como un escritor talentoso y prolífico que se centró en la ciencia y la ciencia ficción. Durante su carrera escribió y/o editó más de 500 libros.

Asimov se inspiró en gran medida en algunos de los escritores más icónicos del mundo de la ciencia ficción. Comenzó su empleo en el Navy Yard de Filadelfia, donde conoció a dos de sus compañeros de trabajo, que pronto surgirían como dos de los escritores de ciencia ficción más exitosos en la historia de la ficción especulativa: L. Sprague de Camp y Robert A. Heinlein.

L. Sprague de Camp es un autor galardonado que escribió más de 100 libros y fue una figura importante de la ciencia ficción en las décadas de 1930 y 1940. Algunas de sus obras más populares incluyen "Darkness Fall" (1939), "The Wheels of If" (1940), "A Gun for Dinosaur" (1956), "Aristóteles y el arma" (1958) y "The Glory That era” (1960).

Robert A. Heinlein fue posiblemente el escritor de ciencia ficción más popular del mundo durante el apogeo de su carrera. Junto con Isaac Asimov, y Arthur C. Clarke fue considerado el “Tres Grandes” de los autores de ciencia ficción. Algunas de las obras más populares de Robert A. Heinlein incluyen "Farnham's Freehold" (1964) y "A Navega más allá del atardecer” (1987). La generación actual probablemente lo conozca mejor por la adaptación cinematográfica de su novela “Starship Troopers” (1959).

Estar rodeado de estos gigantes del futurismo inspiró a Issac Asimov a lanzar su prolífica carrera como escritor. Asimov también fue muy respetado en la comunidad científica y con frecuencia fue contratado como orador público para dar charlas sobre ciencia.

Las tres leyes de la robótica

Issac Asimov fue la primera persona en utilizar el término 'Robótica' en una historia corta llamada '¡Mentiroso!' que se publicó en 1941.

Poco después, su cuento de 1942 “Runaround” presentó al mundo sus tres leyes de la robótica. Las leyes son:

1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daño.

2. Un robot debe obedecer las órdenes que le den los seres humanos excepto cuando dichas órdenes entren en conflicto con la Primera Ley.

3. Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o la Segunda Ley.

Estas leyes fueron diseñadas para ofrecer puntos de trama interesantes, y Asimov creó una serie de 37 cuentos de ciencia ficción y seis novelas que presentaban robots positrónicos.

Una de estas colecciones de cuentos titulada "I, Robot" se adaptó más tarde para el cine en 2004. La película "I,Robot" protagonizada por Will Smith está ambientada en un 2035 distópico y presenta robots servidores públicos altamente inteligentes que operan bajo las tres leyes. de robótica La película, al igual que las historias, se convirtió rápidamente en una parábola de cómo la programación podría salir mal y que programar cualquier tipo de IA avanzada implica un alto nivel de riesgo.

El mundo ahora se ha puesto al día con lo que antes era ciencia ficción, ahora estamos diseñando IA que, en cierto modo, es mucho más avanzada que cualquier cosa que Issac Asimov podría haber imaginado, mientras que al mismo tiempo es mucho más limitada.

Las tres leyes de la robótica se mencionan con bastante frecuencia en las discusiones sobre la inteligencia artificial general (IAG). Exploraremos rápidamente qué es AGI, así como también cómo deben evolucionar las tres leyes de la robótica para evitar posibles problemas en el futuro.

Inteligencia artificial general (AGI)

Actualmente, la mayoría de los tipos de IA que encontramos a diario se cuantifican como "IA estrecha". Este es un tipo de IA que es muy específico y limitado en su función de utilidad. Por ejemplo, un vehículo autónomo puede navegar por las calles, pero debido a sus limitaciones "estrechas", la IA no puede completar fácilmente otras tareas. Otro ejemplo de IA estrecha sería un sistema de reconocimiento de imágenes que pueda identificar y etiquetar fácilmente imágenes en una base de datos, pero que no se pueda adaptar fácilmente a otra tarea.

La Inteligencia General Artificial, comúnmente conocida como "AGI", es una IA que, de manera similar a los humanos, puede aprender, adaptarse, pivotar y funcionar rápidamente en el mundo real. Es un tipo de inteligencia que no tiene un alcance limitado, puede adaptarse a cualquier situación y aprender a manejar problemas del mundo real.

Cabe señalar que, si bien la IA avanza a un ritmo exponencial, todavía no hemos alcanzado el AGI. Cuándo llegaremos a AGI está sujeto a debate, y todos tienen una respuesta diferente en cuanto a la línea de tiempo. Personalmente, suscribo las opiniones de Ray Kurzweil, inventor, futurista y autor de 'The Singularity is Near', quien cree que tendremos logrado AGI para 2029.

Es esta línea de tiempo de 2029 la que es un reloj en marcha, debemos aprender a codificar un tipo de libro de reglas en la IA, que no solo es similar a las tres leyes, sino que es más avanzado y capaz de evitar el mundo real. Conflicto entre humanos y robots.

Leyes modernas de la robótica

Si bien las tres leyes de la robótica fueron fenomenales para la literatura, carecen significativamente de sofisticación para programar seriamente en un robot. Después de todo, este era el punto de la trama detrás de los cuentos y las novelas. Los conflictos entre las tres leyes o, como mínimo, la interpretación de las tres leyes provocaron que los robots colapsaran, tomaran represalias contra los humanos u otros puntos fundamentales de la trama.

El principal problema de las leyes actuales es la programación ética de obedecer siempre las instrucciones humanas y de protegerse siempre de posibles conflictos. Después de todo, ¿se le permite al robot defenderse de un dueño que abusa de él?

¿Qué tipo de mecanismo a prueba de fallas debe programarse? ¿Cómo le indicamos a un robot que debe apagarse sin importar las repercusiones? ¿Qué sucede si un robot está en el proceso de salvar a un ama de casa del abuso? ¿Debe el robot apagarse automáticamente si el esposo abusivo le indica que lo haga?

¿Quién debe dar las instrucciones a los robots? Con armas autónomas capaces de identificar y apuntar a enemigos de todo el mundo, ¿debería el robot poder rechazar un comando para eliminar un objetivo si identifica al objetivo como un niño?

En otras palabras, si el robot es propiedad y está controlado por un psicópata, ¿puede el robot rechazar órdenes inmorales? Las preguntas son numerosas, y las respuestas son demasiado difíciles de responder para cualquier individuo. Por eso, organizaciones como El futuro de la vida Instituto son tan importantes, el momento de debatir estos dilemas morales es ahora antes de que surja un verdadero AGI.