Investigadores dicen que los humanos no podrían controlar la inteligencia artificial superinteligente

Cualquiera que esté al tanto de la inteligencia artificial (IA) probablemente haya escuchado alguna versión sobre cómo eventualmente se librará del control humano. Esto no es solo un tema de películas de ciencia ficción, sino una posibilidad muy fuerte que preocupa a muchos expertos en la industria. Muchos de estos expertos, incluidos científicos, abogan por que comencemos a prepararnos para esta posibilidad y evitarla en la medida de lo posible.

Ahora, un equipo internacional de investigadores ha tomado esta idea y la ha respaldado con cálculos teóricos. El equipo, que incluyó a científicos del Centro para Humanos y Máquinas del Instituto Max Planck para el Desarrollo Humano, utilizó esos cálculos para demostrar cómo no sería posible controlar una IA superinteligente.

La investigación se publicó recientemente en la Journal of Artificial Intelligence Research.

Sistema de IA superinteligente

El temor a un sistema de IA superinteligente se debe al hecho de que dicho sistema sería mucho más superior que los humanos. Podría aprender de manera independiente y acceder a todos los datos existentes y procesarlos extremadamente rápido.

Un evento como este podría llevar a que la IA superinteligente tome el control de todas las máquinas existentes en línea, y aunque podría y haría cosas como curar enfermedades y resolver otros problemas importantes que enfrenta la humanidad, el riesgo de que las cosas se salgan de control también es alto.

Manuel Cebrian es coautor del estudio y Líder del Grupo de Movilización Digital en el Centro para Humanos y Máquinas, Instituto Max Planck para el Desarrollo Humano.

“Una máquina superinteligente que controle el mundo suena como ciencia ficción. Pero ya existen máquinas que realizan ciertas tareas importantes de manera independiente sin que los programadores comprendan completamente cómo las aprendieron. Por lo tanto, surge la pregunta de si esto podría volverse incontrolable y peligroso para la humanidad”, dice Cebrian.

Controlar el sistema

Hay dos escuelas de pensamiento principales cuando se trata de controlar dicho sistema. Primero, los humanos podrían limitar las capacidades de una IA superinteligente restringiendo su acceso a algunas fuentes de datos, como toda la internet. El sistema también podría funcionar sin tener contacto con el mundo exterior. Sin embargo, el problema con esto es que limitaría drásticamente el potencial de la IA.

El sistema se controlaría permitiendo que solo persiga resultados que beneficien a la humanidad, y esto se podría hacer programando principios éticos en él.

El estudio involucró al equipo desarrollando un algoritmo de contención teórico que evita que la IA superinteligente dañe a los humanos bajo cualquier circunstancia. Esto se puede lograr creando primero una simulación del comportamiento de la IA y detectando cualquier comportamiento que podría ser perjudicial. A pesar de esta teoría prometedora, el análisis actual muestra que dicho algoritmo no se puede desarrollar.

Iyad Rahwan es Director del Centro para Humanos y Máquinas.

“Si se descompone el problema en reglas básicas de la ciencia de la computación teórica, resulta que un algoritmo que ordenaría a una IA que no destruya el mundo podría inadvertidamente detener sus propias operaciones. Si esto sucediera, no sabrías si el algoritmo de contención todavía está analizando la amenaza o si ha detenido para contener a la IA perjudicial. En efecto, esto hace que el algoritmo de contención sea inutilizable”, dice Rahwan.

Otro problema es que los expertos pueden no darse cuenta de cuándo una máquina superinteligente alcanza ese estado, principalmente debido al hecho de que sería más inteligente que los humanos.