Los investigadores afirman que los humanos no podrían controlar un sistema de IA superinteligente

Cualquiera que esté al tanto de la inteligencia artificial (IA) probablemente ha escuchado alguna versión sobre cómo eventualmente escapará del control humano. Esto no es solo un tema de películas de ciencia ficción, sino una posibilidad muy fuerte que preocupa a muchos expertos en la industria. Muchos de estos expertos, incluyendo científicos, abogan por que comencemos a prepararnos para esta posibilidad y evitarla en la medida de lo posible.

Ahora, un equipo internacional de investigadores ha tomado esta idea y la ha respaldado con cálculos teóricos. El equipo, que incluyó a científicos del Centro para Humanos y Máquinas del Instituto Max Planck para el Desarrollo Humano, utilizó estos cálculos para demostrar cómo no sería posible controlar un sistema de IA superinteligente.

La investigación se publicó recientemente en la Revista de Investigación de Inteligencia Artificial.

Sistema de IA Superinteligente

El temor a un sistema de IA superinteligente se debe al hecho de que dicho sistema sería mucho más superior a los humanos. Podría aprender de manera independiente y acceder a todos los datos existentes, procesándolos extremadamente rápido.

Un evento como este podría llevar a que la IA superinteligente tome el control de todas las máquinas existentes en línea, y aunque podría y haría cosas como curar enfermedades y resolver otros problemas importantes que enfrenta la humanidad, el riesgo de que las cosas se salgan de control también es alto.

Manuel Cebrian es coautor del estudio y Líder del Grupo de Movilización Digital del Centro para Humanos y Máquinas, Instituto Max Planck para el Desarrollo Humano.

“Una máquina superinteligente que controle el mundo suena como ciencia ficción. Pero ya existen máquinas que realizan ciertas tareas importantes de manera independiente sin que los programadores comprendan completamente cómo las aprendieron. Por lo tanto, surge la pregunta de si esto podría volverse incontrolable y peligroso para la humanidad en algún momento”, dice Cebrian.

Controlar el Sistema

Hay dos escuelas de pensamiento principales cuando se trata de controlar dicho sistema. Primero, los humanos podrían limitar las capacidades de una IA superinteligente restringiendo su acceso a algunas fuentes de datos, como toda la internet. El sistema también podría funcionar sin entrar en contacto con el mundo exterior. Sin embargo, el problema con esto es que limitaría drásticamente el potencial de la IA.

El sistema se controlaría permitiéndole solo perseguir resultados que beneficien a la humanidad, y esto se podría lograr programando principios éticos en él.

El estudio involucró al equipo desarrollando un algoritmo de contención teórico que impide que la IA superinteligente dañe a los humanos bajo cualquier circunstancia. Esto se puede lograr creando una simulación del comportamiento de la IA y detectando cualquier comportamiento que podría ser perjudicial. A pesar de esta teoría prometedora, el análisis actual muestra que tal algoritmo no puede ser desarrollado.

Iyad Rahwan es Director del Centro para Humanos y Máquinas.

“Si se descompone el problema en reglas básicas de la ciencia de la computación teórica, resulta que un algoritmo que ordenaría a una IA no destruir el mundo podría inadvertidamente detener sus propias operaciones. Si esto sucediera, no sabrías si el algoritmo de contención todavía está analizando la amenaza o si ha detenido para contener a la IA dañina. En efecto, esto hace que el algoritmo de contención sea inutilizable”, dice Rahwan.

Otro problema es que los expertos pueden no darse cuenta incluso cuando una máquina superinteligente alcanza ese estado, principalmente debido a que sería más inteligente que los humanos.