Charles J. Simon, Autor, ¿Rebelarán las Computadoras? – Serie de Entrevistas

Charles J. Simon, BSEE, MSCS, empresario, desarrollador de software y gerente reconocido a nivel nacional. Con una amplia experiencia en gestión y técnica y títulos en Ingeniería Eléctrica y Ciencias de la Computación, el Sr. Simon tiene muchos años de experiencia en computación en la industria, incluyendo trabajo pionero en IA y CAD (dos generaciones de CAD).

También es autor de ‘¿Rebelarán las Computadoras’, que ofrece una visión en profundidad de la posible futura posibilidad de Inteligencia Artificial General (IAG).

¿Qué fue lo que originalmente te atrajo a la IA, y específicamente a la IAG?

He estado fascinado por la pregunta, “¿Pueden pensar las máquinas?” desde que leí por primera vez el artículo seminal de Alan Turing de 1950 que comienza con esa pregunta. Hasta ahora, la respuesta es claramente, “No”, pero no hay razón científica por la que no. Me uní a la comunidad de IA con el auge inicial de las redes neuronales a finales de la década de 1980 y desde entonces la IA ha hecho grandes avances. Pero los treinta años intermedios no han traído comprensión a nuestras máquinas, una capacidad que catapultaría numerosas aplicaciones a nuevos niveles de utilidad.

Dijiste que compartes la opinión del experto en IA de MIT Rodney Brooks, quien dice que ‘sin interacción con un entorno, sin un cuerpo robótico, como tú dirías, las máquinas nunca exhibirán IAG’. Esto básicamente establece que con entradas insuficientes de un cuerpo robótico, la IA nunca desarrollará capacidades de IAG. Fuera de la visión por computadora, ¿qué tipos de entradas se necesitan para desarrollar IAG?

La IA de hoy en día necesita ser complementada con conceptos básicos como la existencia física de objetos en una realidad, el paso del tiempo, causa y efecto, conceptos claros para cualquier niño de tres años. Un niño pequeño utiliza múltiples sentidos para aprender estos conceptos tocando y manipulando juguetes, moviéndose por la casa, aprendiendo lenguaje, etc. Si bien es posible crear una IAG con sentidos más limitados, al igual que hay personas sordas y ciegas que son perfectamente inteligentes, pero más sentidos y habilidades para interactuar facilitan la resolución del problema de la IAG.

Para completar, mi simulador puede proporcionar sentidos de olfato y gusto. Queda por ver si estos también resultarán importantes para la IAG.

Dijiste que ‘Un requisito clave para la inteligencia es un entorno que es externo a la inteligencia’. El ejemplo que diste es que ‘es irrazonable esperar que el Watson de IBM “entienda” algo si no tiene una idea subyacente de qué es una “cosa”’. Esto juega claramente en las limitaciones actuales de la IA estrecha, especialmente el procesamiento del lenguaje natural. ¿Cómo pueden los desarrolladores de IA superar mejor esta limitación actual de la IA?

Un factor clave es almacenar conocimiento que no sea específicamente verbal, visual o táctil, sino como “Cosas” abstractas que pueden tener atributos verbales, visuales y táctiles. Considera algo tan simple como la frase, “una pelota roja”. Sabes lo que significan estas palabras porque de tus experiencias visuales y táctiles. También sabes el significado de acciones relacionadas como lanzar, botar, patear, etc., que todas vienen a la mente en cierta medida cuando escuchas la frase. Cualquier sistema de IA que sea específicamente basado en palabras o específicamente basado en imágenes perderá la comprensión de los otros niveles.

He implementado un Almacén de Conocimiento Universal que almacena cualquier tipo de información en una estructura similar al cerebro, donde las Cosas son análogas a neuronas y tienen muchas referencias de atributos a otras Cosas, referencias análogas a sinapsis. Así, rojo y pelota son Cosas individuales y una pelota roja es una Cosa que tiene referencias de atributos a la Cosa roja y la Cosa pelota. Tanto rojo como pelota tienen referencias a las Cosas correspondientes para las palabras “rojo” y “pelota”, cada una de las cuales, a su vez, tiene referencias a otras Cosas que definen cómo se escuchan, se hablan, se leen o se deletrean las palabras, así como posibles acciones de Cosas.

Llegaste a la conclusión de que la simulación del cerebro de la inteligencia general está lejos, mientras que la IAG puede estar (relativamente) justo alrededor de la esquina. Basado en esta afirmación, ¿deberíamos seguir adelante con la simulación del cerebro humano o simplemente centrarnos en la IAG?

Las tecnologías de aprendizaje profundo y relacionadas de hoy en día son excelentes para aplicaciones adecuadas, pero no conducirán espontáneamente a la comprensión. Para dar los siguientes pasos, necesitamos agregar técnicas específicamente dirigidas a resolver los problemas que están dentro de la capacidad de cualquier niño de tres años.

Aprovechar las capacidades intrínsecas de nuestras computadoras puede ser orders de magnitud más eficiente que el equivalente biológico o cualquier simulación de este. Por ejemplo, tu cerebro puede almacenar información en la química de las sinapsis biológicas durante varias iteraciones que requieren 10-100 milisegundos. Una computadora simplemente puede almacenar el nuevo valor de la sinapsis en un solo ciclo de memoria, un billón de veces más rápido.

Al desarrollar software de IAG, he hecho tanto simulación de neuronas biológicas como algoritmos más eficientes. Siguiendo adelante con el Almacén de Conocimiento Universal, cuando se simula en neuronas biológicas simuladas, cada Cosa requiere un mínimo de 10 neuronas y generalmente muchas más. Esto pone la capacidad del cerebro humano en algún lugar entre diez y cien millones de Cosas. Pero quizás una IAG parezca inteligente si comprende solo un millón de Cosas, bien dentro del alcance de las computadoras de escritorio de alta gama de hoy en día.

Un desconocido clave es cuánto tiempo del robot debería asignarse para procesar y reaccionar al mundo versus el tiempo dedicado a imaginar y planificar. ¿Puedes explicar brevemente la importancia de la imaginación para una IAG?

Podemos imaginar muchas cosas y luego solo actuar en aquellas que nos gustan, aquellas que promueven nuestros objetivos internos, si así lo deseamos. El verdadero poder de la imaginación es ser capaz de predecir el futuro, un niño de tres años puede figurar qué secuencias de movimiento lo llevarán a una meta en otra habitación y un adulto puede especular sobre qué palabras tendrán el mayor impacto en los demás.

Una IAG se beneficiará de ir más allá de ser puramente reactivo y especular sobre diversas acciones complejas y elegir la mejor.

Crees que las tres leyes de la robótica de Asimov son demasiado simples y ambiguas. En tu libro compartiste algunas ideas para leyes recomendadas que se deben programar en robots. ¿Cuáles son las leyes que consideras más importantes para que un robot las siga?

Nuevas “leyes de la robótica” evolucionarán con el tiempo a medida que emerge la IAG. Propongo algunos iniciadores:

1. Maximizar el conocimiento y la comprensión interna del entorno.
2. Compartir ese conocimiento con precisión con otros (tanto IAG como humanos).
3. Maximizar el bienestar de tanto IAG como humanos en general, no solo como individuos.

Tienes algunas objeciones con la Prueba de Turing y el concepto detrás de ella. ¿Puedes explicar cómo crees que la Prueba de Turing es defectuosa?

La Prueba de Turing nos ha servido bien durante cincuenta años como una definición ad hoc de inteligencia general, pero a medida que la IAG se acerca, necesitamos afinar la definición y necesitamos una definición más clara. La Prueba de Turing es en realidad una prueba de cuán humano es uno, no de cuán inteligente es. Cuanto más tiempo pueda mantener la computadora la decepción, mejor se desempeña en la prueba. Obviamente, hacer preguntas como “¿Eres una computadora?” y preguntas proxy relacionadas como “¿Cuál es tu comida favorita?” son revelaciones muertas a menos que la IAG esté programada para engañar, un objetivo dudoso a lo mejor.

Además, la Prueba de Turing ha motivado el desarrollo de IA en áreas de valor limitado con, por ejemplo, chatbots con vasta flexibilidad en respuestas pero sin comprensión subyacente.

¿Qué harías de manera diferente en tu versión de la Prueba de Turing?

Preguntas mejores podrían sondear específicamente en la comprensión del tiempo, el espacio, la causa y el efecto, la previsión, etc., en lugar de preguntas aleatorias sin base particular en psicología, neurociencia o IA. Aquí hay algunos ejemplos:

1. ¿Qué ves ahora mismo? Si retrocedieras tres pies, ¿qué diferencias verías?
2. Si yo [acción], ¿cuál sería tu reacción?
3. Si tú [acción], ¿cuál sería mi reacción probable?
4. ¿Puedes nombrar tres cosas que sean como [objeto]?

Luego, en lugar de evaluar las respuestas en términos de si son indistinguibles de las respuestas humanas, deberían evaluarse en términos de si son respuestas razonables (inteligentes) basadas en la experiencia de la entidad que se está probando.

Dijiste que cuando se enfrenta a demandas de realizar alguna actividad destructiva a corto plazo, una IAG correctamente programada simplemente se negará. ¿Cómo podemos asegurarnos de que la IAG esté programada correctamente desde el principio?

La toma de decisiones es basada en objetivos. En combinación con una imaginación, tú (o una IAG) consideras el resultado de diferentes acciones posibles y eliges la que mejor logre los objetivos. En los humanos, nuestros objetivos están establecidos por instintos evolucionados y nuestra experiencia; los objetivos de una IAG están enteramente a disposición de los desarrolladores. Necesitamos asegurarnos de que los objetivos de una IAG se alineen con los objetivos de la humanidad en lugar de los objetivos personales de un individuo. [Tres objetivos posibles como se enumeran anteriormente.]

Dijiste que es inevitable que los humanos creen una IAG, ¿cuál es tu mejor estimación para un cronograma?

Aspectos de la IAG comenzarán a emerger dentro de la próxima década, pero no todos estaremos de acuerdo en que la IAG ha llegado. Eventualmente, estaremos de acuerdo en que la IAG ha llegado cuando excedan la mayoría de las capacidades humanas por un margen sustancial. Esto tomará dos o tres décadas más.

¿Para todas las conversaciones sobre la IAG, será una conciencia real como la que conocemos?

La conciencia se manifiesta en un conjunto de comportamientos (que podemos observar) que se basan en una sensación interna (que no podemos observar). Las IAG manifestarán los comportamientos; necesitan hacerlo para tomar decisiones inteligentes. Pero sostengo que nuestra sensación interna depende en gran medida de nuestro hardware sensorial y nuestros instintos, y así puedo garantizar que cualquier sensación interna que una IAG pueda tener será diferente a la de un humano.

Lo mismo se puede decir de las emociones y nuestro sentido de libre albedrío. Al tomar decisiones, la creencia en el libre albedrío permea cada decisión que tomamos. Si no crees que tienes una elección, simplemente reaccionas. Para que una IAG tome decisiones reflexivas, también necesitará ser consciente de su propia capacidad para tomar decisiones.

Última pregunta, ¿crees que una IAG tiene más potencial para el bien o para el mal?

Soy optimista de que las IAG nos ayudarán a avanzar como especie y nos traerán respuestas a muchas preguntas sobre el universo. La clave será para nosotros prepararnos y decidir qué relación tendremos con las IAG a medida que definimos sus objetivos. Si decidimos usar las primeras IAG como herramientas de conquista y enriquecimiento, no deberíamos sorprendernos si, en el camino, se convierten en sus propias herramientas de conquista y enriquecimiento contra nosotros. Si elegimos que las IAG sean herramientas de conocimiento, exploración y paz, entonces eso es lo que probablemente obtendremos a cambio. La elección es nuestra.

Gracias por una fantástica entrevista que explora el potencial futuro de la construcción de una IAG. Para los lectores que desean aprender más, pueden leer ‘¿Rebelarán las Computadoras’ o visitar el sitio web de Charle futureai.guru.