Charles Simon, autor de Brain Simulator II – Serie de entrevistas

Charles Simon es el autor de Brain Simulator II, un libro complementario del Brain Simulator II, un proyecto de software de código abierto y gratuito que tiene como objetivo crear un sistema de Inteligencia Artificial General (AGI) de extremo a extremo

El software Brain Simulator original se lanzó en 1988, una enormidad de tiempo en el mundo del software. ¿Cuánto de un salto adelante es Brain Simulator II en comparación con su predecesor?

Hoy en día, el sistema es más de un millón de veces más rápido. El original se escribió en FORTRAN, se ejecutó en un clon de IBM AT, admitió una matriz fija de 1.200 neuronas y calculó alrededor de dos ciclos por segundo. El programa de hoy puede ejecutarse en una red y procesar 2.500 millones de sinapsis por segundo en un CPU de escritorio potente.

Este libro trata sobre el Brain Simulator II, un proyecto de software de código abierto que tiene como objetivo crear inteligencia artificial de extremo a extremo, ¿qué tipo de experiencia en codificación se necesita para ejecutar este software?

No se necesita experiencia. Si no eres programador, puedes pasar tiempo con el Brain Simulator y salir con una comprensión de las capacidades y limitaciones de las neuronas, un poco sobre la representación del conocimiento y incluso construir tus propias redes limitadas. Si eres programador, seguirás las explicaciones técnicas más detalladas y construirás tus propios módulos para ampliar el sistema a estrategias de AGI más avanzadas.

¿Por qué es importante regresar a las raíces biológicas de la IA para lograr la AGI?

En la década de 1980, se pensaba que si pudiéramos construir una red neuronal lo suficientemente grande, se volvería espontáneamente inteligente. A lo largo de los cuarenta años siguientes, este escenario se ha vuelto cada vez más implausible. Así que, si los enfoques clásicos de la IA no han funcionado para la AGI, miremos algunos enfoques diferentes, y el único modelo de AGI que funciona es el cerebro humano.

Al mismo tiempo, no hay razón para adherirse estrictamente a la plausibilidad biológica. Por ejemplo, sabemos que nuestros cerebros pueden estimar distancias a objetos en función de pequeñas diferencias en las imágenes recibidas por nuestros dos ojos, la base para las películas 3D. No sabemos cómo funciona esto en el cerebro, así que en su lugar, he programado esta funcionalidad en un módulo que estima distancias usando algunas líneas de trigonometría. Podemos estar bastante seguros de que su cerebro no funciona de esta manera, pero el enfoque trig es probablemente más rápido y preciso.

Afirmas en el libro que la AGI requiere robótica, ¿por qué es esto tan importante?

Considera tratar de explicar el color a una persona ciega o la música a una persona sorda. Si una AGI prospectiva es solo un programa en una computadora, ¿cómo puede obtener una comprensión básica de las cosas que cualquier niño de tres años sabe? El niño tiene un punto de vista y está rodeado de realidad. El niño sabe que los objetos existen en esa realidad y que muchos de ellos se pueden manipular. Al jugar con bloques, un niño puede aprender sobre forma, tamaño, solidez, gravedad, occlusión visual, distancia y así sucesivamente. Con movimiento autónomo, visión y manipuladores, una AGI puede aprender sobre la realidad a un nivel más fundamental que cualquier programa que dependa solo de montañas de datos de texto e imagen.

Después de que una AGI robótica haya adquirido una comprensión fundamental de los objetos en la realidad, ese conocimiento se puede clonar en máquinas de pensamiento no robóticas y la comprensión persistirá. Al igual que alguien que pierde sus sentidos de la vista o el oído puede entender las cosas de una manera diferente a una persona que nunca ha tenido estos sentidos.

Un aspecto importante del Brain Simulator II es que no utiliza propagación hacia atrás, ¿cuál es la razón para no adoptar esta metodología?

Su cerebro opera sin propagación hacia atrás, por lo que la AGI debe ser posible sin ella. De hecho, la propagación hacia atrás es fundamentalmente incompatible con un modelo biológico porque depende de ser capaz de detectar y modificar los pesos de las sinapsis con considerable precisión. Después de pasar algún tiempo con el Brain Simulator, concluirás que establecer los pesos de las sinapsis con algún grado de precisión es muy difícil y detectar con precisión qué son esos pesos de las sinapsis es imposible. El problema fundamental es que las neuronas que se disparan modifican los pesos de las sinapsis, pero no hay forma de detectar un peso de sinapsis sin disparar neuronas, por lo que un peso de sinapsis no se puede detectar sin modificarlo.

La propagación hacia atrás no tiene un análogo biológico y la considero un método estadístico muy poderoso. Muchas personas están trabajando con ella, algunas con resultados excelentes. Mi punto es intentar algunos enfoques diferentes. Al utilizar neuronas que se disparan combinadas con módulos de software que se pueden conectar, estoy mirando los problemas de la AGI desde una perspectiva diferente.

Cuando se examina el cerebro, parece haber desorden y aleatoriedad, ¿es algo que debemos introducir en un sistema de software para que surja la verdadera AGI?

No lo creo. Cuando se examinan las neuronas y sinapsis individuales, su función es bastante determinista, al igual que el transistor. En el cerebro, las cosas parecen aleatorias porque los niveles de ruido son bastante altos y los componentes de la información no están en ningún orden aparente. Pero considera tu visión, puedes leer texto con claridad y no hay desorden o aleatoriedad en el proceso de lectura. Así que concluimos que, al menos, tu corteza visual es razonablemente confiable y repetible. Sin embargo, cuando se examina, parece igual de desordenado que el resto del cerebro. Así que el resto del cerebro probablemente sea tan confiable y repetible como la corteza visual, solo que no vemos la organización y el orden todavía. Es un poco como leer chino, para mí son marcas semi-aleatorias y desordenadas, pero para alguien que puede leer el lenguaje, hay una organización absoluta. Simplemente no podemos leer el lenguaje interno del cerebro todavía.

Introduces un concepto llamado Almacén de Conocimiento Universal (UKS), ¿podrías discutir brevemente qué es y por qué es importante?

Pensando en la pregunta de la robótica, puedes ver que un aspecto de la inteligencia general es la capacidad de integrar conocimiento de varios sentidos. Sabes sobre un bloque porque puedes verlo, tocarlo y escuchar palabras sobre él. Todo esto representa información sobre un bloque. Así que, para que una AGI tenga habilidades similares, debe tener un mecanismo de almacenamiento general que pueda manejar una amplia variedad de información dispar y crear relaciones útiles entre los varios elementos. El UKS es un gráfico de conocimiento de una manera muy general para que pueda manejar cualquier tipo de información y cualquier tipo de relaciones.

El UKS puede almacenar la información espacial necesaria para la aplicación del laberinto, junto con el árbol de decisión y resultado utilizado para atravesar el laberinto y lograr un objetivo. La misma estructura se utiliza para asociar palabras con colores. Este tipo de generalidad es fundamental para la AGI.

¿Cuál es tu horizonte de tiempo para que surja la AGI?

Es difícil decirlo. Ya tenemos el hardware necesario para la AGI y veo que solo se necesita un avance importante, y podría llegar en cualquier momento. Déjame tratar de describir ese avance:

Considera que si todo lo que sabes es que el rojo es-un color y el azul es-un color, puedo pedirte que nombres algunos colores y puedes decir rojo y azul. La pregunta es, ¿cómo puede una AGI aprender que la relación “es-un” es algo? Podría programar fácilmente esa relación, pero entonces mi AGI no podrá aprender nuevas relaciones a medida que se encuentren. Un niño puede aprender sobre relaciones de más cerca/más lejos, más grande/más pequeño, más pronto/más tarde, antes/después, y así sucesivamente. Pero estas dependen de conceptos aún más fundamentales de tamaño, distancia, tiempo y más.

¿Cómo puede un cerebro lleno de neuronas aprender todas estas cosas verdaderamente fundamentales? Esto se relaciona con la necesidad de robótica. ¿Cómo puede una AGI aprender el concepto de distancia si no puede ir a ningún lugar o alcanzar nada? También se relaciona con la necesidad de almacenamiento universal. ¿Cómo puede una AGI comprender ir a algún lugar, lo que combina los conceptos de ubicación y tiempo? Ir a algún lugar es relativamente sencillo. Entender lo que significa ir a algún lugar es mucho más difícil. Creo que estas preguntas verdaderamente fundamentales son todas manifestaciones del mismo problema subyacente y la solución a ese problema es el avance necesario.

No muchas personas están trabajando en esta pregunta, en gran parte porque es tan difícil presentar un proyecto que, si tiene éxito, tendrá las capacidades de un niño de tres años después de tres años, y las capacidades de un niño de diez años después de una década. Así que la solución probablemente provenga de investigadores independientes más pequeños que tengan el tiempo y la energía para dedicar a problemas sin recompensa a corto plazo.

¿Hay algo más que te gustaría compartir sobre Brain Simulator II o la AGI en general?

Cuando tratas de usar neuronas y sinapsis para diseñar circuitos que aborden estos problemas fundamentales, concluyes que, en lugar de que un concepto sea representado por un par de docenas de sinapsis, cada uno requiere un par de docenas de neuronas. Esto significa que, en lugar de que la capacidad del cerebro sea de miles de millones de cosas, como se cree comúnmente, está limitada a comprender decenas o cientos de millones de cosas. Con esto en mente, una AGI nascente que pueda comprender solo diez millones de cosas debería al menos poder captar algunos de estos conceptos fundamentales. Y un sistema de computadora que representa diez millones de cosas está bien dentro del alcance del hardware de hoy, quizás incluso de la computadora de escritorio de hoy.

La versión 1.0 del Brain Simulator es realmente su “mayoría de edad”. Ahora tiene la capacidad y la interfaz de usuario pulida que lo hacen mucho más útil para una audiencia de investigación más general. Es un proyecto comunitario con un equipo de desarrollo en crecimiento y un cuerpo más grande de usuarios finales. Juntos, probaremos muchas nuevas ideas y haremos progreso en algunas de las preguntas fundamentales de la inteligencia y la AGI.

Gracias por la gran entrevista, siempre es esclarecedor discutir AGI contigo. Los lectores que deseen aprender más deben leer el libro Brain Simulator II.