Entrevistas
Charles Simon, autor de Brain Simulator II – Serie de entrevistas
Charles Simon es el autor de Simulador de cerebro II, un libro que acompaña a Brain Simulator II, un proyecto de software gratuito y de código abierto destinado a crear un sistema de inteligencia general artificial (AGI) de extremo a extremo
El software Brain Simulator original se lanzó en 1988, una enorme cantidad de tiempo en el mundo del software. ¿Qué avance supone Brain Simulator II en comparación con su predecesor?
El sistema actual es más de un millón de veces más rápido. El original fue escrito en FORTRAN, se ejecutó en un clon de IBM AT, admitió una matriz fija de 1,200 neuronas y calculó alrededor de dos ciclos por segundo. El programa actual puede ejecutarse en una red y procesar 2.5 millones de sinapsis por segundo en una poderosa CPU de escritorio.
Este libro trata sobre Brain Simulator II, un proyecto de software de código abierto destinado a crear inteligencia artificial de extremo a extremo. ¿Qué tipo de experiencia en codificación se necesita para ejecutar este software?
No se necesita experiencia. Si no es programador, puede pasar tiempo con Brain Simulator y comprender las capacidades y limitaciones de las neuronas, un poco sobre la representación del conocimiento e incluso construir sus propias redes limitadas. Si es programador, seguirá las explicaciones técnicas más detalladas y creará sus propios módulos para extender el sistema a estrategias AGI más avanzadas.
¿Por qué es importante volver a las raíces biológicamente inspiradas de la IA para lograr AGI?
En la década de 1980, la idea era que si pudiéramos construir una red neuronal lo suficientemente grande, se volvería inteligente de forma espontánea. Durante los cuarenta años intermedios, este escenario se ha vuelto cada vez más inverosímil. Entonces, si los enfoques clásicos de IA no han funcionado para AGI, veamos algunos enfoques diferentes, y el único modelo AGI funcional que tenemos es el cerebro humano.
Al mismo tiempo, no hay motivo para adherirse servilmente a la plausibilidad biológica. Por ejemplo, sabemos que nuestro cerebro puede estimar las distancias a los objetos basándose en ligeras diferencias en las imágenes recibidas por nuestros dos ojos, la base de las películas en 3D. No sabemos cómo funciona esto en el cerebro, así que programé esta funcionalidad en un módulo que estima distancias usando unas pocas líneas de trigonometría. Podemos estar bastante seguros de que su cerebro no funciona de esta manera, pero el enfoque trigonométrico probablemente sea más rápido y más preciso.
Usted afirma en el libro que un AGI requiere robótica, ¿por qué es tan importante?
Considere intentar explicar el color a una persona ciega o la música a una persona sorda. Si un posible AGI es solo un programa en una computadora, ¿cómo puede obtener una comprensión básica de las cosas que sabe cualquier niño de tres años? El niño tiene un punto de vista y está rodeado de realidad. El niño sabe que los objetos existen en esa realidad y que muchos de ellos pueden ser manipulados. Al jugar con bloques, un niño puede aprender sobre la forma, el tamaño, la solidez, la gravedad, la oclusión visual, la distancia, etc. Con movimiento, visión y manipuladores autónomos, un AGI puede aprender sobre la realidad en un nivel más fundamental que cualquier programa que se base solo en montañas de datos de texto e imágenes.
Después de que un AGI robótico haya adquirido una comprensión fundamental de los objetos en la realidad, ese conocimiento se puede clonar en máquinas de pensamiento no robóticas y la comprensión persistirá. Así como alguien que pierde los sentidos de la vista o el oído puede entender las cosas de una manera diferente a una persona que nunca ha tenido estos sentidos.
Un aspecto importante del Brain Simulator II es que no utiliza retropropagación, ¿cuál es la razón para no adoptar esta metodología?
Su cerebro funciona sin retropropagación, por lo que AGI debe ser posible sin él. De hecho, la retropropagación es fundamentalmente incompatible con un modelo biológico porque se basa en poder detectar y modificar los pesos de las sinapsis con una precisión considerable. Después de un tiempo con Brain Simulator, concluirá que establecer pesos de sinapsis con cualquier grado de precisión es muy difícil y detectar con precisión cuáles son esos pesos de sinapsis es imposible. El problema fundamental es que las neuronas que disparan modifican los pesos de sinapsis, pero no hay forma de detectar un peso de sinapsis sin disparar neuronas, por lo que no se puede detectar un peso de sinapsis sin modificarlo.
La retropropagación no tiene análogo biológico y lo considero un método estadístico extremadamente poderoso. Mucha gente está trabajando con él, algunas con excelentes resultados. Mi punto es probar algunos enfoques diferentes. Al utilizar neuronas activas combinadas con módulos de software complementarios, analizo los problemas de AGI desde una perspectiva diferente.
Cuando se examina el cerebro, parece haber desorden y aleatoriedad, ¿es esto algo que debemos introducir en un sistema de software para que surja un verdadero AGI?
No me parece. Cuando observa las neuronas y sinapsis individuales, su función es bastante determinista, al igual que el transistor. En el cerebro, las cosas parecen aleatorias porque los niveles de ruido son bastante altos y los componentes de información no están en ningún orden aparente. Pero tenga en cuenta su visión, puede leer el texto con claridad y no hay desorden ni aleatoriedad en el proceso de lectura. Entonces, concluimos que, al menos, su corteza visual es razonablemente confiable y repetible. Sin embargo, cuando se prueba, parece tan desordenado como el resto del cerebro. Entonces, el resto del cerebro es probablemente tan confiable y repetible como la corteza visual, solo que todavía no vemos la organización y el orden. Es un poco como leer chino, para mí son marcas desordenadas semialeatorias, pero para alguien que puede leer el idioma, hay una organización absoluta. Todavía no podemos leer el lenguaje interno del cerebro.
Usted presenta un concepto llamado Universal Knowledge Store (UKS), ¿podría discutir brevemente qué es esto y por qué es importante?
Pensando en la cuestión de la robótica, puede ver que una faceta de la inteligencia general es la capacidad de integrar el conocimiento de varios sentidos. Conoces un bloque porque puedes verlo, tocarlo y escuchar palabras sobre él. Todo esto representa información sobre un bloque. Entonces, para que un AGI tenga capacidades similares, debe tener un mecanismo de almacenamiento general que pueda manejar una amplia variedad de información dispar y crear relaciones útiles entre los diversos elementos. El UKS es un gráfico de conocimiento de una manera muy general para que pueda manejar CUALQUIER tipo de información y CUALQUIER tipo de relaciones.
El UKS puede almacenar la información espacial necesaria para la aplicación del laberinto junto con el árbol de decisiones y resultados utilizado para atravesar el laberinto y lograr un objetivo. La misma estructura se utiliza para asociar palabras con colores. Este tipo de generalidad es fundamental para AGI.
¿Cuál es su horizonte de tiempo para que surja AGI?
Es difícil de decir. Ya tenemos el hardware necesario para AGI y veo que un solo avance es todo lo que se necesita, y podría llegar en cualquier momento. Permítanme tratar de describir ese avance:
Considere que si todo lo que sabe es que el rojo es un color y el azul es un color, puedo pedirle que nombre algunos colores y puede decir rojo y azul. La pregunta es, ¿cómo puede un AGI aprender que la relación "es-un" es algo? Podría programar una relación así fácilmente, pero entonces mi AGI no podrá aprender nuevas relaciones a medida que se encuentren. Un niño puede aprender acerca de las relaciones de más cerca/más lejos, más grande/pequeño, antes/después, antes/después y así sucesivamente. Pero estos se basan en conceptos aún más fundamentales de tamaño, distancia, tiempo y más.
¿Cómo puede una cabeza llena de neuronas aprender todas estas cosas verdaderamente fundamentales? Esto se relaciona con la necesidad de la robótica. ¿Cómo puede un AGI aprender el concepto de distancia si no puede ir a ninguna parte ni alcanzar nada? También se relaciona con la necesidad de almacenamiento universal. ¿Cómo puede un AGI comprender ir a algún lugar que combine los conceptos de ubicación y tiempo? Ir a algún lugar es relativamente sencillo. Comprender lo que significa ir a algún lugar es mucho más difícil. Creo que estas preguntas verdaderamente fundamentales son todas manifestaciones del mismo problema subyacente y la solución a ese problema es el avance necesario.
No mucha gente está trabajando en esta pregunta, en gran parte porque es muy difícil presentar un proyecto que, si realmente tiene éxito, tendrá las capacidades de un niño de tres años después de tres años, y las capacidades de un niño de diez años. después de una década. Por lo tanto, es probable que la solución provenga de investigadores independientes más pequeños que tengan el tiempo y la energía para dedicarse a los problemas sin retorno a corto plazo.
¿Hay algo más que le gustaría compartir sobre Brain Simulator II o AGI en general?
Cuando intenta utilizar neuronas y sinapsis para diseñar circuitos que aborden estos problemas fundamentales, concluye que, en lugar de representar un concepto con unas pocas docenas de sinapsis, cada una requiere unas pocas docenas de neuronas. Esto significa que, en lugar de que la capacidad del cerebro sea de miles de millones de cosas, como se cree comúnmente, se limita a comprender decenas o cientos de millones de cosas. Con esto en mente, un AGI incipiente que podría comprender solo diez millones de cosas debería al menos ser capaz de comprender algunos de estos conceptos fundamentales. Y un sistema informático que represente diez millones de cosas está dentro del alcance del hardware actual, tal vez incluso de la computadora de escritorio actual.
La versión V1.0 de Brain Simulator es realmente su "mayoría de edad". Ahora tiene la capacidad y la interfaz de usuario mejorada que lo hacen mucho más útil para una audiencia de investigación más general. Es un proyecto comunitario con un equipo de desarrollo en crecimiento y un cuerpo más grande de usuarios finales. Juntos, probaremos muchas ideas nuevas y progresaremos en algunas de las cuestiones fundamentales de inteligencia y AGI.
Gracias por la excelente entrevista, siempre es interesante hablar de AGI contigo. Los lectores que deseen aprender más deben leer el libro. Simulador de Cerebro II.
