Matthew Ikle, Director de Ciencia de SingularityNET – Serie de Entrevistas

Matthew Ikle es el Director de Ciencia de SingularityNET, una empresa fundada con la misión de crear una Inteligencia Artificial General (AGI) descentralizada, democrática, inclusiva y beneficial. Una AGI que no dependa de ninguna entidad central, que esté abierta a todos y no esté restringida a los objetivos estrechos de una sola corporación o incluso de un solo país.

El equipo de SingularityNET incluye ingenieros, científicos, investigadores, empresarios y marketeros experimentados. Los equipos centrales de la plataforma y de IA están complementados por equipos especializados en áreas de aplicación como finanzas, robótica, inteligencia artificial biomédica, medios, arte y entretenimiento.

Considerando su amplia experiencia y cargo en SingularityNET, ¿qué tan seguro está de que lograremos la AGI para 2029 o antes, como predijo el Dr. Ben Goertzel?

Voy a responder a esta pregunta de una manera un poco indirecta. 2029 es aproximadamente cinco años desde ahora. Hace muchos años (principios y mediados de la década de 2010), era extremadamente optimista sobre el progreso de la AGI. Mi optimismo en ese momento se basaba en el nivel de pensamiento detallado y la convergencia de ideas que presencié en la investigación de la AGI en ese momento. Si bien creo que la mayoría de las grandes ideas de esa época aún tienen promesa, la dificultad, como suele ser el caso, proviene de dar detalles a esas visiones generales.

Con esa salvedad en mente, ahora hay una gran cantidad de nueva información, de numerosas disciplinas – neurociencia, matemáticas, ciencia de la computación, psicología, sociología, etc. – que proporciona no solo los mecanismos para completar esos detalles, sino que también apoya conceptualmente los fundamentos de ese trabajo anterior. Estoy viendo patrones, y en campos muy divergentes, que parecen converger a una velocidad acelerada hacia comportamientos análogos. De muchas maneras, esta convergencia me recuerda al período de tiempo anterior al lanzamiento del primer iPhone. Para parafrasear a Greg Meredith, que está trabajando en nuestra infraestructura RhoLang para procesamiento concurrente seguro, los patrones que veo estos días están relacionados con historias de origen – ¿cómo comenzó la primera vida/célula en la Tierra? ¿Cómo y cuándo se formó la mente? Y preguntas relacionadas con transiciones de fase, por ejemplo.

Por ejemplo, hay bastante investigación experimental nueva que tiende a apoyar las ideas subyacentes a una perspectiva de sistemas dinámicos complejos. Los patrones de EEG de sujetos humanos, por ejemplo, muestran un comportamiento notable en alineación con dicha dinámica de sistemas. Estos resultados evocan algunos trabajos anteriores en teorías de la conciencia. Ahora parece que hay comienzos de respaldo experimental para esas ideas teóricas.

En SingularityNET, estoy pensando mucho en las estructuras auto-similares que generan dicha dinámica. Esto es bastante diferente, argumentaría, de lo que está sucediendo en mucha de la comunidad de DNN y LLM, aunque hay cierto reconocimiento entre algunos investigadores más fundamentales de esas ideas. Me gustaría señalar el documento “Conciencia en Inteligencia Artificial: Perspectivas desde la Ciencia de la Conciencia” publicado por 19 investigadores en agosto de 2023, por ejemplo. Los investigadores abarcaron una variedad de disciplinas, incluyendo estudios de conciencia, investigación de seguridad de la IA, ciencia del cerebro, matemáticas, ciencia de la computación, psicología, neurociencia y neuroimagen, y investigación de la mente y la cognición. Lo que estos investigadores tienen en común es más grande que una simple búsqueda de la próxima mejora arquitectónica incremental en DNN, sino que están enfocados en comprender científicamente las grandes ideas filosóficas subyacentes a la cognición humana y cómo llevarlas a la práctica para implementar sistemas de AGI reales.

¿Qué ve como los principales obstáculos tecnológicos o filosóficos para lograr la AGI dentro de esta década?

Entender y responder a grandes preguntas filosóficas y científicas, incluyendo:

• ¿Qué es la vida? Podríamos pensar que la respuesta es clara, pero las definiciones biológicas han demostrado ser problemáticas. ¿Son los virus “vivos”, por ejemplo.
• ¿Qué es la mente?
• ¿Qué es la inteligencia?
• ¿Cómo surgió la vida a partir de unos pocos compuestos químicos básicos en condiciones ambientales específicas? ¿Cómo podríamos replicar esto?
• ¿Cómo surgió la primera “mente”? ¿Qué ingredientes y condiciones permitieron esto?
• ¿Cómo implementamos lo que aprendemos al investigar las cinco preguntas anteriores?
• ¿Está nuestra tecnología actual a la altura de la tarea de implementar nuestras soluciones? Si no, ¿qué necesitamos inventar y desarrollar?
• ¿Cuánto tiempo y personal necesitamos para implementar nuestras soluciones?

SingularityNET ve la IA neuro-simbólica como una solución prometedora para superar las limitaciones actuales de la inteligencia artificial generativa. ¿Podría explicar qué es la IA neuro-simbólica y cómo SingularityNET planea aprovechar este enfoque para acelerar el desarrollo de la AGI?

Históricamente, ha habido dos campos principales de investigadores de AGI, junto con un tercer campo que combina las ideas de los otros dos. Ha habido investigadores que creen únicamente en un enfoque sub-simbólico. Estos días, esto significa principalmente el uso de redes neuronales profundas (DNN) como los modelos Transformer, incluyendo los actuales modelos de lenguaje grande (LLM). Debido al uso de redes neuronales artificiales, los enfoques sub-simbólicos también se llaman métodos neuronales. En los sistemas sub-simbólicos, el procesamiento se ejecuta en nodos idénticos y no etiquetados (neuronas) y enlaces (sinapsis). Los partidarios de los símbolos utilizan lógica de orden superior y razonamiento simbólico, en el que los nodos y enlaces están etiquetados con significado conceptual y semántico. SingularityNET sigue un tercer enfoque que sería más precisamente descrito como un híbrido neuro-simbólico, aprovechando las fortalezas de los métodos simbólicos y sub-simbólicos.

Pero es un híbrido específico en gran medida basado en la filosofía de la mente patternista de Ben Goertzel y detallado en, entre otros documentos, su escrito “La teoría general de la inteligencia general: Una perspectiva patternista pragmática”.

Mientras que mucha de la investigación actual de DNN y LLM se basa en modelos neuronales simplistas y algoritmos, y la configuración correcta de miles de millones de parámetros con la esperanza de lograr la AGI, la estrategia PRIMUS de SingularityNET se basa en comprensiones fundamentales de procesos dinámicos en múltiples escalas espacio-temporales y cómo alinear mejor esos procesos para provocar la emergencia de propiedades deseables en diferentes escalas. Tales comprensiones nos permiten proceder a guiar la investigación y el desarrollo de la AGI de una manera comprensible para los humanos.

¿Qué marcos cree que son críticos para garantizar que el desarrollo de la AGI beneficie a toda la humanidad? ¿Cómo pueden las plataformas de IA descentralizadas como SingularityNET promover un proceso más equitativo y transparente en comparación con los modelos de IA centralizados?

Todas clases de ideas aquí:

Transparencia — Aunque nada es perfecto, garantizar la transparencia completa del proceso de toma de decisiones puede ayudar a todos los involucrados (investigadores, desarrolladores, usuarios y no usuarios) a alinearse, guiar, comprender y manejar mejor el desarrollo de la AGI para el beneficio de la humanidad. Esto es similar al problema del sesgo, que tocaré a continuación.

Descentralización – Aunque la descentralización puede ser desordenada, puede ayudar a garantizar que el poder se comparta más ampliamente. No es, en sí misma, una panacea, pero es una herramienta que, si se utiliza correctamente, puede ayudar a crear procesos y resultados más equitativos.

Toma de decisiones basada en el consenso – La descentralización y la toma de decisiones basada en el consenso pueden trabajar juntas en la búsqueda de procesos y resultados más equitativos. Nuevamente, no siempre garantizan la equidad. Hay complejidades que deben abordarse aquí en términos de reputación y áreas de especialización. Por ejemplo, ¿cómo podemos equilibrar mejor las características deseables en conflicto? Veo la transparencia, la descentralización y la toma de decisiones basada en el consenso como solo tres herramientas críticamente importantes que pueden usarse para guiar el desarrollo de la AGI para el beneficio de la humanidad.

Alineación espacio-temporal de fenómenos emergentes en múltiples escalas, desde lo extraordinariamente pequeño hasta lo inordinadamente grande. Al desarrollar la AGI, creo que es importante no solo confiar en un enfoque de “caja negra” en el que se espera obtener todo correcto desde el principio. En cambio, creo que diseñar la AGI con comprensiones fundamentales en varias etapas de desarrollo y en múltiples escalas puede no solo hacer que sea más probable lograr la AGI, sino también guiar ese desarrollo en alineación con los valores humanos.

SingularityNET es una plataforma de IA descentralizada. ¿Cómo vislumbra la intersección de la tecnología blockchain y la AGI evolucionando, particularmente en cuanto a seguridad, gobernanza y control descentralizado?

La tecnología blockchain ciertamente tiene un papel que desempeñar en el control, la seguridad y la gobernanza de la IA. Una de las mayores fortalezas de la blockchain es su capacidad para fomentar la transparencia. La cuestión del sesgo es un gran ejemplo de esto. Argumentaría que cada persona y cada conjunto de datos están sesgados. Tengo mis propios sesgos personales, por ejemplo, cuando se trata de lo que creo que se requiere para lograr una AGI verdaderamente segura, beneficiosa y benevolente. Estos sesgos se forjaron a través de mis estudios y antecedentes, y guían mi propio trabajo.

Al mismo tiempo, trato de estar completamente abierto a ideas que contradigan mis sesgos y estoy dispuesto a ajustar mis sesgos según nuevas evidencias. Independientemente, trato de ser abierto y transparente con respecto a mis sesgos, y de condicionar mis ideas y decisiones según una comprensión autorreflexiva de esos sesgos. Es complicado, es difícil, pero creo que es mejor que no reconocer mis propios sesgos. La naturaleza de la blockchain permite un mejor seguimiento, trazabilidad y verificación de procesos y eventos. De manera similar a como lo describí anteriormente, la transparencia es un componente necesario, aunque no siempre suficiente, para la seguridad, la gobernanza y el control descentralizado.

¿Cómo la blockchain y la AGI coevolucionan es una pregunta interesante. Para que las dos tecnologías interactúen hacia una singularidad positiva, parece claro que las características fundamentales que sigo señalando (transparencia, descentralización, consenso y alineación de valores), son centrales y críticas y deben mantenerse en mente en todas las etapas de su coevolución.

Como líder que ha estado estrechamente involucrado en la IA y la blockchain, ¿qué cree que son los factores más importantes para fomentar la colaboración entre estos dos campos, y cómo puede eso impulsar la innovación en la AGI?

Vengo del lado de la IA/AGI de la pareja. Como suele ser el caso cuando se integran ideas interdisciplinarias, mucho se reduce a cuestiones de lenguaje y comunicación. Todos los grupos necesitan escucharse mutuamente para comprender mejor cómo las tecnologías pueden ayudarse entre sí. En mi trabajo en SingularityNET, esto ha sido una lucha constante. Los investigadores de alto nivel, que sería una subestimación decir que SingularityNET los tiene en abundancia, a menudo tienen concepciones mentales claras de grandes ideas. Cuando se trabaja en los límites disciplinarios, la parte difícil es darse cuenta de que no todos están “en tu cabeza”. Lo que uno da por sentado, no será tan claramente observado por aquellos en otros campos de estudio. Incluso las palabras utilizadas en común pueden utilizarse de manera diferente en diferentes campos de estudio. Hubo un caso reciente en nuestro trabajo de BioAI, en el que los biólogos estaban utilizando un término matemático, pero no del todo correctamente en términos de su definición matemática. Una vez que esas situaciones se entienden claramente, el equipo puede avanzar con un propósito común, de modo que la integración realmente demuestra que el todo es mayor que la suma de sus partes.

¿Cómo ve la industria de la IA y la blockchain trabajando hacia una mayor diversidad y inclusión, y qué papel juega SingularityNET en la promoción de estos valores?

La IA y la blockchain pueden desempeñar papeles importantes en la mejora de los esfuerzos de diversificación e inclusión. Aunque creo que es imposible eliminar todos los sesgos – muchos sesgos se forman simplemente a través de las experiencias de la vida –, uno puede ser abierto y transparente sobre sus sesgos. Esto es algo que activamente trato de hacer en mi propio trabajo, que está sesgado por mi trasfondo académico, de modo que veo los problemas a través de una lente de dinámica de sistemas complejos. Sin embargo, todavía trato de estar abierto a ideas que contradigan mis sesgos y estoy dispuesto a ajustar mis sesgos según nuevas evidencias. La IA puede ser utilizada para ayudar en este proceso de autorreflexión, y la blockchain puede ayudar con la transparencia. SingularityNET puede desempeñar un papel enorme al alojar herramientas para detectar, medir y eliminar, en la medida de lo posible, sesgos en los conjuntos de datos.

¿Cómo contribuye el trabajo de SingularityNET en ecosistemas de IA descentralizados a la resolución de desafíos globales como la sostenibilidad, la educación y la creación de empleo, especialmente en regiones como África, donde tiene un interés especial?

 Sostenibilidad:

• Aplicar la IA y los modelos de sistema para resolver problemas complejos de ecosistemas a gran escala.
• Monitorear dichas soluciones a gran escala.
• Utilizar la blockchain para rastrear, trazar y verificar dichas soluciones.
• Utilizar una combinación de la IA, los modelos de ecosistemas, los datos hiperlocales y la blockchain, hemos ideado soluciones completas para la minería artesanal en África y la secuestración de carbono agrícola a gran escala.

Educación:

Como ex profesor titular de matemáticas y ciencias de la computación, la educación es extremadamente importante para mí, especialmente porque proporciona oportunidades a poblaciones estudiantiles subatendidas. Es importante:

• Mejorar la accesibilidad desarrollando cursos híbridos para alcanzar a estudiantes que puedan enfrentar restricciones geográficas, financieras o de tiempo.
• Promover la diversidad e inclusión aumentando la participación de poblaciones subatendidas en la IA, la blockchain y otras tecnologías avanzadas.
• Fomentar el conocimiento interdisciplinario creando cursos que unan campos académicos y profesionales.
• Apoiar el avance en la carrera proporcionando habilidades y certificaciones que sean directamente aplicables al mercado laboral.

Veo tanto la AGI como la blockchain, y sus sinergias, como desempeñando papeles críticos para abordar los objetivos anteriores dentro de programas de aprendizaje basados en proyectos, desde el aprendizaje hasta la maestría.

Creación de empleo:

Al fomentar los cuatro objetivos educativos anteriores, parece que la AGI, la blockchain y otras tecnologías avanzadas, combinadas con colaboraciones positivas entre maestros y aprendices, podrían alentar y generar nuevas tecnologías y empresas enteras.

Como alguien comprometido con lograr una singularidad positiva, ¿qué hitos o avances específicos en la tecnología de la IA cree que serán necesarios para garantizar que la AGI se desarrolle de una manera beneficiosa para la sociedad?

• Capacidad para alinear fenómenos emergentes de manera interpretable por humanos en múltiples escalas espacio-temporales.
• Capacidad para comprender a un nivel más profundo los conceptos subyacentes a las “transiciones de fase espontáneas”.
• Capacidad para superar múltiples problemas difíciles a un nivel de detalle para permitir el procesamiento múltiple real a través de superposiciones de estado.
• Transparencia en todas las etapas.
• Toma de decisiones descentralizada basada en la construcción de consenso.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar SingularityNET.