Matthew Ikle, Director de Ciencia en SingularityNET – Serie de Entrevistas

Matthew Ikle es el Director de Ciencia en SingularityNET, una empresa fundada con la misión de crear una Inteligencia Artificial General (AGI) descentralizada, democrática, inclusiva y beneficial. Una AGI que no depende de ninguna entidad central, que está abierta a cualquiera y no está restringida a los objetivos estrechos de una sola corporación o incluso de un solo país.

El equipo de SingularityNET incluye ingenieros experimentados, científicos, investigadores, empresarios y marketeros. El equipo central de la plataforma y de IA se complementa con equipos especializados en áreas de aplicación como finanzas, robótica, inteligencia artificial biomédica, medios, arte y entretenimiento.

Considerando su amplia experiencia y cargo en SingularityNET, ¿qué tan confiado está de que lograremos la AGI para 2029 o antes, como predijo el Dr. Ben Goertzel?

Voy a responder a esta pregunta de una manera un poco indirecta. 2029 es aproximadamente dentro de cinco años. Hace muchos años (principios y mediados de la década de 2010), yo era extremadamente optimista sobre el progreso de la AGI. Mi optimismo en ese momento se basaba en el nivel de pensamiento detallado y la convergencia de ideas que presencié en la investigación de AGI en ese momento. Aunque la mayoría de las grandes ideas de esa era, creo, todavía tienen promesa, la dificultad, como suele ser el caso, proviene de desarrollar los detalles de esas visiones generales.

Con esa salvedad en mente, ahora hay una gran cantidad de nueva información, de numerosas disciplinas – neurociencia, matemáticas, ciencias de la computación, psicología, sociología, por nombrar algunas – que proporciona no solo los mecanismos para terminar esos detalles, sino también conceptos que respaldan los cimientos de ese trabajo anterior. Estoy viendo patrones, y en campos muy divergentes, que todos parecen converger a un ritmo acelerado hacia comportamientos análogos. De muchas maneras, esta convergencia me recuerda al período de tiempo anterior al lanzamiento del primer iPhone. Para parafrasear a Greg Meredith, quien está trabajando en nuestra infraestructura RhoLang para procesamiento concurrente seguro, los patrones que veo estos días están relacionados con historias de origen – ¿cómo comenzó la primera vida/célula en la Tierra? ¿Cómo y cuándo se formó la mente? Y preguntas relacionadas con transiciones de fase, por ejemplo.

Por ejemplo, hay bastante investigación experimental nueva que tiende a respaldar las ideas subyacentes a una perspectiva de sistemas dinámicos complejos. Los patrones de EEG de sujetos humanos, por ejemplo, muestran un comportamiento notable en consonancia con dicha dinámica de sistemas. Estos resultados evocan algunos trabajos anteriores en teorías de la conciencia. Ahora parece haber los inicios de un respaldo experimental para esas ideas teóricas.

En SingularityNET, estoy pensando mucho en las estructuras auto-similares que generan dicha dinámica. Esto es bastante diferente, argumentaría, de lo que está sucediendo en mucha de la investigación de DNN y LLM, aunque hay ciertamente un reconocimiento entre ciertos investigadores más fundamentales de esas ideas. Me gustaría señalar el documento “Conciencia en Inteligencia Artificial: Perspectivas desde la Ciencia de la Conciencia” publicado por 19 investigadores en agosto de 2023, por ejemplo. Los investigadores abarcaron una variedad de disciplinas, incluyendo estudios de conciencia, investigación de seguridad de IA, ciencia cerebral, matemáticas, ciencias de la computación, psicología, neurociencia y neuroimagen, y investigación de mente y cognición. Lo que estos investigadores tienen en común es más grande que una simple búsqueda de la próxima mejora arquitectónica incremental en DNN, sino que están enfocados en comprender científicamente las grandes ideas filosóficas subyacentes a la cognición humana y cómo llevarlas a la práctica para implementar sistemas de AGI reales.

¿Qué ve como los mayores obstáculos tecnológicos o filosóficos para lograr la AGI dentro de esta década?

Entender y responder a grandes preguntas filosóficas y científicas, incluyendo:

• ¿Qué es la vida? Podríamos pensar que la respuesta es clara, pero las definiciones biológicas han demostrado ser problemáticas. ¿Son los virus “vivos”, por ejemplo.
• ¿Qué es la mente?
• ¿Qué es la inteligencia?
• ¿Cómo emergió la vida a partir de unos pocos productos químicos básicos en condiciones ambientales específicas? ¿Cómo podríamos replicar esto?
• ¿Cómo emergió la primera “mente”? ¿Qué ingredientes y condiciones permitieron esto?
• ¿Cómo implementamos lo que aprendemos al investigar las cinco preguntas anteriores?
• ¿Está nuestra tecnología actual a la altura de la tarea de implementar nuestras soluciones? Si no, ¿qué debemos inventar y desarrollar?
• ¿Cuánto tiempo y personal necesitamos para implementar nuestras soluciones?

SingularityNET ve la inteligencia artificial neuro-simbólica como una solución prometedora para superar las limitaciones actuales de la inteligencia artificial generativa. ¿Podría explicar qué es la inteligencia artificial neuro-simbólica y cómo SingularityNET planea aprovechar este enfoque para acelerar el desarrollo de la AGI?

Históricamente, ha habido dos campos principales de investigadores de AGI, junto con un tercer campo que combina las ideas de los otros dos. Ha habido investigadores que creen solo en un enfoque sub-simbólico. Estos días, esto significa principalmente el uso de redes neuronales profundas (DNN) como modelos de Transformador, incluyendo los actuales modelos de lenguaje grande (LLM). Debido al uso de redes neuronales artificiales, los enfoques sub-simbólicos también se llaman métodos neuronales. En los sistemas sub-simbólicos, el procesamiento se ejecuta a través de nodos (neuronas) idénticos y no etiquetados y enlaces (sinapsis). Los partidarios de los enfoques simbólicos utilizan lógica de orden superior y razonamiento simbólico, en el que los nodos y enlaces están etiquetados con significado conceptual y semántico. SingularityNET sigue un tercer enfoque que se describiría con mayor precisión como un híbrido neuro-simbólico, aprovechando las fortalezas de los métodos simbólicos y sub-simbólicos.

Sin embargo, es un híbrido específico en gran medida basado en la filosofía de la mente patrón de Ben Goertzels y detallada en, entre muchos otros documentos, su escrito “La Teoría General de la Inteligencia General: Una Perspectiva Patrón Pragmática”.

Mientras que mucha de la investigación actual de DNN y LLM se basa en modelos neuronales simplistas y algoritmos, y el uso de conjuntos de datos mamotretos (por ejemplo, toda la internet), y la configuración correcta de miles de millones de parámetros con la esperanza de lograr la AGI, la estrategia PRIMUS de SingularityNET se basa en comprensiones fundamentales de procesos dinámicos a múltiples escalas espacio-temporales y cómo alinear mejor esos procesos para hacer que las propiedades deseadas emerjan a diferentes escalas. Tales comprensiones nos permiten proceder a guiar la investigación y el desarrollo de la AGI de una manera comprensible para los humanos.

¿Qué marcos cree que son críticos para garantizar que el desarrollo de la AGI beneficie a toda la humanidad? ¿Cómo pueden las plataformas de IA descentralizadas como SingularityNET promover un proceso más equitativo y transparente en comparación con los modelos de IA centralizados?

Todo tipo de ideas aquí:

Transparencia — Aunque nada es perfecto, garantizar la transparencia completa del proceso de toma de decisiones puede ayudar a todos los involucrados (investigadores, desarrolladores, usuarios y no usuarios) a alinearse, guiar, entender y manejar mejor el desarrollo de la AGI para el beneficio de la humanidad. Esto es similar al problema de sesgo, que tocaré a continuación.

Descentralización – Aunque la descentralización puede ser desordenada, puede ayudar a garantizar que el poder se comparta más ampliamente. No es, en sí mismo, una panacea, pero una herramienta que, si se usa correctamente, puede ayudar a crear procesos y resultados más equitativos.

Toma de decisiones basada en consenso – La descentralización y la toma de decisiones basada en consenso pueden trabajar juntas en la búsqueda de procesos y resultados más equitativos. Nuevamente, no siempre garantizan la equidad. Hay complejidades que deben abordarse aquí en términos de reputación y áreas de especialización. Por ejemplo, ¿cómo podemos equilibrar mejor las características deseables en conflicto? Veo la transparencia, la descentralización y la toma de decisiones basada en consenso como solo tres herramientas críticamente importantes que pueden usarse para guiar el desarrollo de la AGI para el beneficio de la humanidad.

Alineación espacio-temporal de fenómenos emergentes a través de múltiples escalas, desde lo extraordinariamente pequeño hasta lo inordinadamente grande. Al desarrollar la AGI, creo que es importante no solo confiar en un enfoque de “caja negra” en el que se espera obtener todo correcto desde el principio. En lugar de eso, creo que diseñar la AGI con comprensiones fundamentales en varias etapas de desarrollo y en múltiples escalas no solo puede hacer que sea más probable lograr la AGI, sino más importante, guiar dicho desarrollo en alineación con los valores humanos.

SingularityNET es una plataforma de IA descentralizada. ¿Cómo vislumbra la intersección de la tecnología blockchain y la AGI evolucionando, particularmente en cuanto a seguridad, gobernanza y control descentralizado?

La blockchain ciertamente tiene un papel que desempeñar en el control, la seguridad y la gobernanza de la IA. Una de las mayores fortalezas de la blockchain es su capacidad para fomentar la transparencia. La cuestión del sesgo es un gran ejemplo de esto. Argumentaría que cada persona y cada conjunto de datos están sesgados. Tengo mis propios sesgos personales, por ejemplo, en cuanto a lo que creo que se requiere para lograr una AGI verdaderamente segura, beneficiosa y benevolente. Estos sesgos se forjaron a través de mis estudios y antecedentes, y guían mi propio trabajo.

Al mismo tiempo, trato de ser completamente abierto a ideas que contradigan mis sesgos y estoy dispuesto a ajustar mis sesgos según nueva evidencia. Independientemente, trato de ser abierto y transparente con respecto a mis sesgos, y luego condicionar mis ideas y decisiones basadas en una comprensión autorreflexiva de esos sesgos. Es complicado, es difícil, pero creo que es mejor que no reconocer mis propios sesgos. La naturaleza de la blockchain permite un mejor seguimiento, trazabilidad y verificación transparente de procesos y eventos. De manera similar a como describí anteriormente, la transparencia es un componente necesario, aunque no siempre suficiente, para la seguridad, la gobernanza y el control descentralizado.

¿Cómo la blockchain y la AGI coevolucionan es una pregunta interesante. Para que las dos tecnologías interactúen hacia una singularidad positiva, parece claro que las características fundamentales que sigo señalando (transparencia, descentralización, consenso y alineación de valores), son centrales y críticas y deben mantenerse en mente en todas las etapas de su coevolución.

Como un líder que ha estado estrechamente involucrado en la IA y la blockchain, ¿qué cree que son los factores más importantes para fomentar la colaboración entre estos dos campos, y cómo puede impulsar la innovación en la AGI?

Vengo del lado de la IA/AGI de la pareja. Como suele ser el caso cuando se integran ideas interdisciplinarias, mucho se reduce a cuestiones de lenguaje y comunicación. Todos los grupos necesitan escucharse mutuamente para entender mejor cómo las tecnologías pueden ayudarse entre sí. En mi trabajo en SingularityNET, esto ha sido una lucha constante. Los investigadores de alto nivel, que sería una subestimación decir que SingularityNET los tiene en abundancia, a menudo tienen concepciones mentales claras de grandes ideas. Al trabajar a través de fronteras disciplinarias, la parte difícil es darse cuenta de que no todos están “en tu cabeza”. Lo que uno da por sentado, no será tan claramente observado por aquellos en otros campos. Incluso las palabras utilizadas en común pueden usarse de manera diferente a través de diferentes campos de estudio. Hubo un caso reciente en nuestro trabajo de BioIA, en el que los biólogos estaban utilizando un término matemático, pero no del todo correctamente en términos de su definición matemática. Una vez que esas situaciones se entienden claramente, el equipo puede avanzar con un propósito común para que la integración realmente demuestre que el todo es mayor que la suma de sus partes.

¿Cómo ve que las industrias de la IA y la blockchain trabajen hacia una mayor diversidad y inclusión, y qué papel desempeña SingularityNET en la promoción de estos valores?

La IA y la blockchain pueden desempeñar papeles importantes en la mejora de los esfuerzos de diversificación y inclusión. Aunque creo que es imposible eliminar todos los sesgos – muchos sesgos se forman simplemente a través de las experiencias de la vida – uno puede ser abierto y transparente sobre sus sesgos. Esto es algo que activamente trato de hacer en mi propio trabajo, que está sesgado por mi trasfondo académico, para que vea los problemas a través de una lente de dinámica de sistemas complejos. Sin embargo, todavía trato de ser abierto y comprender ideas y analogías desde otras perspectivas. La IA puede aprovecharse para ayudar en este proceso de auto-reflexión, y la blockchain ciertamente puede ayudar con la transparencia. SingularityNET puede desempeñar un papel enorme al alojar herramientas para detectar, medir y eliminar, en la medida de lo posible, sesgos en los conjuntos de datos.

¿Cómo contribuye el trabajo de SingularityNET en ecosistemas de IA descentralizados a la resolución de desafíos globales como la sostenibilidad, la educación y la creación de empleo, especialmente en regiones como África, donde tiene un interés especial?

Sostenibilidad:

• Aplicar la IA y los modelos de sistemas para resolver problemas de ecosistemas complejos a gran escala.
• Monitorear tales soluciones a gran escala.
• Usar la blockchain para rastrear, trazar y verificar tales soluciones.
• Usar una combinación de IA, modelos de ecosistemas, datos hiperlocales y blockchain, hemos ideado soluciones completas para la minería artesanal en África y la secuestración de carbono agrícola a gran escala.

Educación:

Como ex profesor titular de matemáticas y ciencias de la computación, la educación es extremadamente importante para mí, especialmente ya que brinda oportunidades a poblaciones estudiantiles subatendidas. Es importante:

• Mejorar la accesibilidad desarrollando cursos híbridos para alcanzar a estudiantes que pueden enfrentar restricciones geográficas, financieras o de tiempo.
• Promover la diversidad y la inclusión aumentando la participación de poblaciones subatendidas en la IA, la blockchain y otras tecnologías avanzadas.
• Fomentar el conocimiento interdisciplinario creando cursos que vinculen campos académicos y profesionales.
• Apoiar el avance de la carrera proporcionando habilidades y certificaciones que sean directamente aplicables al mercado laboral.

Veo tanto la AGI como la blockchain, y sus sinergias, desempeñando papeles críticos para abordar los objetivos anteriores dentro de programas de aprendizaje basado en proyectos de “aprendizaje a maestría”.

Creación de empleo:

Al fomentar los cuatro objetivos educativos anteriores, parece que la AGI, la blockchain y otras tecnologías avanzadas, combinadas con colaboraciones positivas entre maestros y aprendices, podrían alentar y generar nuevas tecnologías y empresas enteras.

Como alguien comprometido con lograr una singularidad positiva, ¿qué hitos o avances específicos en la tecnología de la IA cree que serán necesarios para garantizar que la AGI se desarrolle de una manera beneficiosa para la sociedad?

• Capacidad para alinear fenómenos emergentes de manera interpretable por humanos a través de múltiples escalas espacio-temporales.
• Capacidad para comprender a un nivel más profundo los conceptos subyacentes a las “transiciones de fase espontáneas”.
• Capacidad para superar múltiples problemas difíciles a un nivel de detalle para permitir un verdadero multi-procesamiento a través de superposiciones de estados.
• Transparencia en todas las etapas.
• Toma de decisiones descentralizada basada en la construcción de consenso.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar SingularityNET.