Noah Schwartz, Co-Fundador y CEO de Quorum AI – Serie de Entrevistas

Noah es un arquitecto de sistemas de inteligencia artificial. Antes de fundar Quorum AI, Noah pasó 12 años en investigación académica, primero en la Universidad del Sur de California y más recientemente en Northwestern como Asistente de Neurobiología. Su trabajo se centró en el procesamiento de información en el cerebro y ha traducido su investigación en productos de realidad aumentada, interfaces cerebro-computadora, visión por computadora y sistemas de control de robótica integrada.

¿Cómo se inició tu interés en la inteligencia artificial y la robótica?

La chispa inicial vino de las películas de ciencia ficción y el amor por la electrónica. Recuerdo ver la película Tron cuando tenía 8 años, seguida de Electric Dreams, Short Circuit, DARYL, War Games y otras durante los siguientes años. Aunque se presentaba a través de la ficción, la idea de la inteligencia artificial me impresionó. Y aunque solo tenía 8 años, sentí una conexión inmediata y una atracción intensa hacia la IA que nunca ha disminuido desde entonces.

¿Cómo evolucionaron tus pasiones por la inteligencia artificial y la robótica?

Mi interés en la inteligencia artificial y la robótica se desarrolló en paralelo con una pasión por el cerebro. Mi padre era un maestro de biología y me enseñaba sobre el cuerpo, cómo funcionaba todo y cómo estaba conectado. Mirar la inteligencia artificial y mirar el cerebro me parecía el mismo problema – o al menos, tenían la misma pregunta última, que era, ¿cómo funciona? Me interesaba por ambos, pero no tuve mucha exposición a la inteligencia artificial o la robótica en la escuela. Por eso, inicialmente perseguí la inteligencia artificial en mi tiempo libre y estudié biología y psicología en la escuela.

Cuando llegué a la universidad, descubrí los libros de Procesamiento Distribuido en Paralelo (PDP), que fue enorme para mí. Fue mi primera introducción a la inteligencia artificial real, lo que me llevó de regreso a los clásicos como Hebb, Rosenblatt y incluso McCulloch y Pitts. Comencé a construir redes neuronales basadas en la neuroanatomía y lo que aprendí de la biología y la psicología en la escuela. Después de graduarme, trabajé como ingeniero de redes de computadoras, construyendo redes de área amplia y escribiendo software para automatizar y gestionar el flujo de tráfico en esas redes – algo así como construir grandes cerebros. El trabajo reavivó mi pasión por la inteligencia artificial y me motivó a ir a la escuela de posgrado para estudiar la inteligencia artificial y la neurociencia, y el resto es historia.

Antes de fundar Quorum AI, pasaste 12 años en investigación académica, primero en la Universidad del Sur de California y más recientemente en Northwestern como Asistente de Neurobiología. En ese momento, tu trabajo se centró en el procesamiento de información en el cerebro. ¿Puedes explicarnos algo sobre esta investigación?

En un sentido amplio, mi investigación intentaba entender la pregunta: ¿Cómo hace el cerebro lo que hace con lo que tiene disponible? No creo que el cerebro sea un tipo de computadora (en el sentido de von Neumann). Lo veo como una red masiva que principalmente realiza operaciones de estímulo-respuesta y codificación de señales. Dentro de esa red masiva, hay patrones claros de conectividad entre áreas especializadas. Al acercarnos, vemos que las neuronas no se preocupan por la señal que están llevando o qué parte del cerebro están en – operan según reglas muy predecibles. Así que si queremos entender la función de esas áreas especializadas, necesitamos hacer algunas preguntas: (1) ¿Cómo converge la entrada con otras entradas para producir una decisión? (2) ¿Cómo se forma la estructura de esas áreas especializadas como resultado de la experiencia? Y (3) ¿cómo siguen cambiando a medida que usamos nuestros cerebros y aprendemos con el tiempo? Mi investigación intentó abordar estas preguntas utilizando una mezcla de investigación experimental combinada con la teoría de la información y la modelización y la simulación – algo que podría permitirnos construir sistemas de decisión artificiales y inteligencia artificial. En términos de neurobiología, estudié la neuroplasticidad y la microanatomía de áreas especializadas como la corteza visual.

Luego tradujiste tu trabajo en realidad aumentada y interfaces cerebro-computadora. ¿Cuáles fueron algunos de los productos en los que trabajaste?

Around 2008, estaba trabajando en un proyecto que ahora llamaríamos realidad aumentada, pero en ese momento era solo un sistema para rastrear y predecir movimientos oculares, y luego usar esas predicciones para actualizar algo en la pantalla. Para hacer que el sistema funcionara en tiempo real, construí un modelo biológicamente inspirado que predecía dónde miraría el espectador basándose en sus microsacadas – pequeños movimientos oculares que ocurren justo antes de que muevas el ojo. Usando este modelo, podía predecir dónde miraría el espectador, luego actualizar el búfer de trama en la tarjeta gráfica mientras sus ojos aún estaban en movimiento. Para cuando sus ojos llegaban a esa nueva ubicación en la pantalla, la imagen ya estaba actualizada. Esto funcionaba en una computadora de escritorio ordinaria en 2008, sin retraso. La tecnología era bastante asombrosa, pero el proyecto no pasó a la siguiente ronda de financiación, así que murió.

En 2011, hice un esfuerzo más enfocado en el desarrollo de productos y construí una red neuronal que podía realizar la detección de características en datos de EEG de transmisión que medimos desde el cuero cabelludo. Esta es la función central de la mayoría de los sistemas de interfaz cerebro-computadora. El proyecto también fue un experimento en ¿cuán pequeño podría ser el pie de este modelo? Teníamos un headset que leía algunos canales de datos de EEG a 400Hz que se enviaban a través de Bluetooth a un teléfono Android para la detección de características y la clasificación, y luego se enviaban a un controlador Arduino que habíamos personalizado en un coche de control remoto de venta libre. Cuando se usaba, una persona que llevaba el headset de EEG podía conducir y controlar el coche cambiando sus pensamientos de hacer cálculos mentales a cantar una canción. El algoritmo se ejecutaba en el teléfono y creaba una “huella dactilar” cerebral personalizada para cada usuario, lo que les permitía cambiar entre una variedad de dispositivos robóticos sin tener que volver a entrenar en cada dispositivo. El eslogan que creamos fue “Control cerebral con plug-and-play”.

En 2012, extendimos el sistema para que funcionara de manera más distribuida en hardware más pequeño. Lo usamos para controlar un brazo robótico multi-segmento y multi-articulación en el que cada segmento estaba controlado por un procesador independiente que ejecutaba una versión integrada de la IA. En lugar de usar un controlador centralizado para manipular el brazo, permitimos que los segmentos se autoorganizaran y alcanzaran su objetivo de manera distribuida y similar a un enjambre. En otras palabras, como las hormigas formando un puente de hormigas, los segmentos del brazo cooperaban para alcanzar algún objetivo en el espacio.

Continuamos moviéndonos en la misma dirección cuando lanzamos Quorum AI – originalmente conocido como Quorum Robotics – en 2013. Nos dimos cuenta de que el sistema era increíble debido al algoritmo y la arquitectura, no al hardware, así que a fines de 2014, nos cambiamos completamente al software. Ahora, 8 años después, Quorum AI está volviendo a sus raíces robóticas aplicando nuestro marco al Desafío de Robótica Espacial de la NASA.

Dejar tu trabajo como profesor para lanzar una startup debió haber sido una decisión difícil. ¿Qué te inspiró a hacerlo?

Fue un gran salto para mí en muchos sentidos, pero una vez que surgió la oportunidad y se aclaró el camino, fue una decisión fácil. Cuando eres profesor, piensas en términos de varios años y trabajas en objetivos de investigación a largo plazo. Lanzar una startup es lo opuesto a eso. Sin embargo, hay algo que la vida académica y la vida de startup tienen en común: ambos requieren que aprendas y resuelvas problemas constantemente. En una startup, eso podría significar intentar reinventar una solución para reducir el riesgo de desarrollo de productos o tal vez estudiar un nuevo vertical que podría beneficiarse de nuestra tecnología. Trabajar en inteligencia artificial es lo más cercano a una “vocación” que he sentido, así que a pesar de todos los desafíos y los altibajos, me siento enormemente afortunado de estar haciendo el trabajo que hago.

Desde entonces, has desarrollado Quorum AI, que desarrolla inteligencia artificial distribuida en tiempo real para todos los dispositivos y plataformas. ¿Puedes explicar qué hace exactamente esta plataforma de inteligencia artificial?

La plataforma se llama Environment for Virtual Agents (EVA), y permite a los usuarios construir, entrenar y desplegar modelos utilizando nuestro motor de aprendizaje no supervisado Engram AI. Engram es un envoltorio flexible y portable que construimos alrededor de nuestros algoritmos de aprendizaje no supervisado. Los algoritmos son tan eficientes que pueden aprender en tiempo real, mientras el modelo genera predicciones. Debido a que los algoritmos son agnósticos de la tarea, no hay entrada o salida explícita al modelo, por lo que las predicciones se pueden hacer de manera bayesiana para cualquier dimensión sin necesidad de volver a entrenar y sin sufrir de olvido catastrófico. Los modelos también son transparentes y descomponibles, lo que significa que se pueden examinar y descomponer en dimensiones individuales sin perder lo que se ha aprendido.

Una vez construidos, los modelos se pueden desplegar a través de EVA en cualquier tipo de plataforma, desde hardware personalizado hasta la nube. EVA (y el software de host integrable) también contienen varias herramientas para extender la funcionalidad de cada modelo. Algunos ejemplos rápidos: los modelos se pueden compartir entre sistemas a través de un sistema de publicación/suscripción, lo que permite a los sistemas distribuidos lograr el aprendizaje federado en el tiempo y el espacio. Los modelos también se pueden desplegar como agentes autónomos para realizar tareas arbitrarias, y debido a que el modelo es agnóstico de la tarea, la tarea se puede cambiar durante la ejecución sin necesidad de volver a entrenar. Cada agente individual se puede extender con una EVA “virtual” privada, lo que permite al agente simular modelos de otros agentes de manera libre de escala. Finalmente, hemos creado algunos envoltorios para sistemas de aprendizaje profundo y de refuerzo (basados en Keras) para permitir que estos modelos operen en la plataforma, en concierto con sistemas basados en Engram más flexibles.

Anteriormente has descrito los algoritmos de Quorum AI como “poesía matemática”. ¿Qué querías decir con eso?

Cuando estás construyendo un modelo, ya sea que estés modelando el cerebro o modelando datos de ventas para tu empresa, comienzas tomando un inventario de tus datos, luego intentas clases de modelos conocidos para intentar aproximar el sistema. En esencia, estás creando bocetos burdos del sistema para ver qué se ve mejor. No esperas que las cosas encajen muy bien con los datos, y hay algo de prueba y error mientras pruebas diferentes hipótesis sobre cómo funciona el sistema, pero con un poco de habilidad, puedes capturar los datos bastante bien.

Mientras modelaba la neuroplasticidad en el cerebro, comencé con el enfoque habitual de mapear todas las vías moleculares, los estados de transición y la dinámica que pensaba que importaría. Pero encontré que cuando reducía el sistema a sus componentes más básicos y los organizaba de una manera particular, el modelo se volvía más y más preciso hasta que encajaba casi perfectamente con los datos. Fue como si cada operador y variable en las ecuaciones fueran exactamente lo que necesitaban ser, no había nada extraño, y todo era esencial para encajar con los datos.

Cuando conecté el modelo a simulaciones más grandes, como el desarrollo del sistema visual o el reconocimiento de caras, por ejemplo, pudo formar patrones de conectividad complicados que coincidían con lo que vemos en el cerebro. Debido a que el modelo era matemático, esos patrones cerebrales podían entenderse a través del análisis matemático, lo que proporcionaba nueva información sobre lo que el cerebro está aprendiendo. Desde entonces, hemos resuelto y simplificado las ecuaciones diferenciales que componen el modelo, mejorando la eficiencia computacional en varios órdenes de magnitud. Puede que no sea poesía real, pero ¡seguro que se sintió como tal!

La plataforma de herramientas de Quorum AI permite que los dispositivos se conecten entre sí para aprender y compartir datos sin necesidad de comunicarse a través de servidores basados en la nube. ¿Cuáles son las ventajas de hacerlo de esta manera en lugar de usar la nube?

Les damos a los usuarios la opción de poner su IA en cualquier lugar que deseen, sin comprometer la funcionalidad de la IA. El status quo en el desarrollo de IA es que las empresas generalmente se ven obligadas a comprometer la seguridad, la privacidad o la funcionalidad porque su única opción es usar servicios de IA basados en la nube. Si las empresas intentan construir su propia IA en casa, a menudo requiere mucho dinero y tiempo, y el ROI rara vez vale el riesgo. Si las empresas quieren desplegar IA en dispositivos que no están conectados a la nube, el proyecto se vuelve rápidamente imposible. Como resultado, la adopción de IA se convierte en una fantasía.

Nuestra plataforma hace que la IA sea accesible y asequible, brindándoles a las empresas una forma de explorar el desarrollo y la adopción de IA sin el sobrecoste técnico o financiero. Y además, nuestra plataforma les permite a los usuarios ir desde el desarrollo hasta la implementación en un solo paso sin problemas.

Nuestra plataforma también se integra y extiende la vida útil de otros modelos “heredados” como el aprendizaje profundo o el aprendizaje por refuerzo, ayudando a las empresas a reutilizar y integrar sistemas existentes en nuevas aplicaciones. De manera similar, debido a que nuestros algoritmos y arquitecturas son únicos, nuestros modelos no son cajas negras, por lo que cualquier cosa que el sistema aprenda se puede explorar e interpretar por humanos, y luego extender a otras áreas del negocio.

Se cree que la Inteligencia Artificial Distribuida (DAI) podría conducir al camino hacia la Inteligencia Artificial General (AGI). ¿Te suscribes a esta teoría?

Sí, y no solo porque ese es el camino que hemos trazado para nosotros mismos. Cuando miras el cerebro, no es un sistema monolítico. Está compuesto por sistemas distribuidos separados que cada uno se especializa en una gama estrecha de funciones cerebrales. Podemos no saber qué está haciendo un sistema en particular, pero sabemos que sus decisiones dependen en gran medida del tipo de información que está recibiendo y cómo cambia esa información con el tiempo. (Es por eso que los temas de neurociencia como el conectoma son tan populares.)

En mi opinión, si queremos construir IA que sea flexible y que se comporte y desempeñe como el cerebro, entonces tiene sentido considerar arquitecturas distribuidas como las que vemos en el cerebro. Podría argumentarse que las arquitecturas de aprendizaje profundo como las redes multi-capas o las CNN pueden encontrarse en el cerebro, y eso es cierto, pero esas arquitecturas se basan en lo que sabíamos sobre el cerebro hace 50 años.

La alternativa a la DAI es seguir iterando sobre arquitecturas monolíticas e inflexibles que están estrechamente acopladas a un solo espacio de decisión, como las que vemos en el aprendizaje profundo o el aprendizaje por refuerzo (o cualquier método de aprendizaje supervisado, en realidad). Sugiero que estas limitaciones no son solo una cuestión de ajuste de parámetros o agregar capas o acondicionamiento de datos – estos problemas son fundamentales para el aprendizaje profundo y el aprendizaje por refuerzo, al menos como los definimos hoy, por lo que se requieren nuevos enfoques si vamos a seguir innovando y construyendo la IA del mañana.

¿Crees que lograr la AGI utilizando la DAI es más probable que los métodos de aprendizaje por refuerzo y/o aprendizaje profundo que actualmente están siendo perseguidos por empresas como OpenAI y DeepMind?

Sí, aunque desde lo que están blogueando, sospecho que OpenAI y DeepMind están utilizando arquitecturas más distribuidas de lo que dejan entrever. Estamos empezando a escuchar más sobre desafíos de multi-sistema como el aprendizaje de transferencia o el aprendizaje federado/distribuido, y coincidentemente, sobre cómo los enfoques de aprendizaje profundo y de refuerzo no funcionarán para estos desafíos. Estamos empezando a escuchar a pioneros como Yoshua Bengio sobre cómo las arquitecturas inspiradas en la biología podrían tender un puente. He estado trabajando en IA inspirada en la biología durante casi 20 años, así que me siento muy bien con lo que hemos aprendido en Quorum AI y cómo lo estamos utilizando para construir lo que creemos que es la próxima generación de IA que superará estas limitaciones.

¿Hay algo más que te gustaría compartir sobre Quorum AI?

Estaremos previendo nuestra nueva plataforma para IA distribuida y basada en agentes en la Conferencia de Aprendizaje Federado y Distribuido en junio de 2020. Durante la charla, planeo presentar algunos datos recientes sobre varios temas, incluyendo el análisis de sentimiento como un puente hacia la IA empática.

Me gustaría dar un agradecimiento especial a Noah por estas increíbles respuestas, y les recomiendo que visiten Quorum para obtener más información.