Dr. Vishal Sikka, Fundador y CEO de Vianai – Serie de Entrevistas

Vishal Sikka es el Fundador y CEO de Vianai, ex CTO de SAP AG y ex CEO de Infosys. Actualmente también forma parte de la junta directiva de Oracle, del consejo de supervisión del Grupo BMW y como asesor del Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford.

La plataforma Vianai combina elementos de código abierto, técnicas y optimizaciones propietarias de Vianai y diseño centrado en el ser humano para llevar la IA a la empresa a gran escala, en diversos paisajes. Con la plataforma, las grandes organizaciones pueden crear, optimizar, implementar y gestionar modelos de ML sofisticados en la infraestructura existente y mejorar las operaciones y el rendimiento de los modelos de ML en toda la empresa,

¿Qué te atrajo inicialmente a la inteligencia artificial?

Me interesé en la IA como adolescente, cuando leí las reflexiones de Marvin Minsky sobre nuestras mentes como sociedades de agentes simples, y aprendí sobre Eliza de Joe Weizenbaum (un chatbot muy temprano) y la crítica de John McCarthy sobre ella. Más tarde, tuve el honor de tener a McCarthy como presidente de mi comité de examen de calificación de IA en Stanford. McCarthy y Minsky fueron los dos padres del campo de la Inteligencia Artificial, y ambos tenían profundas ideas sobre los poderes y las limitaciones de la IA, y tuve la suerte de estudiar con ambos.

Aún podemos ver hoy que la IA tiene un gran potencial, y al mismo tiempo tiene limitaciones significativas. Los mismos desafíos con los que luchábamos hace 30 años siguen siendo evidentes hoy, en particular cuando miramos la IA en la empresa. Me inspiró el trabajo como estudiante, para ver si el valor de la IA podía de alguna manera ser desbloqueado, y he seguido siendo apasionado de ella.

Anteriormente has escrito algunos artículos instrumentales, ¿cuál crees que fue el más instrumental en evolucionar tus puntos de vista sobre la IA?

Como estudiante, debí haber leído varios miles de artículos. Los artículos premonitorios de McCarthy sobre un “consejero”, sobre algunos problemas filosóficos clave de la IA, los artículos de Marvin sobre la mente como una sociedad, sobre la combinación de los enfoques connectionistas (basados en redes neuronales) y simbólicos de la IA, los artículos de Judea Pearl sobre razonamiento probabilístico y inteligencia causal, y los artículos de David Marr (sobre visión), Pat Winston (sobre aprendizaje de descripciones de objetos a partir de ejemplos), el trabajo de Waldinger sobre síntesis de programas, y muchos otros dieron forma a mis puntos de vista. Más recientemente, he estado leyendo obras de Hinton, Lecun, los expertos en atención, así como las obras de Cynthia Rudin, Fernanda Viegas, y otros.

Has declarado que la experiencia del desarrollador de construir un sistema de IA es fragmentada y rota, ¿cuáles son algunos de los problemas actuales detrás de la construcción de un sistema de IA?

Los sistemas de IA de hoy en día realmente solo pueden ser explicados por un número relativamente pequeño de personas — las estadísticas varían, pero parece que puede haber solo alrededor de 20-30,000 en el mundo que entienden los verdaderos métodos de cómo funcionan los sistemas de IA. Esto es mucho menor que los 52,000 o así de personas que estimamos son profesionales de MLOps, o el millón que estimamos son científicos de datos. Muchos de ellos no podrían decirte por qué el sistema está haciendo lo que está haciendo, por qué hace las recomendaciones que hace o qué podría salir mal, o cómo funcionan las técnicas subyacentes.

Coloca esto en el contexto de un paisaje vastamente complejo. Hay más de 300 proveedores de MLOps que Gartner está rastreando en cualquier momento dado. Cada uno de estos tiene una oferta especializada. Los grandes proveedores de la nube, por otro lado, tienen su propia versión de todo, y a menudo buscan bloquear a las empresas en sus ecosistemas y su infraestructura.

Luego, el propio cálculo a menudo es demasiado costoso para que las empresas puedan construir y entrenar algunos de los modelos más avanzados disponibles. Esos están reservados para unas pocas empresas que tienen el talento y los recursos necesarios para gestionar las demandas de un sistema de IA.

La falta de comprensión, la complejidad de las herramientas y el costo del cálculo se combinan para crear un paisaje desconectado y desafiante para cualquier empresa que busque ser competente en IA. En Vianai, estamos construyendo métodos para hacer que la IA sea más fácil de usar y entender, y para reducir drásticamente los recursos y costos asociados con obtener el mejor rendimiento.

¿Podrías compartir la historia de origen detrás de Vianai?

Pasé muchos años trabajando para llevar innovaciones disruptivas a las empresas. Mis equipos y yo construimos varios productos que alcanzaron a decenas de miles de empresas y fueron considerados innovaciones. También lideré dos transformaciones fundamentales en mis dos viajes anteriores a empezar Vianai y participé en transformaciones en cientos de empresas. Sumado a esto estaba mi dedicación a estudiar la IA y centrarme en cómo hacer que la IA sea mejor, más relevante y al servicio de la humanidad.

De una manera un poco inusual — estas cosas se unieron. Estaba de vacaciones con mi familia en el sudeste asiático [a fines de 2018]. Estábamos comprando en un pequeño mercado, y el vendedor tenía joyería hermosa y artesanal. Estaba hecha con técnicas tradicionales y piedras locales, y era impresionante, pero, por supuesto, nadie fuera de esta pequeña ciudad había oído hablar de ellos. Y me hice esta pregunta: “¿Qué pasaría si este vendedor pudiera usar la IA? ¿Cómo sería? ¿Cómo tendrían que funcionar los sistemas?” En ese momento me di cuenta de que todos los negocios del mundo serían transformados con la IA, y que esta transformación no podía ser vista con las lentes de ayer, sino que necesitaba productos e ideas que tuvieran que empezar desde cero.

Un mes más tarde, fundé Vianai con la misión de llevar una IA verdaderamente centrada en el ser humano a las empresas de todo el mundo. Esto significa proporcionar productos y servicios, aplicaciones y tecnologías, herramientas que permitan a los usuarios empresariales, científicos de datos, ingenieros de ML e incluso vendedores en partes remotas del mundo aprovechar realmente los beneficios de la IA.

Desde entonces, hemos creado aplicaciones para ayudar a las empresas a empezar con la IA, una plataforma para ayudar a los practicantes de ML a gestionar y monitorear sus modelos de IA, y técnicas de optimización para permitir que más empresas accedan a la IA.

A través de todo, hemos encontrado que el potencial significativo de combinar el poder de la comprensión humana, el juicio y la colaboración con los datos y las mejores técnicas de IA sigue sin ser aprovechado. Basándonos en nuestro trabajo con empresas líderes, vi que las mismas técnicas que ayudarían al pequeño vendedor también ayudarían a las mayores empresas del mundo.

Vianai se centra en la IA centrada en el ser humano, ¿podrías definir qué es esto y por qué es importante?

La IA centrada en el ser humano es la IA que busca amplificar el trabajo humano y mejorar el juicio humano. El aprendizaje automático se considera con demasiada frecuencia como un reemplazo del trabajo humano. Pero la IA es complementaria a los humanos — ofrece escala y repetibilidad y precisión que los humanos no pueden replicar. Pero la IA no puede replicar el juicio humano, las experiencias humanas o nuestra comprensión del contexto.

Hay ejemplos obvios de esto, como la IA que confunde una tortuga con un rifle, por ejemplo, pero mucho más a menudo depositamos demasiada confianza en la IA cuando aún no se ha demostrado que sea digna de confianza. Una historia infame viene de una década atrás, cuando la IA de una empresa fue autorizada a operar sin intervención humana. El algoritmo perdió $440 millones en menos de una hora.

Para un ejemplo más reciente, los modelos de lenguaje de vanguardia siguen siendo relativamente fáciles de confundir o sesgar. Los generadores de texto a imagen son potencialmente poderosos, pero requieren comandos muy específicos de un usuario humano para alcanzar su máximo potencial.

La IA centrada en el ser humano, entonces, es un tipo de enfoque en el diseño de nuestros productos. Traemos el poder de la comprensión humana — como el juicio y la colaboración — junto con los mejores datos y técnicas de IA, para crear sistemas inteligentes que puedan mejorar significativamente los resultados y procesos empresariales.

¿Podrías explicar la necesidad de un bucle de retroalimentación detrás de los humanos y la IA?

Hay una rama completa de la IA llamada “human in the loop” que depende de los mecanismos de retroalimentación de los humanos para mejorar naturalmente el rendimiento de la IA. Esto es natural, y tiene sentido para cualquier sistema.

Los sistemas de IA pueden mejorar con el tiempo, a través de la re capacitación, que incorpora las acciones que el usuario tomó. Esto es, por supuesto, parte de nuestras aplicaciones también. Déjame dar un ejemplo.

Antes de Covid, estábamos trabajando con una gran empresa de servicios financieros en la predicción de la demanda. Debido a cómo diseñamos el sistema, cuando llegó Covid y rompió muchos otros modelos, el nuestro se adaptó rápidamente a los cambios y nunca tuvo que ser reconstruido. Esto es el segundo y más importante aspecto de la IA centrada en el ser humano, diseñar los sistemas desde el principio para incorporar las complejidades de la vida moderna.

Esto crea confianza y un sistema que crece con la organización y el usuario.

¿Qué hace que Vianai sea una plataforma de IA de próxima generación?

Mientras hay mucha discusión sobre el riesgo, la regulación y la promesa de la IA, pocos han buscado lo que encontramos que es la solución — el concepto de IA centrada en el ser humano.

Nuestra plataforma está lista para los problemas que surgirán a medida que la IA se vuelva más real en la empresa. Está diseñada para abordar problemas alrededor de la confianza, el sesgo y la transparencia. Permite que las empresas escalen la IA con monitoreo y optimización. Y permite que los usuarios no técnicos aprovechen la IA a través de nuestras aplicaciones.

¿Cuáles son algunos de los desafíos detrás de la construcción de una plataforma que simplifica drásticamente la experiencia para la IA empresarial?

Los desafíos más grandes que vemos en las empresas que incorporan la IA son el talento, las herramientas y la tecnología. Primero, el talento tiende a concentrarse en unos pocos lugares, especialmente en las grandes empresas de tecnología. Esto hace que sea muy difícil para los miembros del equipo externo participar en la supervisión, la gobernanza y la configuración del programa de IA y puede crear aún más sesgo, ya que solo un número limitado de miembros del equipo están trabajando en las operaciones.

La tecnología y las herramientas también pueden ser un desafío en la simplificación de la IA. Actualmente, tanto la tecnología como las herramientas son limitadas. Los chips para ejecutar la IA son escasos y muy costosos, y las herramientas están bloqueadas en ciertos proveedores, lo que reduce la libertad para mejorar el costo y ampliar el valor. No importa dónde se encuentre una empresa en su viaje de IA empresarial, estos desafíos pueden hacer que la implementación de la IA útil y ética sea desafiante, ya que crea una estrategia desconectada y fragmentada y elimina las herramientas necesarias para ejecutar las funciones adecuadas. Las organizaciones necesitan poder apoyar todas las áreas de la IA, desde la implementación hasta el mantenimiento, y tener el apoyo del equipo y la capacidad de ofrecer comentarios para hacer que sea un éxito.

Para el verdadero éxito, he encontrado que las capacidades de la plataforma necesitan ser completamente abiertas, modulares, flexibles y no depender de costosos hardware y software. Y con un enfoque centrado en el ser humano, los humanos siguen siendo capaces de aportar el conocimiento, el contexto, las experiencias y la creatividad para resolver problemas — esto se amplifica por la plataforma de IA, no reemplazado.

¿Hay algo más que te gustaría compartir sobre Vianai?

De muchas maneras, estamos viviendo en la era de la IA. Hay mucha hiper y discusión alrededor de la IA, lo que en general es algo bueno. Estamos viendo muchos avances y una adopción más amplia que en el pasado en áreas como la IA generativa y otras áreas. Sin embargo, también debemos trabajar para reconocer las limitaciones de la IA — las realidades de la tecnología de IA de hoy, así como las realidades de la escasez de experiencia en IA y la falta de confianza en la IA, especialmente en las empresas. Si podemos enmarcar la IA como un amplificador de nuestras vidas, la sociedad, nuestro trabajo, nuestro potencial y tener la supervisión necesaria de la IA para asegurarnos de que esto suceda, entonces creo que finalmente veremos que la IA se hace realidad de manera significativa y transformadora.

Gracias por la gran entrevista, los lectores que deseen aprender más deben visitar Vianai.