Dr. Vishal Sikka, Fundador y CEO de Vianai – Serie de Entrevistas

Vishal Sikka es el fundador y CEO de Vianai, ex CTO de SAP AG y ex CEO de Infosys. Actualmente también forma parte de la junta directiva de Oracle , del consejo de supervisión del Grupo BMW y como asesor del Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford.

La plataforma Vianai combina elementos de código abierto, técnicas y optimizaciones propietarias de Vianai y diseño centrado en el ser humano para llevar la inteligencia artificial a la empresa a gran escala, en paisajes diversos. Con la plataforma, las grandes organizaciones pueden construir, optimizar, implementar y gestionar modelos de aprendizaje automático sofisticados en infraestructuras existentes y mejorar las operaciones y el rendimiento de los modelos de aprendizaje automático en toda la empresa,

¿Qué te atrajo inicialmente a la inteligencia artificial?

Me interesé en la inteligencia artificial como adolescente, cuando leí las reflexiones de Marvin Minsky sobre nuestras mentes como sociedades de agentes simples, y aprendí sobre el Eliza de Joe Weizenbaum (un chatbot muy temprano) y la crítica de John McCarthy sobre él. Más tarde, tuve el honor de tener a McCarthy como presidente de mi comité de examen de calificación en inteligencia artificial en Stanford. McCarthy y Minsky fueron los dos padres del campo de la inteligencia artificial, y ambos tenían profundas ideas sobre los poderes y las limitaciones de la inteligencia artificial, y tuve la suerte de estudiar con ambos.

Todavía podemos ver hoy que la inteligencia artificial tiene un gran potencial, y al mismo tiempo tiene limitaciones significativas. Los mismos desafíos con los que luchábamos hace 30 años siguen siendo evidentes hoy, en particular cuando miramos la inteligencia artificial en la empresa. Me inspiró el trabajo como estudiante, para ver si el valor de la inteligencia artificial podía de alguna manera ser desbloqueado, y he seguido siendo apasionado de ella.

Has escrito algunos artículos instrumentales, ¿cuál crees que fue el más instrumental en la evolución de tus puntos de vista sobre la inteligencia artificial?

Como estudiante, debí haber leído varios miles de artículos. Los artículos premonitorios de McCarthy sobre un “consejero”, sobre algunos problemas filosóficos clave de la inteligencia artificial, los artículos de Marvin sobre la mente como una sociedad, sobre la unión de los enfoques de conexión (basados en redes neuronales) y simbólicos de la inteligencia artificial, los artículos de Judea Pearl sobre razonamiento probabilístico y inteligencia causal, y los artículos de David Marr (sobre visión), Pat Winston (sobre aprendizaje de descripciones de objetos a partir de ejemplos), el trabajo de Waldinger sobre síntesis de programas, y muchos otros dieron forma a mis puntos de vista. Más recientemente, he estado leyendo las obras de Hinton, Lecun, los expertos en atención, así como las obras de Cynthia Rudin, Fernanda Viegas y otros.

Has declarado que la experiencia del desarrollador de construir un sistema de inteligencia artificial es fragmentada y rota, ¿cuáles son algunos de los problemas actuales detrás de la construcción de un sistema de inteligencia artificial?

Los sistemas de inteligencia artificial de hoy en día realmente solo pueden ser explicados por un número relativamente pequeño de personas — las estadísticas varían, pero parece que solo hay alrededor de 20-30,000 en el mundo que entienden los verdaderos métodos de cómo funcionan los sistemas de inteligencia artificial. Esto es mucho menor que los 52,000 o más que estimamos que son profesionales de MLOps, o el millón que estimamos que son científicos de datos. Muchos de ellos no podrían decirte por qué el sistema hace lo que hace, por qué hace las recomendaciones que hace o qué podría salir mal, o cómo funcionan las técnicas subyacentes.

Coloca esto en el contexto de un paisaje muy complejo. Hay más de 300 proveedores de MLOps que Gartner está rastreando en cualquier momento dado. Cada uno de ellos tiene una oferta especializada. Los grandes proveedores de la nube, por otro lado, tienen su propio sabor de todo, y a menudo buscan bloquear a las empresas en sus ecosistemas y su infraestructura.

Luego, el propio cómputo a menudo es demasiado caro para que las empresas puedan construir y entrenar algunos de los modelos más avanzados disponibles. Esos se dejan a unas pocas empresas que tienen el talento y los recursos necesarios para administrar las demandas de un sistema de inteligencia artificial.

La falta de comprensión, la complejidad de las herramientas y el costo del cómputo combinados crean un paisaje desconectado y desafiante para cualquier empresa que busque ser competente en inteligencia artificial. En Vianai, estamos construyendo métodos para hacer que la inteligencia artificial sea más fácil de usar y más fácil de entender y observar, mientras reducimos drásticamente los recursos y costos asociados con obtener el mejor rendimiento.

¿Podrías compartir la historia de la creación de Vianai?

He pasado muchos años trabajando para traer innovaciones disruptivas a las empresas. Mis equipos y yo construimos varios productos que llegaron a decenas de miles de empresas y se consideraron innovaciones. También lideré dos transformaciones fundamentales en mis dos viajes anteriores a la creación de Vianai y participé en transformaciones en cientos de empresas. Además de esto, estaban mis muchos años de estudio de la inteligencia artificial y de centrarme en cómo hacer que la inteligencia artificial sea mejor, más relevante y al servicio de la humanidad.

De una manera un poco inusual — estas cosas se unieron. Estaba de vacaciones con mi familia en el sudeste asiático [a fines de 2018]. Estábamos comprando en un pequeño mercado, y el vendedor tenía joyas hermosas y hechas a mano. Estaban hechas con técnicas tradicionales y piedras locales, y eran impresionantes, pero, por supuesto, nadie fuera de esta pequeña ciudad había oído hablar de ellos. Y me vino a la mente esta pregunta, “¿Qué pasaría si este vendedor pudiera usar inteligencia artificial? ¿Cómo funcionarían los sistemas?” En ese momento me di cuenta de que todas las empresas del mundo serían transformadas con la inteligencia artificial, y que esta transformación no podría verse con las lentes de ayer, sino que necesitaba productos e ideas que tuvieran que comenzar desde cero.

Un mes más o menos después, fundé Vianai con la misión de llevar la verdadera inteligencia artificial centrada en el ser humano a las empresas de todo el mundo. Esto significa proporcionar productos y servicios, aplicaciones y tecnologías, herramientas que permitan a los usuarios empresariales, científicos de datos, ingenieros de aprendizaje automático e incluso vendedores en partes remotas del mundo aprovechar realmente los beneficios de la inteligencia artificial.

Desde entonces, hemos creado aplicaciones para ayudar a las empresas a comenzar con la inteligencia artificial, una plataforma para ayudar a los practicantes de aprendizaje automático a administrar y monitorear sus modelos de inteligencia artificial, y técnicas de optimización para permitir que más empresas accedan a la inteligencia artificial.

A través de todo, hemos encontrado que el potencial significativo de combinar el poder de la comprensión humana, el juicio y la colaboración con los datos y las mejores técnicas de inteligencia artificial sigue sin ser aprovechado. Basándonos en nuestro trabajo con empresas líderes, vi que las mismas técnicas que ayudarían al pequeño vendedor también ayudarían a las mayores empresas del mundo.

Vianai se centra en la inteligencia artificial centrada en el ser humano, ¿podrías definir qué es esto y por qué es importante?

La inteligencia artificial centrada en el ser humano es la inteligencia artificial que busca amplificar el trabajo humano y mejorar el juicio humano. El aprendizaje automático se piensa con mucha frecuencia como un reemplazo del trabajo humano. Pero la inteligencia artificial es complementaria a los humanos — ofrece escala y repetibilidad y precisión que los humanos no pueden replicar. Pero la inteligencia artificial no puede replicar el juicio humano, las experiencias humanas o nuestra comprensión del contexto.

Hay ejemplos obvios de esto, como cuando la inteligencia artificial confunde una tortuga con un rifle, por ejemplo, pero mucho más a menudo depositamos demasiada confianza en la inteligencia artificial cuando no se ha demostrado que sea digna de confianza. Una historia infame proviene de hace una década, cuando el algoritmo de una empresa se le permitió operar sin intervención humana. El algoritmo perdió $440 millones en menos de una hora.

Para un ejemplo más reciente, los modelos de lenguaje de vanguardia siguen siendo relativamente fáciles de confundir o sesgar. Los generadores de texto a imagen son potencialmente poderosos, pero requieren comandos muy específicos de un usuario humano para alcanzar su máximo potencial.

La inteligencia artificial centrada en el ser humano, entonces, es un tipo de enfoque en el diseño de nuestros productos. Traemos el poder de la comprensión humana – como el juicio y la colaboración – junto con los mejores datos y técnicas de inteligencia artificial, para crear sistemas inteligentes que puedan mejorar significativamente los resultados y procesos empresariales.

¿Podrías explicar la necesidad de un bucle de retroalimentación detrás de los humanos y la inteligencia artificial?

Hay una rama completa de la inteligencia artificial llamada “humano en el bucle” que se basa en los mecanismos de retroalimentación de los humanos para mejorar naturalmente el rendimiento de la inteligencia artificial. Esto es natural, y tiene sentido para cualquier sistema.

Los sistemas de inteligencia artificial pueden mejorar con el tiempo, a través de la reeducación, que incorpora cualquier acción que el usuario tomó. Esto es, por supuesto, parte de nuestras aplicaciones también. Déjame dar un ejemplo.

Antes de Covid, estábamos trabajando con una gran empresa de servicios financieros en la predicción de la demanda. Debido a cómo diseñamos el sistema, cuando llegó el Covid y rompió muchos otros modelos, el nuestro se ajustó rápidamente a los cambios y nunca tuvo que ser reconstruido. Esto es el segundo y más importante aspecto de la inteligencia artificial centrada en el ser humano, diseñar los sistemas desde el principio para incorporar las complejidades de la vida moderna.

Esto crea confianza y un sistema que crece con la organización y el usuario.

¿Qué hace que Vianai sea una plataforma de inteligencia artificial de próxima generación?

Mientras hay mucha discusión sobre el riesgo, la regulación y la promesa de la inteligencia artificial, pocos han buscado lo que encontramos que es la solución — el concepto de inteligencia artificial centrada en el ser humano.

Nuestra plataforma está lista para los problemas que vendrán a medida que la inteligencia artificial se vuelva más real en la empresa. Está diseñada para abordar problemas alrededor de la confianza, el sesgo y la transparencia. Permite que las empresas escalen la inteligencia artificial con monitoreo y optimización. Y permite que los usuarios no técnicos aprovechen la inteligencia artificial a través de nuestras aplicaciones.

¿Cuáles son algunos de los desafíos detrás de la construcción de una plataforma que simplifica drásticamente la experiencia de la inteligencia artificial empresarial?

Los mayores desafíos que vemos en las empresas que incorporan la inteligencia artificial son el talento, las herramientas y la tecnología. En primer lugar, el talento tiende a concentrarse en unos pocos lugares, especialmente en las grandes empresas de tecnología. Esto hace que sea muy difícil para los miembros del equipo externos participar en la supervisión, la gobernanza y la configuración del programa de inteligencia artificial, y puede crear aún más sesgo ya que solo un número limitado de miembros del equipo están trabajando en las operaciones.

La tecnología y las herramientas también pueden ser un desafío al simplificar la inteligencia artificial. En este momento, tanto la tecnología como las herramientas son limitadas. Los chips para ejecutar la inteligencia artificial son escasos y muy caros, y las herramientas están bloqueadas en ciertos proveedores, lo que reduce la libertad de mejorar el costo mientras se extiende el valor. No importa dónde esté una empresa en su viaje de inteligencia artificial empresarial, estos desafíos pueden hacer que implementar una inteligencia artificial útil y ética sea desafiante, ya que crea una estrategia desconectada y fragmentada, y elimina las herramientas necesarias para ejecutar las funciones adecuadas. Las organizaciones necesitan poder apoyar todas las áreas de la inteligencia artificial, desde la implementación hasta el mantenimiento, y tener el apoyo del equipo y ofrecer comentarios para hacer que sea un éxito.

Para el verdadero éxito, he encontrado que las capacidades de la plataforma necesitan ser completamente abiertas, modulares, flexibles y no dependientes de costosos hardware y software. Y con un enfoque centrado en el ser humano, los humanos pueden seguir aportando el conocimiento, el contexto, las experiencias y la creatividad para resolver problemas — esto se amplifica por la plataforma de inteligencia artificial, no reemplazado.

¿Hay algo más que te gustaría compartir sobre Vianai?

De muchas maneras, estamos viviendo en la era de la inteligencia artificial. Hay mucha hiperbole y discusión alrededor de la inteligencia artificial, lo que en general es algo bueno. Estamos viendo muchos avances y una adopción más amplia que en el pasado en áreas como la inteligencia artificial generativa y otras áreas. Sin embargo, también debemos trabajar para reconocer las limitaciones de la inteligencia artificial — las realidades de la tecnología de inteligencia artificial de hoy, así como las realidades de la escasez de experiencia en inteligencia artificial, y la falta de confianza en la inteligencia artificial, especialmente en las empresas. Si podemos enmarcar la inteligencia artificial como un amplificador de nuestras vidas, la sociedad, nuestro trabajo, nuestro potencial, y tener la supervisión necesaria de la inteligencia artificial para asegurarlo, entonces creo que finalmente veremos que se hace realidad de manera significativa y transformadora.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Vianai.