Vinay Kumar Sankarapu, Co-Fundador y CEO de Arya.ai – Serie de Entrevistas

Vinay Kumar Sankarapu, es el Co-Fundador y CEO de Arya.ai, una plataforma que ofrece la ‘nube de inteligencia artificial’ para instituciones bancarias, aseguradoras y de servicios financieros (BFSI) para encontrar los APIs de inteligencia artificial adecuados, soluciones de inteligencia artificial expertas y herramientas de gobernanza de inteligencia artificial integrales necesarias para implementar motores de inteligencia artificial confiables y de aprendizaje automático.

¿Cuál es su formación y cómo llegó a la ciencia de la computación y la inteligencia artificial?

En el IIT Bombay, tenemos un programa de ‘Double Degree’ que ofrece un curso de 5 años para cubrir tanto la Licenciatura en Tecnología como la Maestría en Tecnología. Estudié Ingeniería Mecánica con especialización en ‘Diseño y Manufactura Asistidos por Computadora’, donde la Ciencia de la Computación es parte de nuestro plan de estudios. Para nuestra investigación de posgrado, elegí trabajar en Aprendizaje Profundo. Mientras que comencé a utilizar DL para construir un marco de predicción de fallos para la fabricación continua, terminé mi investigación sobre el uso de CNN para la predicción de la vida útil restante. Esto fue alrededor de 2013/14.

¿Puede compartir la historia detrás del lanzamiento de Arya.ai mientras aún estaba en la universidad?

Como parte de la investigación académica, teníamos que pasar 3-4 meses en una revisión de la literatura para crear un estudio detallado sobre el tema de interés, el alcance del trabajo realizado hasta el momento y qué podría ser un área posible de enfoque para nuestra investigación. Durante 2012/13, las herramientas que usábamos eran bastante básicas. Los motores de búsqueda como Google Scholar y Scopus solo realizaban una búsqueda de palabras clave. Era realmente difícil comprender el volumen de conocimiento disponible. Pensé que este problema solo empeoraría. En 2013, creo que al menos 30+ artículos se publicaron cada minuto. Hoy en día, eso es al menos 10 veces más.

Queríamos construir un asistente de ‘inteligencia artificial’ como un ‘profesor’ para ayudar a los investigadores a sugerir un tema de investigación, encontrar un artículo adecuado que esté actualizado y cualquier cosa relacionada con la investigación en STEM. Con nuestra experiencia en aprendizaje profundo, pensamos que podríamos resolver este problema. En 2013, comenzamos Arya.ai con un equipo de 3, y luego se expandió a 7 en 2014 mientras aún estaba en la universidad.

Nuestra primera versión del producto se construyó raspando más de 30 millones de artículos y resúmenes. Usamos técnicas de vanguardia en aprendizaje profundo en ese momento para construir un asistente de investigación de STEM de inteligencia artificial y un motor de búsqueda contextual para STEM. Pero cuando mostramos el asistente de inteligencia artificial a algunos profesores y compañeros, nos dimos cuenta de que éramos demasiado tempranos. Los flujos de conversación eran limitados, y los usuarios esperaban un flujo libre y conversaciones continuas. Las expectativas eran muy poco realistas en ese momento (2014/15) aunque estaba respondiendo a preguntas complejas.

Después de eso, cambiamos para utilizar nuestra investigación y centrarnos en herramientas de aprendizaje automático para investigadores y empresas como una plataforma de trabajo para democratizar el aprendizaje profundo. Pero de nuevo, muy pocos científicos de datos estaban utilizando DL en 2016. Así que comenzamos a centrarnos en un vertical y a construir capas de producto especializadas para un vertical, es decir, instituciones de servicios financieros (FSI). Sabíamos que esto funcionaría porque, mientras que los grandes jugadores apuntan a ganar en el juego horizontal, la verticalización puede crear un gran valor único para las startups. ¡Esta vez estábamos en lo correcto!

Estamos construyendo la nube de inteligencia artificial para bancos, aseguradoras y servicios financieros con las capas verticales más especializadas para ofrecer soluciones de inteligencia artificial escalables y responsables.

¿Cuán grande es el problema de la caja negra de la inteligencia artificial en las finanzas?

¡Extremadamente importante! Solo el 30% de las instituciones financieras están utilizando la ‘inteligencia artificial’ en su máximo potencial. Mientras que una de las razones es la accesibilidad, otra es la falta de confianza y auditoría de la ‘inteligencia artificial’. Las regulaciones ahora son claras en algunas geografías sobre la legalidad de utilizar la inteligencia artificial para casos de uso de baja, media y alta sensibilidad. Se requiere por ley en la UE utilizar modelos transparentes para casos de uso de alto riesgo. Muchos casos de uso en instituciones financieras son casos de uso de alto riesgo. Así que están obligados a utilizar modelos de caja blanca.

Los ciclos de hype también se están asentando debido a las experiencias tempranas con soluciones de inteligencia artificial. Hay un número creciente de ejemplos en tiempos recientes sobre los efectos del uso de ‘inteligencia artificial’ de caja negra, fallas de ‘inteligencia artificial’ debido a la falta de monitoreo y desafíos con gerentes legales y de riesgos debido a la limitada auditoría.

¿Puede discutir la diferencia entre el monitoreo de aprendizaje automático y la observabilidad de aprendizaje automático?

 El trabajo de una herramienta de monitoreo es simplemente monitorear y alertar. Y el trabajo de una herramienta de observabilidad es no solo monitorear y reportar, sino, lo más importante, proporcionar suficientes pruebas para encontrar las razones de la falla o predecir estas fallas con el tiempo.

En inteligencia artificial/aprendizaje automático, estas herramientas desempeñan un papel crítico. Mientras que estas herramientas pueden entregar los roles o monitoreo requeridos, el alcance de la observabilidad de aprendizaje automático

¿Por qué se necesitan plataformas específicas de la industria para la observabilidad de aprendizaje automático en lugar de plataformas de propósito general?

Las plataformas de propósito general están diseñadas para todos y cualquier caso de uso, independientemente de la industria– cualquier usuario puede unirse y comenzar a usar la plataforma. Los clientes de estas plataformas suelen ser desarrolladores, científicos de datos, etc. Las plataformas, sin embargo, crean varios desafíos para las partes interesadas debido a su naturaleza compleja y enfoque de ‘talla única’.

Desafortunadamente, la mayoría de las empresas de hoy en día requieren expertos en ciencia de datos para usar plataformas de propósito general y necesitan soluciones o capas de producto adicionales para hacer que estos modelos sean ‘usables’ por los usuarios finales en cualquier vertical. Esto incluye explicabilidad, auditoría, segmentos/escenarios, procesos de retroalimentación humana, etiquetado de retroalimentación, auditoría, tuberías específicas de herramientas, etc.

Es aquí donde entran en juego las plataformas de inteligencia artificial específicas de la industria. Una plataforma de inteligencia artificial específica de la industria posee todo el flujo de trabajo para resolver las necesidades o casos de uso dirigidos del cliente y se desarrolla para proporcionar un producto completo de extremo a extremo, desde la comprensión de las necesidades comerciales hasta el monitoreo del rendimiento del producto. Hay muchos obstáculos específicos de la industria, como marcos regulatorios y de cumplimiento, requisitos de privacidad de datos, requisitos de auditoría y control, etc. Las plataformas y ofertas de inteligencia artificial específicas de la industria aceleran la adopción de la inteligencia artificial y acortan el camino hacia la producción al reducir el tiempo de desarrollo y los riesgos asociados con la implementación de la inteligencia artificial. Además, esto también ayudará a reunir la experiencia en inteligencia artificial en la industria como una capa de producto que ayuda a mejorar la aceptación de la ‘inteligencia artificial’, impulsar los esfuerzos de cumplimiento y encontrar enfoques comunes para preocupaciones éticas, de confianza y reputacionales.

¿Puede compartir algunos detalles sobre la plataforma de observabilidad de aprendizaje automático que ofrece Arya.ai?

Hemos estado trabajando en instituciones de servicios financieros durante más de 6+ años. Desde 2016. Esto nos dio una exposición temprana a los desafíos únicos de implementar inteligencia artificial compleja en las FSI. Uno de los desafíos importantes era la ‘aceptación de la inteligencia artificial’. A diferencia de otros verticales, hay muchas regulaciones sobre el uso de cualquier software (también aplicable a soluciones de ‘inteligencia artificial’), privacidad de datos, ética y, lo más importante, el impacto financiero en el negocio. Para abordar estos desafíos a escala, tuvimos que inventar y agregar continuamente nuevas capas de explicabilidad, auditoría, riesgos de uso y responsabilidad sobre nuestras soluciones – procesamiento de reclamaciones, suscripción, monitoreo de fraude, etc. Con el tiempo, creamos un marco de observabilidad de aprendizaje automático aceptable y escalable para varios stakeholders en la industria de servicios financieros.

Ahora estamos lanzando una versión de ‘hazlo tú mismo’ del marco como AryaXAI (xai.arya.ai). Cualquier equipo de aprendizaje automático o de negocios puede usar AryaXAI para crear una gobernanza de inteligencia artificial integral para casos de uso críticos. La plataforma aporta transparencia y auditoría a sus soluciones de inteligencia artificial que son aceptables para todos los stakeholders. AryaXAI hace que la inteligencia artificial sea más segura y aceptable para casos de uso críticos al proporcionar una explicabilidad confiable y precisa, ofreciendo pruebas que pueden respaldar la diligencia regulatoria, gestionar la incertidumbre de la inteligencia artificial al proporcionar controles de política avanzados y garantizar la coherencia en la producción al monitorear la deriva de datos o modelos y alertar a los usuarios con análisis de causa raíz.

AryaXAI también actúa como un flujo de trabajo común y proporciona información aceptable para todos los stakeholders – Ciencia de datos, TI, Riesgos, Operaciones y equipos de cumplimiento, lo que hace que la implementación y el mantenimiento de los modelos de aprendizaje automático sean fluidos y sin problemas.

Otra solución que se ofrece es una plataforma que mejora la aplicabilidad del modelo de aprendizaje automático con la implementación de políticas contextuales. ¿Puede describir qué es esto específicamente?

Se vuelve difícil monitorear y controlar los modelos de aprendizaje automático en producción, debido a los grandes volúmenes de características y predicciones. Además, la incertidumbre del comportamiento del modelo hace que sea un desafío gestionar y estandarizar la gobernanza, el riesgo y el cumplimiento. Tales fallas de los modelos pueden resultar en pérdidas financieras y de reputación importantes.

AryaXAI ofrece ‘controles de política/riesgo’, un componente crítico que preserva los intereses comerciales y éticos al aplicar políticas en la inteligencia artificial. Los usuarios pueden agregar/editar/modificar fácilmente políticas para administrar controles de política. Esto permite a los equipos interfuncionales definir guardias de política para garantizar una evaluación de riesgos continua, protegiendo al negocio de la incertidumbre de la inteligencia artificial.

¿Cuáles son algunos ejemplos de casos de uso para estos productos?

AryaXAI se puede implementar para varios procesos críticos de la misión en diferentes industrias. Los ejemplos más comunes son:

BFSI: En un entorno de estricta regulación, AryaXAI hace que sea fácil para la industria de servicios financieros alinear los requisitos y recopilar las pruebas necesarias para gestionar el riesgo y garantizar el cumplimiento.

• Suscripción de crédito para préstamos seguros/no seguros
• Identificación de transacciones fraudulentas/sospechosas
• Auditoría
• Gestión del ciclo de vida del cliente
• Toma de decisiones crediticias

Autonomous cars: Los vehículos autónomos necesitan cumplir con la estricta regulación, la seguridad operativa y la explicabilidad en las decisiones en tiempo real. AryaXAI permite comprender cómo el sistema de inteligencia artificial interactúa con el vehículo

• Análisis de decisiones
• Operaciones de vehículos autónomos
• Datos de salud del vehículo
• Monitoreo del sistema de conducción de inteligencia artificial

Salud: AryaXAI proporciona información más profunda desde perspectivas médicas, tecnológicas, legales y de pacientes. Desde la descubierta de fármacos hasta la fabricación, las ventas y el marketing, Arya-xAI fomenta la colaboración multidisciplinaria

• Descubierta de fármacos
• Investigación clínica
• Validación de datos de ensayos clínicos
• Atención de mayor calidad

¿Cuál es su visión para el futuro del aprendizaje automático en las finanzas?

En la última década, ha habido una enorme educación y marketing alrededor de la ‘inteligencia artificial’. Hemos visto múltiples ciclos de hype durante este tiempo. Probablemente estemos en el 4º o 6º ciclo de hype ahora. El primero es cuando el aprendizaje profundo ganó ImageNet en 2011/12 seguido del trabajo en torno a la clasificación de imágenes/texto, el reconocimiento de voz, los vehículos autónomos, la inteligencia artificial generativa y actualmente con los modelos de lenguaje grande. La brecha entre el pico de hype y el uso masivo se reduce con cada ciclo de hype debido a las iteraciones alrededor del producto, la demanda y la financiación.

Estas tres cosas han sucedido ahora:

1. Creo que hemos resuelto el marco de escalabilidad para las soluciones de inteligencia artificial, al menos por parte de algunos expertos. Por ejemplo, Open AI es actualmente una organización sin fines de lucro, pero están proyectando hacer $1 mil millones en ingresos dentro de 2 años. Mientras que no todas las empresas de inteligencia artificial pueden lograr una escalabilidad similar, el modelo de escalabilidad es más claro.
2. La definición de soluciones de inteligencia artificial ideales es casi clara para todos los verticales: A diferencia de antes, cuando el producto se construía a través de experimentos iterativos para cada caso de uso y cada organización, las partes interesadas están cada vez más educadas para comprender lo que necesitan de las soluciones de inteligencia artificial.
3. Las regulaciones ahora están atrapando: La necesidad de regulaciones claras alrededor de la privacidad de los datos y el uso de la inteligencia artificial ahora está ganando gran tracción. Los cuerpos y organismos reguladores están en condiciones de publicar o están en proceso de publicar los marcos necesarios para el uso seguro, ético y responsable de la inteligencia artificial.

¿Qué sigue?

La explosión de ‘Modelo como servicio (MaaS)’:

Estamos a punto de ver una creciente demanda de propuestas de ‘Modelo como servicio’ no solo horizontalmente sino también verticalmente. Mientras que ‘OpenAI’ representa un buen ejemplo de ‘MaaS’ horizontal, Arya.ai es un ejemplo de ‘MaaS’ vertical. Con la experiencia de implementaciones y conjuntos de datos, Arya.ai ha estado recopilando conjuntos de datos verticales críticos que se utilizan para entrenar modelos y proporcionarlos como modelos preentrenados o listos para usar.

La verticalización es el nuevo horizontal: Hemos visto esta tendencia en la adopción de la nube. Mientras que los jugadores horizontales de la nube se centran en ‘plataformas para todos’, los jugadores verticales se centran en las necesidades del usuario final y las proporcionan como una capa de producto especializada. Esto es cierto incluso para las ofertas de MaaS.

XAI y la gobernanza de la inteligencia artificial se convertirán en la norma en las empresas: Dependiendo de la sensibilidad de las regulaciones, cada vertical logrará un marco de XAI y gobernanza aceptable que se implementará como parte del diseño, a diferencia de ahora, cuando se trata como una característica adicional.

La inteligencia artificial generativa en datos tabulares puede ver sus ciclos de hype en las empresas: Crear conjuntos de datos sintéticos es supuestamente una de las soluciones fáciles de implementar para resolver los desafíos de datos en las empresas. Los equipos de ciencia de datos preferirán esto porque el problema está bajo su control, a diferencia de depender del negocio, que puede tomar tiempo, ser costoso y no garantizar que sigan todos los pasos al recopilar datos. Los datos sintéticos resuelven problemas de sesgo, desequilibrio de datos, privacidad de datos y datos insuficientes. Por supuesto, la eficacia de este enfoque aún tiene que ser probada. Sin embargo, con más madurez en nuevas técnicas como los transformadores, podemos ver más experimentación en conjuntos de datos tradicionales como tabulares y multidimensionales. Una vez que se logre el éxito, este enfoque puede tener un impacto tremendo en las empresas y las ofertas de MaaS.

¿Hay algo más que le gustaría compartir sobre Arya.ai?

El enfoque de Arya.ai es resolver la ‘inteligencia artificial’ para los bancos, las aseguradoras y los servicios financieros. Nuestro enfoque es la verticalización de la tecnología hasta la última capa y hacerla usable y aceptable para cada organización y parte interesada.

AryaXAI (xai.arya.ai) desempeñará un papel importante al entregarlo a las masas dentro del vertical de FSI. Nuestra investigación continua sobre datos sintéticos ha tenido éxito en un puñado de casos de uso, pero