Vinay Kumar Sankarapu, Co-Fundador e CEO da Arya.ai – Série de Entrevistas

Vinay Kumar Sankarapu é o Co-Fundador e CEO da Arya.ai, uma plataforma que oferece a ‘nuvem de IA’ para Bancos, Seguradoras e Instituições Financeiras (BFSI) para encontrar as APIs de IA certas, Soluções de IA especializadas e ferramentas de governança de IA abrangentes necessárias para implantar motores de IA confiáveis e autoaprendentes.

Sua formação é em matemática, física, química e engenharia mecânica, poderia discutir sua jornada para a transição para ciência da computação e IA?

Na IIT Bombay, temos o ‘Programa de Duplo Diploma’ que oferece um curso de 5 anos para abranger tanto o Bacharelado em Tecnologia quanto o Mestrado em Tecnologia. Eu fiz Engenharia Mecânica com especialização em ‘Projeto e Manufatura Assistidos por Computador’, onde a Ciência da Computação faz parte de nosso currículo. Para nossa pesquisa de pós-graduação, escolhi trabalhar em Aprendizado Profundo. Enquanto comecei a usar DL para construir uma estrutura de previsão de falha para manufatura contínua, terminei minha pesquisa usando CNNs para previsão de RUL. Isso foi por volta de 2013/14.

Você lançou a Arya.ai enquanto ainda estava na faculdade, poderia compartilhar a história de criação por trás dessa startup?

Como parte da pesquisa acadêmica, tivemos que gastar 3-4 meses em uma revisão da literatura para criar um estudo detalhado sobre o tópico de interesse, o escopo do trabalho feito até então e o que poderia ser uma possível área de foco para nossa pesquisa. Durante 2012/13, as ferramentas que usávamos eram bastante básicas. Os mecanismos de busca como o Google Scholar e o Scopus estavam apenas fazendo uma busca por palavras-chave. Era muito difícil compreender o volume de conhecimento disponível. Pensei que esse problema só iria piorar. Em 2013, acho que pelo menos 30+ artigos eram publicados a cada minuto. Hoje, isso é pelo menos 10x-20x mais do que isso.

Queríamos construir um assistente de ‘IA’ como um ‘professor’ para pesquisadores para ajudá-los a sugerir um tópico de pesquisa, encontrar um artigo adequado que esteja atualizado e qualquer coisa em torno da pesquisa em STEM. Com nossa experiência em aprendizado profundo, pensamos que poderíamos resolver esse problema. Em 2013, começamos a Arya.ai com uma equipe de 3, e então expandimos para 7 em 2014, enquanto eu ainda estava na faculdade.

Nossa primeira versão do produto foi construída raspando mais de 30 milhões de artigos e resumos. Usamos técnicas de ponta em aprendizado profundo na época para construir um assistente de pesquisa em STEM e um mecanismo de busca contextual para STEM. Mas quando mostramos o assistente de IA a alguns professores e colegas, percebemos que estávamos muito à frente. Os fluxos de conversa eram limitados, e os usuários estavam esperando um fluxo livre e conversas contínuas. As expectativas eram muito irrealistas naquela época (2014/15), mesmo que estivesse respondendo a perguntas complexas.

Depois disso, mudamos de direção para usar nossa pesquisa e nos concentrar em ferramentas de ML para pesquisadores e empresas como uma plataforma de trabalho para democratizar o aprendizado profundo. Mas novamente, muito poucos cientistas de dados estavam usando DL em 2016. Então, começamos a verticalizar para um vertical e nos concentramos em construir camadas de produto especializadas para um vertical, ou seja, Instituições Financeiras (FSIs). Sabíamos que isso funcionaria porque, enquanto grandes jogadores visam vencer o jogo horizontal, a verticalização pode criar um grande diferencial para startups. Dessa vez, estávamos certos!

Estamos construindo a nuvem de IA para Bancos, Seguradoras e Instituições Financeiras com as camadas verticais mais especializadas para entregar soluções de IA escaláveis e responsáveis.

Quão grande é o problema da caixa preta de IA na finanças?

Extremamente importante! Apenas 30% das instituições financeiras estão usando ‘IA’ ao seu potencial máximo. Enquanto uma das razões é a acessibilidade, outra é a falta de ‘IA’ confiável e auditoria. As regulamentações agora são claras em algumas geografias sobre a legalidade de usar IA para casos de uso de baixa, média e alta sensibilidade. É exigido por lei na UE usar modelos transparentes para casos de uso de alto risco. Muitos casos de uso em instituições financeiras são casos de uso de alto risco. Portanto, eles são obrigados a usar modelos de caixa branca.

Os ciclos de hype também estão se estabilizando devido às experiências iniciais com soluções de IA. Há um número crescente de exemplos nos tempos recentes sobre os efeitos do uso de ‘IA’ caixa preta, falhas de ‘IA’ devido à falta de monitoramento e desafios com gerentes legais e de risco devido à limitada auditoria.

Poderia discutir a diferença entre monitoramento de ML e observabilidade de ML?

 O trabalho de uma ferramenta de monitoramento é simplesmente monitorar e alertar. E o trabalho de uma ferramenta de observabilidade é não apenas monitorar e relatar, mas, mais importante, fornecer evidências suficientes para encontrar as razões para a falha ou prever essas falhas ao longo do tempo.

Em IA/ML, essas ferramentas desempenham um papel crítico. Enquanto essas ferramentas podem entregar os papéis necessários de monitoramento, o escopo da observabilidade de ML

Por que plataformas específicas da indústria são necessárias para a observabilidade de ML em vez de plataformas de propósito geral?

Plataformas de propósito geral são projetadas para todos e qualquer caso de uso, independentemente da indústria – qualquer usuário pode se inscrever e começar a usar a plataforma. Os clientes dessas plataformas são usualmente desenvolvedores, cientistas de dados, etc. As plataformas, no entanto, criam vários desafios para as partes interessadas devido à sua natureza complexa e abordagem ‘tamanho único’.

Infelizmente, a maioria dos negócios hoje exige especialistas em ciência de dados para usar plataformas de propósito geral e precisam de soluções adicionais/camadas de produto para tornar esses modelos ‘usáveis’ pelos usuários finais em qualquer vertical. Isso inclui explicabilidade, auditoria, segmentos/cenários, processos humanos no loop, rotulagem de feedback, auditoria, pipelines específicos de ferramentas, etc.

É aqui que as plataformas de IA específicas da indústria entram como uma vantagem. Uma plataforma de IA específica da indústria possui todo o fluxo de trabalho para resolver as necessidades ou casos de uso direcionados do cliente e é desenvolvida para fornecer um produto completo do início ao fim, desde a compreensão das necessidades do negócio até o monitoramento do desempenho do produto. Há muitos obstáculos específicos da indústria, como estruturas regulatórias e de conformidade, requisitos de privacidade de dados, requisitos de auditoria e controle, etc. Plataformas e ofertas de IA específicas da indústria aceleram a adoção de IA e encurtam o caminho para a produção, reduzindo o tempo de desenvolvimento e os riscos associados à implantação de IA. Além disso, isso também ajudará a reunir a expertise em IA na indústria como uma camada de produto que ajuda a melhorar a aceitação de ‘IA’, impulsionar esforços de conformidade e descobrir abordagens comuns para questões de ética, confiança e reputação.

Poderia compartilhar alguns detalhes sobre a plataforma de Observabilidade de ML oferecida pela Arya.ai?

Estamos trabalhando em instituições financeiras por mais de 6+ anos. Desde 2016. Isso nos deu uma exposição precoce a desafios únicos ao implantar IA complexa em FSIs. Um dos desafios importantes era a ‘aceitação de IA’. Ao contrário de outros verticais, há muitas regulamentações sobre o uso de qualquer software (também aplicável a soluções de ‘IA’), privacidade de dados, ética e, mais importante, o impacto financeiro nos negócios. Para abordar esses desafios em escala, tivemos que inventar e adicionar continuamente novas camadas de explicabilidade, auditoria, riscos de uso e responsabilidade em cima de nossas soluções – processamento de sinistros, subscrição, monitoramento de fraude, etc. Com o tempo, criamos um quadro de Observabilidade de ML aceitável e escalável para vários stakeholders na indústria de serviços financeiros.

Agora estamos lançando uma versão DIY do quadro como AryaXAI (xai.arya.ai). Qualquer equipe de ML ou de negócios pode usar AryaXAI para criar uma governança de IA abrangente para casos de uso críticos. A plataforma traz transparência e auditoria para suas soluções de IA que são aceitáveis para todos os stakeholders. AryaXAI torna a IA mais segura e aceitável para casos de uso críticos, fornecendo uma explicabilidade confiável e precisa, oferecendo evidências que podem apoiar a diligência regulatória, gerenciando a incerteza de IA com controles de política avançados e garantindo a consistência na produção, monitorando a deriva de dados ou modelos e alertando os usuários com análise de causa raiz.

AryaXAI também atua como um fluxo de trabalho comum e fornece insights aceitáveis por todos os stakeholders – Ciência de Dados, TI, Risco, Operações e equipes de conformidade, tornando a implantação e manutenção de modelos de IA/ML sem problemas e sem bagunça.

Outra solução oferecida é uma plataforma que melhora a aplicabilidade do modelo de ML com a implementação de política contextual. Poderia descrever o que é isso especificamente?

É difícil monitorar e controlar modelos de ML em produção devido ao grande volume de recursos e previsões. Além disso, a incerteza do comportamento do modelo torna difícil gerenciar e padronizar a governança, o risco e a conformidade. Tais falhas dos modelos podem resultar em perdas financeiras e de reputação pesadas.

AryaXAI oferece ‘Controles de Risco/Política’, um componente crítico que preserva os interesses comerciais e éticos, aplicando políticas em IA. Os usuários podem facilmente adicionar/editar/modificar políticas para administrar controles de política. Isso permite que equipes multifuncionais definam guardrails de política para garantir a avaliação de risco contínua, protegendo o negócio da incerteza de IA.

Quais são alguns exemplos de casos de uso para esses produtos?

AryaXAI pode ser implementado para vários processos críticos em diferentes indústrias. Os exemplos mais comuns são:

BFSI: No ambiente de rigor regulatório, AryaXAI facilita para a indústria de BFSI alinhar os requisitos e coletar as evidências necessárias para gerenciar riscos e garantir a conformidade.

• Aprovação de crédito para empréstimos seguros/não seguros
• Identificação de transações fraudulentas/suspeitas
• Auditoria
• Gestão do ciclo de vida do cliente
• Decisão de crédito

Carros autônomos: Veículos autônomos precisam atender a rigor regulatório, segurança operacional e explicabilidade em decisões em tempo real. AryaXAI permite entender como o sistema de IA interage com o veículo

• Análise de decisão
• Operações de veículo autônomo
• Dados de saúde do veículo
• Monitoramento do sistema de direção de IA

Saúde: AryaXAI fornece insights mais profundos de perspectivas médicas, tecnológicas, legais e de pacientes. Desde a descoberta de medicamentos até a fabricação, vendas e marketing, Arya-xAI fomenta a colaboração multidisciplinar

• Descoberta de medicamentos
• Pesquisa clínica
• Validação de dados de ensaios clínicos
• Cuidados de alta qualidade

Qual é sua visão para o futuro da aprendizagem de máquina na finanças?

Nos últimos dez anos, houve um enorme esforço de educação e marketing em torno de ‘IA’. Vimos vários ciclos de hype durante esse tempo. Provavelmente estamos no 4º ou 6º ciclo de hype agora. O primeiro foi quando o Aprendizado Profundo venceu o ImageNet em 2011/12, seguido de trabalhos em torno de classificação de imagens/texto, reconhecimento de fala, carros autônomos, IA geradora e, atualmente, com modelos de linguagem grande. A lacuna entre o pico de hype e o uso em massa está diminuindo com cada ciclo de hype, devido às iterações em torno do produto, demanda e financiamento.

Três coisas aconteceram agora:

1. Acho que já encontramos o quadro de escala para soluções de IA, pelo menos por alguns especialistas. Por exemplo, a Open AI é atualmente uma organização sem fins lucrativos, mas está projetando fazer $1 bilhão em receita dentro de 2 anos. Embora nem todas as empresas de IA possam alcançar uma escala semelhante, o modelo de escalabilidade está mais claro.
2. A definição de soluções de IA ideais está quase clara para todos os verticais: Ao contrário do que acontecia anteriormente, quando o produto era construído por meio de experimentos iterativos para cada caso de uso e cada organização, as partes interessadas estão cada vez mais educadas para entender o que precisam das soluções de IA.
3. As regulamentações agora estão se aproximando: A necessidade de regulamentações claras em torno da privacidade de dados e do uso de IA agora está ganhando grande tração. Órgãos governamentais e reguladores estão publicando ou estão no processo de publicar quadros necessários para o uso seguro, ético e responsável de IA.

O que vem a seguir?

A explosão do ‘Modelo como Serviço (MaaS)’:

Estamos prestes a ver uma demanda crescente por ‘Modelo como Serviço’ não apenas horizontalmente, mas também verticalmente. Enquanto ‘OpenAI’ representa um bom exemplo de ‘MaaS’ horizontal, Arya.ai é um exemplo de ‘MaaS’ vertical. Com a experiência de implantações e conjuntos de dados, Arya.ai tem coletado conjuntos de dados verticais críticos que são usados para treinar modelos e fornecê-los como modelos pré-treinados ou plug-and-use.

Verticalização é o novo horizontal: Vimos essa tendência na adoção de nuvem. Enquanto os jogadores horizontais se concentram em ‘plataformas para todos’, os jogadores verticais se concentram nas necessidades do usuário final e as fornecem como uma camada de produto especializada. Isso também é verdade para ofertas de MaaS.

XAI e governança de IA se tornarão norma nas empresas: Dependendo da sensibilidade das regulamentações, cada vertical alcançará um quadro de XAI e governança aceitável que será implementado como parte do design, ao contrário de hoje, quando é tratado como um complemento.

IA geradora em dados tabulares pode ver seus ciclos de hype em empresas: Criar conjuntos de dados sintéticos é supostamente uma das soluções fáceis de implementar para resolver desafios de dados em empresas. Equipes de ciência de dados prefeririam isso, pois o problema está sob seu controle, ao contrário de depender do negócio, que pode levar tempo, ser caro e não garantir que sigam todos os passos ao coletar dados. Dados sintéticos resolvem problemas de viés, desequilíbrio de dados, privacidade de dados e dados insuficientes. Claro, a eficácia dessa abordagem ainda precisa ser provada. No entanto, com mais maturidade em novas técnicas como transformadores, podemos ver mais experimentação em conjuntos de dados tradicionais como tabulares e multidimensionais. Após o sucesso, essa abordagem pode ter um impacto tremendo em empresas e ofertas de MaaS.

Há algo mais que você gostaria de compartilhar sobre a Arya.ai?

O foco da Arya.ai é resolver o ‘IA’ para Bancos, Seguradoras e Instituições Financeiras. Nossa abordagem é a verticalização da tecnologia até a última camada e torná-la usável e aceitável por todas as organizações e stakeholders.

AryaXAI (xai.arya.ai) desempenhará um papel importante na entrega disso às massas dentro do vertical de FSI. Nossa pesquisa contínua sobre dados sintéticos teve sucesso em alguns casos de uso, mas