Dr. Vishal Sikka, Fundador e CEO da Vianai – Série de Entrevistas

Vishal Sikka é o Fundador e CEO da Vianai, ex-CTO da SAP AG e ex-CEO da Infosys. Atualmente, ele também serve no conselho de administração da Oracle , no conselho fiscal do Grupo BMW e como consultor do Instituto de Inteligência Artificial Centrada no Ser Humano da Stanford.

A plataforma Vianai combina elementos de código aberto, técnicas e otimizações proprietárias da Vianai e design centrado no ser humano para trazer a inteligência artificial para as empresas em larga escala, em paisagens diversificadas. Com a plataforma, grandes organizações podem construir, otimizar, implantar e gerenciar modelos de aprendizado de máquina sofisticados em infraestruturas existentes e melhorar as operações e o desempenho dos modelos de aprendizado de máquina em toda a empresa,

O que inicialmente o atraiu para o aprendizado de máquina?

Eu me interessei por IA como um adolescente, quando li as reflexões de Marvin Minsky sobre nossas mentes como sociedades de agentes simples e aprendi sobre o Eliza de Joe Weizenbaum (um chatbot muito antigo) e a crítica de John McCarthy a ele. Mais tarde, tive a honra de ter McCarthy como presidente do meu comitê de qualificação em IA no Stanford. McCarthy e Minsky foram os dois pais do campo da Inteligência Artificial e ambos tinham insights profundos sobre os poderes e limitações da IA, e eu tive a sorte de estudar com ambos.

Ainda podemos ver hoje que a IA tem um grande potencial e, ao mesmo tempo, tem limitações significativas. Os mesmos desafios com os quais estávamos lidando há 30 anos ainda são aparentes hoje, especialmente quando olhamos para a IA nas empresas. Eu fui inspirado pelo trabalho como um estudante para ver se o valor da IA poderia de alguma forma ser desbloqueado e continuei a ser apaixonado por isso.

Você escreveu alguns artigos instrumentais anteriormente, qual artigo você acredita que foi o mais instrumental em evoluir suas visões sobre a IA?

Como um estudante, eu devia ter lido vários milhares de artigos. Os artigos prescientes de McCarthy sobre um “Consigliere”, sobre alguns problemas filosóficos fundamentais da IA, os artigos de Marvin sobre a mente como uma sociedade, sobre trazer juntos as abordagens conexionistas (baseadas em redes neurais) e simbólicas para a IA, os artigos de Judea Pearl sobre raciocínio probabilístico e inteligência causal, e artigos de David Marr (sobre visão), Pat Winston (sobre aprendizado de descrições de objetos a partir de exemplos), o trabalho de Waldinger sobre síntese de programas e muitos outros moldaram minhas visões. Mais recentemente, eu tenho lido obras de Hinton, Lecun, os especialistas em atenção, bem como os trabalhos de Cynthia Rudin, Fernanda Viegas e outros.

Você afirmou que a experiência do desenvolvedor de construir um sistema de IA é fragmentada e quebrada, quais são alguns dos problemas atuais por trás da construção de um sistema de IA?

Os sistemas de IA hoje podem realmente ser explicados por um número relativamente pequeno de pessoas — as estatísticas variam, mas parece que pode haver apenas cerca de 20-30.000 no mundo que entendem os verdadeiros métodos de como os sistemas de IA funcionam. Isso é muito menor do que os 52.000 ou mais que estimamos serem profissionais de MLOps, ou os 1 milhão que estimamos serem cientistas de dados. Muitos deles não poderiam dizer por que o sistema está fazendo o que está, por que faz as recomendações que faz ou o que poderia possivelmente dar errado, ou como as técnicas subjacentes funcionam.

Coloque isso contra o pano de fundo de uma paisagem extremamente complexa. Existem mais de 300 fornecedores de MLOps que a Gartner está rastreando a qualquer momento. Cada um deles tem uma oferta especializada. Os grandes fornecedores de nuvem, por outro lado, têm seu próprio sabor de tudo e muitas vezes buscam bloquear as empresas em seus ecossistemas e infraestrutura.

Além disso, o próprio cálculo muitas vezes é muito caro para as empresas construírem e treinarem alguns dos modelos mais avançados disponíveis. Esses são deixados para algumas empresas que têm o talento e os recursos necessários para gerenciar as demandas de um sistema de IA.

A falta de compreensão, a complexidade da ferramenta e o custo do cálculo combinam para criar um cenário desconexo e desafiador para qualquer empresa que busque ser proficiente em IA. Na Vianai, estamos construindo métodos para tornar a IA mais fácil de usar e entender e observar, enquanto reduzimos drasticamente os recursos e custos associados ao melhor desempenho.

Poderia compartilhar a história de criação por trás da Vianai?

Eu passei muitos anos trabalhando para trazer inovações disruptivas para as empresas. Minhas equipes e eu construímos vários produtos que alcançaram dezenas de milhares de empresas e foram considerados inovações. Eu também liderava duas transformações fundamentais em minhas duas jornadas anteriores à criação da Vianai e participei de transformações em centenas de empresas. Além disso, foram meus muitos anos de estudo de IA e foco em como tornar a IA melhor, mais relevante e a serviço da humanidade.

De uma maneira um pouco incomum – essas coisas se juntaram. Eu estava de férias com minha família no Sudeste Asiático [no final de 2018]. Estávamos comprando em um pequeno mercado e o vendedor tinha joias lindas, feitas com técnicas tradicionais e pedras locais, e era impressionante, mas, é claro, ninguém fora dessa pequena cidade havia ouvido falar delas. E eu tive essa pergunta em mente, “E se esse vendedor pudesse usar IA? Como seria? Como os sistemas teriam que operar?” Naquele momento, me ocorreu que todas as empresas do mundo seriam transformadas com a IA e que essa transformação não poderia ser vista com as lentes de ontem, mas precisava de produtos e ideias que tivessem que começar do zero.

Cerca de um mês depois, eu fundei a Vianai com a missão de trazer a verdadeira IA centrada no ser humano para as empresas em todo o mundo. Isso significa fornecer produtos e serviços, aplicações e tecnologias, ferramentas que permitem que usuários de negócios, cientistas de dados, engenheiros de ML e até vendedores em partes remotas do mundo realmente colham os benefícios da IA.

Desde então, criamos aplicações para ajudar as empresas a começar com a IA, uma plataforma para ajudar os praticantes de ML a gerenciar e monitorar seus modelos de IA e técnicas de otimização para permitir que mais empresas acessem a IA.

Através de tudo, descobrimos que o potencial significativo de trazer o poder do entendimento humano, julgamento e colaboração junto com dados e as melhores técnicas de IA permanece inexplorado. Com base em nosso trabalho com empresas de ponta, eu vi que as mesmas técnicas que ajudariam o pequeno vendedor ajudariam as maiores empresas do mundo.

A Vianai é toda sobre IA centrada no ser humano, poderia definir o que é e por que é importante?

IA centrada no ser humano é a IA que busca amplificar o trabalho humano e melhorar o julgamento humano. O aprendizado de máquina é frequentemente pensado como um substituto para o trabalho humano. Mas a IA é complementar aos humanos — oferece escala e repetibilidade e precisão que os humanos não podem replicar. Mas a IA não pode replicar o julgamento humano, as experiências humanas ou nossa compreensão do contexto.

Há exemplos óbvios disso, de a IA confundir uma tartaruga com uma espingarda, por exemplo, mas muito mais frequentemente colocamos confiança demais na IA quando ela ainda não provou ser confiável. Uma história infame vem de uma década atrás, quando o algoritmo de uma empresa foi permitido negociar sem intervenção humana. O algoritmo perdeu US$ 440 milhões em menos de uma hora.

Para um exemplo mais recente, os modelos de linguagem de ponta continuam relativamente fáceis de confundir ou viesar. Os geradores de imagem de texto são potencialmente poderosos, mas exigem comandos muito específicos de um usuário humano para alcançar seu potencial total.

A IA centrada no ser humano, então, é um tipo de foco no design de nossos produtos. Nós trazemos o poder do entendimento humano – como julgamento e colaboração – junto com os melhores dados e técnicas de IA, para criar sistemas inteligentes que podem melhorar significativamente os resultados e processos de negócios.

Poderia explicar a necessidade de um loop de feedback entre humanos e IA?

Há um ramo inteiro de IA chamado “humano no loop” que depende dos mecanismos de feedback dos humanos para melhorar naturalmente o desempenho da IA. Isso é natural e faz sentido para qualquer sistema.

Os sistemas de IA podem melhorar com o tempo, por meio de re-treinamento, que incorpora as ações que o usuário tomou. Isso é, é claro, parte de nossas aplicações também. Vou dar um exemplo.

Antes da Covid, estávamos trabalhando com uma grande empresa de serviços financeiros em previsão de demanda. Por causa de como projetamos o sistema, quando a Covid veio e quebrou muitos outros modelos, o nosso se adaptou rapidamente às mudanças e nunca precisou ser reconstruído. Isso é o segundo e mais importante aspecto da IA centrada no ser humano, projetar os sistemas desde o início para incorporar as complexidades da vida moderna.

Isso cria confiança e um sistema que cresce com a organização e o usuário.

O que torna a Vianai uma plataforma de IA de próxima geração?

Enquanto há muita discussão em torno do risco, regulamentação e promessa da IA, poucos buscaram o que achamos ser a solução — o conceito de IA centrada no ser humano.

Nossa plataforma está pronta para os problemas que virão à medida que a IA se torna mais real nas empresas. É para lidar com questões em torno de confiança, viés e transparência. Permite que as empresas escalonem a IA com monitoramento e otimização. E permite que usuários não técnicos usem a IA por meio de nossas aplicações.

Quais são alguns dos desafios por trás da construção de uma plataforma que dramaticamente simplifica a experiência de IA empresarial?

Os maiores desafios que vemos nas empresas que incorporam a IA são talento, ferramentas e tecnologia. Primeiro, o talento tende a ser concentrado em alguns lugares, especialmente em grandes empresas de tecnologia. Isso torna muito difícil para membros de equipes externas participarem da supervisão, governança e moldagem do programa de IA e pode criar ainda mais viés, pois apenas um número limitado de membros da equipe está trabalhando nas operações.

A tecnologia e as ferramentas também podem ser um desafio para simplificar a IA. Atualmente, tanto a tecnologia quanto as ferramentas são limitadas. Os chips para executar a IA são escassos e muito caros, e as ferramentas são bloqueadas para determinados fornecedores, o que reduz a liberdade para melhorar o custo enquanto estende o valor. Não importa onde uma empresa possa estar em sua jornada de IA empresarial, esses desafios podem tornar a implementação de IA útil e ética desafiadora, pois cria uma estratégia desconexa e fragmentada e remove as ferramentas necessárias para executar as funções apropriadas. As organizações precisam ser capazes de apoiar todas as áreas da IA, desde a implementação até a manutenção, e ter o apoio da equipe e a capacidade de fornecer entrada para torná-la um sucesso.

Para o verdadeiro sucesso, eu descobri que as capacidades da plataforma precisam ser completamente abertas, modulares, flexíveis e não dependentes de atualizações de hardware e software caras. E com uma abordagem centrada no ser humano, os humanos ainda podem trazer o conhecimento, o contexto, as experiências e a criatividade para resolver problemas – isso é então amplificado pela plataforma de IA, não substituído.

Há algo mais que você gostaria de compartilhar sobre a Vianai?

De muitas maneiras, estamos vivendo em tempos de IA. Há muito hype e discussão em torno da IA, o que, no geral, é uma coisa boa. Estamos vendo muitos avanços e uma adoção mais ampla do que no passado em áreas como a IA Geradora e outras áreas. No entanto, também devemos trabalhar para reconhecer as limitações da IA – as realidades da tecnologia de IA hoje, bem como as realidades da escassez de especialização em IA e a falta de confiança na IA, especialmente nas empresas. Se podemos enquadrar a IA como um amplificador de nossas vidas, sociedade, nosso trabalho, nosso potencial e ter a supervisão necessária da IA para garantir isso, então eu acredito que finalmente veremos a IA se tornar real de maneiras significativas e transformadoras.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Vianai.