Mike Capps, Co-Fundador e CEO da Diveplane – Série de Entrevistas

O Dr. Michael Capps é um tecnólogo renomado e CEO da Diveplane Corporation. Antes de co-fundar a Diveplane, Mike teve uma carreira lendária na indústria de videogames como presidente da Epic Games, criadora de sucessos como Fortnite e Gears of War. Seu mandato incluiu mais de cem prêmios de jogo do ano, dezenas de palestras em conferências, um prêmio de realização de carreira e uma defesa bem-sucedida da liberdade de expressão dos videogames no Supremo Tribunal dos EUA.

Diveplane oferece soluções de negócios impulsionadas por IA em várias indústrias. Com seis patentes aprovadas e várias pendentes, a IA Compreensível da Diveplane fornece uma compreensão completa e transparência nas decisões, em apoio a políticas de IA éticas e estratégias de privacidade de dados.

Você se aposentou com sucesso de uma carreira bem-sucedida na indústria de videogames na Epic Games, o que o inspirou a sair da aposentadoria para se concentrar em IA?

Fazer jogos foi divertido, mas – pelo menos na época – não era uma carreira ideal quando se tem uma nova família. Eu me mantive ocupado com conselhos e funções de consultoria, mas não era gratificante. Então, fiz uma lista de três problemas importantes que o mundo enfrenta e que eu poderia possivelmente influenciar – e isso incluiu a proliferação de sistemas de IA “caixa preta”. Meu plano era passar um ano em cada um, mergulhando fundo, mas algumas semanas depois, meu amigo brilhante Chris Hazard me disse que havia trabalhado secretamente em uma plataforma de IA transparente e completamente explicável. E aqui estamos. 

A Diveplane foi iniciada com a missão de trazer humanidade para a IA, pode explicar o que isso significa especificamente?

Claro. Aqui, estamos usando humanidade para significar “humanidade” ou “compaixão”. Para garantir que o melhor da humanidade esteja em seu modelo de IA, você não pode apenas treinar, testar um pouco e esperar que esteja tudo bem. 

Nós precisamos revisar cuidadosamente os dados de entrada, o modelo em si e a saída desse modelo, e garantir que ele reflita o melhor da nossa humanidade. A maioria dos sistemas treinados com dados históricos ou do mundo real não será correta da primeira vez e não é necessariamente imparcial. Acreditamos que a única maneira de erradicar o viés em um modelo – significando tanto erros estatísticos quanto preconceito – é a combinação de transparência, auditoria e explicação compreensível para humanos.  

A tecnologia central da Diveplane é chamada REACTOR, o que torna essa abordagem nova para tornar a aprendizagem de máquina explicável?

A aprendizagem de máquina geralmente envolve o uso de dados para construir um modelo que toma um tipo específico de decisão. As decisões podem incluir o ângulo para girar as rodas de um veículo, se aprovar ou negar uma compra ou marcá-la como fraude, ou qual produto recomendar a alguém. Se você quiser saber como o modelo tomou a decisão, normalmente precisa perguntar ao modelo muitas decisões semelhantes e, em seguida, tentar novamente para prever o que o modelo fez para chegar à decisão. As técnicas de aprendizagem de máquina são limitadas nos tipos de insights que podem oferecer, seja pelo fato de os insights refletirem realmente o que o modelo fez para chegar à decisão ou por terem uma precisão mais baixa.

Trabalhar com REACTOR é bastante diferente. REACTOR caracteriza a incerteza dos seus dados, e seus dados se tornam o modelo. Em vez de construir um modelo para cada tipo de decisão, você simplesmente pergunta ao REACTOR o que deseja que ele decida – pode ser qualquer coisa relacionada aos dados – e o REACTOR consulta quais dados são necessários para uma decisão específica. O REACTOR sempre pode mostrar os dados que usou, como eles se relacionam com a resposta, todos os aspectos da incerteza, raciocínio contrafactual e virtualmente qualquer outra pergunta que você queira fazer. Como os dados são o modelo, você pode editar os dados e o REACTOR será atualizado instantaneamente. Ele pode mostrar se houve algum dado que parecesse anômalo que entrou na decisão e rastrear cada edição dos dados e sua fonte.  O REACTOR usa teoria da probabilidade em todos os níveis, o que significa que podemos dizer as unidades de medida de cada parte de sua operação. E, finalmente, você pode reproduzir e validar qualquer decisão usando apenas os dados que levaram à decisão e as incertezas, usando matemática relativamente direta, sem precisar do REACTOR.

O REACTOR consegue fazer tudo isso enquanto mantém uma precisão altamente competitiva, especialmente para conjuntos de dados pequenos e esparsos.

GEMINAI é um produto que constrói um gêmeo digital de um conjunto de dados, o que isso significa especificamente e como isso garante a privacidade dos dados?

Quando você alimenta o GEMINAI com um conjunto de dados, ele constrói um conhecimento profundo da forma estatística desses dados. Você pode usá-lo para criar um gêmeo sintético que se assemelha à estrutura dos dados originais, mas todos os registros são criados novamente. Mas a forma estatística é a mesma. Então, por exemplo, a frequência cardíaca média dos pacientes nos dois conjuntos seria quase a mesma, assim como todas as outras estatísticas. Assim, qualquer análise de dados usando o gêmeo daria a mesma resposta que os originais, incluindo o treinamento de modelos de ML. 

E se alguém tiver um registro nos dados originais, não haverá registro para essa pessoa no gêmeo sintético. Não estamos apenas removendo o nome – estamos garantindo que não haja um novo registro que esteja “perto” do registro (e de todos os outros) no espaço de informações. I.e., não há registro que seja reconhecível nos conjuntos original e sintético. 

E isso significa que o conjunto de dados sintético pode ser compartilhado muito mais livremente, sem risco de compartilhar informações confidenciais de forma inadequada. Não importa se sejam transações financeiras pessoais, informações de saúde do paciente, dados classificados – desde que as estatísticas dos dados não sejam confidenciais, o gêmeo sintético não é confidencial.  

Por que o GEMINAI é uma solução melhor do que usar privacidade diferencial?

A privacidade diferencial é um conjunto de técnicas que mantêm a probabilidade de que qualquer indivíduo influencie as estatísticas mais do que uma quantidade marginal, e é uma peça fundamental em quase qualquer solução de privacidade de dados. No entanto, quando a privacidade diferencial é usada sozinha, um orçamento de privacidade para os dados precisa ser gerenciado, com ruído suficiente adicionado a cada consulta. Uma vez que esse orçamento seja usado, os dados não podem ser usados novamente sem incorrer em riscos de privacidade.

Uma maneira de superar esse orçamento é aplicar o orçamento de privacidade completo de uma vez para treinar um modelo de ML para gerar dados sintéticos. A ideia é que esse modelo, treinado usando privacidade diferencial, possa ser usado relativamente de forma segura. No entanto, a aplicação adequada da privacidade diferencial pode ser complicada, especialmente se houver volumes de dados diferentes para indivíduos diferentes e relações mais complexas, como pessoas que vivem na mesma casa. E os dados sintéticos produzidos por esse modelo são frequentemente prováveis de incluir, por acaso, dados reais que um indivíduo pode reivindicar como seus, porque são muito semelhantes.

O GEMINAI resolve esses problemas e mais, combinando várias técnicas de privacidade ao sintetizar os dados. Ele usa uma forma prática de privacidade diferencial que pode acomodar uma ampla variedade de tipos de dados. Ele é construído sobre o nosso motor REACTOR, então ele também sabe a probabilidade de que qualquer pedaço de dados possa ser confundido com outro, e sintetiza os dados garantindo que eles sejam sempre suficientemente diferentes dos dados originais mais semelhantes. Além disso, ele trata cada campo, cada pedaço de dados como potencialmente sensível ou identificável, então ele aplica formas práticas de privacidade diferencial para campos que não são tradicionalmente considerados sensíveis, mas que podem identificar um indivíduo de forma única, como a única transação em uma loja de 24 horas entre 2h e 3h. Costumamos nos referir a isso como “corte transversal de privacidade”.

O GEMINAI consegue alcançar alta precisão para quase qualquer propósito, que se assemelha aos dados originais, mas impede que alguém encontre qualquer dado sintético muito semelhante aos dados sintéticos.

A Diveplane foi fundamental na co-fundação da Data & Trust Alliance, o que é essa aliança?

É um grupo absolutamente fantástico de CEOs de tecnologia, colaborando para desenvolver e adotar práticas de dados e IA responsáveis. Organizações de classe mundial como IBM, Johnson&Johnson, Mastercard (MA ), UPS, Walmart (WMT ) e Diveplane. Estamos muito orgulhosos de ter feito parte dos estágios iniciais e também orgulhosos do trabalho que coletivamente realizamos em nossas iniciativas. 

A Diveplane recentemente levantou uma rodada de série A bem-sucedida, o que isso significa para o futuro da empresa?

Nós tivemos a sorte de ser bem-sucedidos com nossos projetos de empresa, mas é difícil mudar o mundo uma empresa de cada vez. Vamos usar esse apoio para construir nossa equipe, compartilhar nossa mensagem e colocar a IA Compreensível em tantos lugares quanto possível!

Há algo mais que você gostaria de compartilhar sobre a Diveplane?

A Diveplane é sobre garantir que a IA seja feita corretamente à medida que ela se prolifera. Estamos falando de IA justa, transparente e compreensível, mostrando proativamente o que está impulsionando as decisões e nos afastando da mentalidade de “caixa preta” na IA que tem o potencial de ser injusta, antiética e tendenciosa. Acreditamos que a Explicabilidade é o futuro da IA e estamos animados para desempenhar um papel fundamental em impulsioná-la!

Obrigado pela ótima entrevista, leitores que desejam aprender mais devem visitar Diveplane.