Liran Hason, Co-Fundador e CEO da Aporia – Série de Entrevistas

Liran Hason é o Co-Fundador e CEO da Aporia, uma plataforma de observabilidade de ML full-stack usada por empresas do Fortune 500 e equipes de ciência de dados em todo o mundo para garantir AI responsável. A Aporia se integra perfeitamente a qualquer infraestrutura de ML. Seja um servidor FastAPI em cima do Kubernetes, uma ferramenta de implantação de código aberto como o MLFlow ou uma plataforma de aprendizado de máquina como o AWS Sagemaker

Antes de fundar a Aporia, Liran foi Arquiteto de ML na Adallom (adquirida pela Microsoft) e, posteriormente, investidor na Vertex Ventures.

Você começou a programar quando tinha 10 anos, o que o atraiu inicialmente para os computadores, e no que você estava trabalhando?

Era 1999, e um amigo meu me ligou e disse que havia construído um site. Depois de digitar um endereço de 200 caracteres no meu navegador, eu vi um site com o nome dele. Fiquei impressionado com o fato de ele ter criado algo no seu computador e eu poder ver no meu próprio computador. Isso me deixou super curioso sobre como funciona e como posso fazer o mesmo. Pedi à minha mãe para comprar um livro de HTML, que foi o meu primeiro passo na programação.

Encontro grande prazer em assumir desafios técnicos, e com o passar do tempo, minha curiosidade só cresceu. Aprender ASP, PHP e Visual Basic, e realmente consumir tudo o que podia.

Quando eu não tinha nenhum trabalho ativo, estava trabalhando em meus próprios projetos – geralmente diferentes sites e aplicativos:

Blue-White Programming – é uma linguagem de programação em hebraico, semelhante ao HTML, que eu construí após perceber que crianças em Israel que não têm um alto nível de inglês são limitadas ou afastadas do mundo da programação.

Blinky – Meus avós são surdos e usam a linguagem de sinais para se comunicar com os amigos. Quando o software de videoconferência, como o Skype e o ooVoo, surgiu, permitiu que eles falassem com os amigos, mesmo que não estivessem no mesmo quarto (como todos fazemos com nossos telefones). No entanto, como eles não podem ouvir, não eram capazes de saber quando tinham uma chamada de vídeo entrante. Para ajudá-los, eu escrevi um software que identifica chamadas de vídeo entrantes e os alerta piscando uma matriz de LED em um dispositivo de hardware pequeno que eu construí e conectei ao seu computador.

Esses são apenas alguns dos projetos que eu construí como adolescente. Minha curiosidade nunca parou, e eu me encontrei aprendendo C, C++, Assembly e como os sistemas operacionais funcionam, e realmente tentei aprender o máximo que podia.

Pode compartilhar a história da sua jornada como Arquiteto de Aprendizado de Máquina na Adallom, adquirida pela Microsoft?

Eu comecei minha jornada na Adallom após o meu serviço militar. Após 5 anos no exército como Capitão, eu vi uma grande oportunidade de me juntar a uma empresa emergente e um mercado – como um dos primeiros funcionários. A empresa era liderada por grandes fundadores, que eu conhecia do meu serviço militar, e apoiada por VCs de primeira linha – como a Sequoia. A erupção das tecnologias de nuvem no mercado ainda estava em sua infância relativa, e estávamos construindo uma das primeiras soluções de segurança de nuvem na época. As empresas estavam começando a migrar de local para nuvem, e vimos novos padrões da indústria surgirem – como o Office 365, Dropbox, Marketo, Salesforce e outros.

Durante minhas primeiras semanas, eu já sabia que queria começar minha própria empresa um dia. Eu realmente senti, do ponto de vista técnico, que estava preparado para qualquer desafio que viesse em meu caminho, e se não eu, eu sabia as pessoas certas para me ajudar a superar qualquer coisa.

A Adallom precisava de alguém que tivesse conhecimento profundo da tecnologia, mas que também pudesse ser voltado para o cliente. Avançando um mês, e eu estava em um avião para os EUA, pela primeira vez na minha vida, para me encontrar com pessoas do LinkedIn (pré-Microsoft). Algumas semanas depois, e eles se tornaram nossos primeiros clientes pagantes nos EUA. Isso foi apenas uma das muitas grandes corporações – Netflix, Disney e Safeway – que eu estava ajudando a resolver problemas críticos de nuvem.

Para mim, ingressar na Adallom foi realmente sobre ingressar em um lugar onde eu acredito no mercado, eu acredito na equipe e eu acredito na visão. Estou extremamente grato pela oportunidade que me foi dada lá.

O propósito do que estou fazendo era e é muito importante. Para mim, era o mesmo no exército, era sempre importante. Eu podia facilmente ver como a abordagem da Adallom de se conectar às soluções SaaS, monitorar a atividade dos usuários, recursos, encontrar anomalias, etc., era como as coisas seriam feitas. Eu percebi que isso seria a abordagem do futuro. Então, eu definitivamente vi a Adallom como uma empresa que iria ser bem-sucedida.

Eu era responsável pela arquitetura completa da nossa infraestrutura de ML. E eu vi e experimentei em primeira mão a falta de ferramentas adequadas para o ecossistema. Sim, estava claro para mim que havia necessidade de uma solução dedicada em um lugar centralizado onde você possa ver todos os seus modelos; onde você possa ver quais decisões eles estão tomando para o seu negócio; onde você possa rastrear e se tornar proativo com seus objetivos de ML. Por exemplo, tivemos vezes em que aprendemos sobre problemas em nossos modelos de aprendizado de máquina muito tarde, e isso não é bom para os usuários e definitivamente não é bom para o negócio. É aqui que a ideia para a Aporia começou a se formar.

Pode compartilhar a história de criação por trás da Aporia?

Minha própria experiência com aprendizado de máquina começa em 2008, como parte de um projeto colaborativo no Instituto Weizmann, juntamente com a Universidade de Bath e um Centro de Pesquisa Chinês. Lá, eu construí um sistema de identificação biométrica analisando imagens da íris. Eu consegui alcançar 94% de precisão. O projeto foi um sucesso e foi aplaudido do ponto de vista da pesquisa. Mas, para mim, eu havia construído software desde os 10 anos de idade, e algo parecia, de certa forma, não real. Você não podia realmente usar o sistema de identificação biométrica que eu construí na vida real, porque funcionava bem apenas para o conjunto de dados específico que eu usei. Não é determinístico o suficiente.

Isso é apenas um pouco de background. Quando você está construindo um sistema de aprendizado de máquina, por exemplo, para identificação biométrica, você quer que as previsões sejam determinísticas – você quer saber que o sistema identifica com precisão uma certa pessoa, certo? Assim como o seu iPhone não destranca se não reconhece a pessoa certa no ângulo certo, este é o resultado desejado. Mas isso realmente não era o caso com o aprendizado de máquina na época em que eu entrei no espaço.

Cerca de sete anos depois, e eu estava experimentando em primeira mão, na Adallom, a realidade de executar modelos de produção sem guardiões confiáveis, à medida que tomam decisões para o nosso negócio que afetam os nossos clientes. Então, eu tive a sorte de trabalhar como investidor na Vertex Ventures, por três anos. Eu vi como mais e mais organizações usavam ML, e como as empresas transitaram de apenas falar sobre ML para realmente fazer aprendizado de máquina. No entanto, essas empresas adotaram ML apenas para serem desafiadas pelos mesmos problemas que enfrentávamos na Adallom.

Todos correram para usar ML, e estavam tentando construir sistemas de monitoramento internamente. Obviamente, não era o seu negócio principal, e esses desafios são bastante complexos. Aqui é quando eu também percebi que essa é a minha oportunidade de fazer um grande impacto.

A IA está sendo adotada em quase todas as indústrias, incluindo saúde, serviços financeiros, automotivo e outras, e irá tocar a vida de todos e ter um impacto em todos. É aqui que a Aporia mostra seu verdadeiro valor – permitindo que todos esses casos de uso que mudam vidas funcionem como pretendido e ajudem a melhorar a nossa sociedade. Porque, como qualquer software, você terá bugs, e o aprendizado de máquina não é diferente. Se não for verificado, esses problemas de ML podem realmente prejudicar a continuidade do negócio e impactar a sociedade com resultados de viés não intencionais. Pegue a tentativa da Amazon de implementar uma ferramenta de recrutamento de IA – o viés não intencional fez com que o modelo de aprendizado de máquina recomendasse fortemente candidatos do sexo masculino em relação às candidatas do sexo feminino. Isso é obviamente um resultado indesejado. Portanto, há necessidade de uma solução dedicada para detectar viés não intencional antes que chegue ao noticiário e afete os usuários finais.

Para que as organizações possam confiar e desfrutar dos benefícios do aprendizado de máquina, elas precisam saber quando ele não está funcionando corretamente, e agora, com as novas regulamentações, os usuários de ML frequentemente precisarão de maneiras de explicar suas previsões de modelo. No final, é crítico pesquisar e desenvolver novos modelos e projetos inovadores, mas uma vez que esses modelos encontram o mundo real e tomam decisões reais para as pessoas, os negócios e a sociedade, há uma necessidade clara de uma solução de observabilidade abrangente para garantir que eles possam confiar na IA.

Pode explicar a importância de IA transparente e explicável?

Embora possa parecer semelhante, há uma distinção importante a ser feita entre software tradicional e aprendizado de máquina. No software, você tem um engenheiro de software, escrevendo código, definindo a lógica do aplicativo, sabemos exatamente o que acontecerá em cada fluxo de código. É determinístico. É assim que o software é construído, os engenheiros criam casos de teste, testam casos de bordo, obtendo cerca de 70% – 80% de cobertura – você se sente bem o suficiente para liberar para produção. Se algum alerta surgir, você pode facilmente depurar e entender o que deu errado e consertar.

Isso não é o caso com o aprendizado de máquina. Em vez de um humano definir a lógica, ela é definida como parte do processo de treinamento do modelo. Quando se fala em lógica, ao contrário do software tradicional, não é um conjunto de regras, mas sim uma matriz de milhões e bilhões de números que representam a mente, o cérebro do modelo de aprendizado de máquina. E isso é uma caixa preta, não sabemos realmente o significado de cada número nessa matriz. Mas sabemos estatisticamente, então isso é probabilístico, e não determinístico. Pode ser preciso em 83% ou 93% do tempo. Isso levanta muitas perguntas, certo? Primeiro, como podemos confiar em um sistema que não podemos explicar como ele chega às suas previsões? Segundo, como podemos explicar previsões para setores altamente regulamentados – como o setor financeiro. Por exemplo, nos EUA, as firmas financeiras são obrigadas por lei a explicar aos seus clientes por que foram rejeitados para um pedido de empréstimo.

A incapacidade de explicar previsões de aprendizado de máquina em texto legível por humanos pode ser um grande obstáculo para a adoção em massa de ML em setores. Queremos saber, como sociedade, que o modelo não está tomando decisões tendenciosas. Queremos ter certeza de que entendemos o que leva o modelo a uma decisão específica. É aqui que a explicabilidade e a transparência são extremamente cruciais.

Como a solução de caixa de ferramentas de IA transparente e explicável da Aporia funciona?

A caixa de ferramentas de IA explicável da Aporia funciona como parte de um sistema de observabilidade de aprendizado de máquina unificado. Sem uma visibilidade profunda dos modelos de produção e uma solução de monitoramento e alerta confiável, é difícil confiar nas informações explicáveis da IA – não há necessidade de explicar previsões se a saída for não confiável. E é aqui que a Aporia entra, fornecendo uma visão de um único painel de vidro sobre todos os modelos em execução, monitoramento personalizável, capacidades de alerta, ferramentas de depuração, investigação de causa raiz e IA explicável. Uma solução de observabilidade completa e dedicada para qualquer problema que surja em produção.

A plataforma Aporia é agnóstica e equipa empresas orientadas por IA, equipes de ciência de dados e ML com um painel centralizado e visibilidade completa sobre a saúde do modelo, previsões e decisões – permitindo que eles confiem na sua IA. Ao usar a IA explicável da Aporia, as organizações são capazes de manter todos os stakeholders relevantes informados, explicando decisões de aprendizado de máquina com um clique de botão – obtenha insights legíveis por humanos em previsões de modelo específicas ou simule situações “E se?”. Além disso, a Aporia rastreia constantemente os dados que são alimentados no modelo, bem como as previsões, e envia alertas proativamente sobre eventos importantes, incluindo degradação de desempenho, viés não intencional, deriva de dados e até mesmo oportunidades para melhorar o modelo. Finalmente, com a caixa de ferramentas de investigação da Aporia, você pode chegar à causa raiz de qualquer evento para remediar e melhorar qualquer modelo em produção.

Algumas das funcionalidades oferecidas incluem Ferramentas de Investigação de Pontos de Dados e Séries Temporais, como essas ferramentas ajudam a prevenir viés e deriva de IA?

Pontos de dados fornece uma visão ao vivo dos dados que o modelo está recebendo e das previsões que está fazendo para o negócio. Você pode obter uma alimentação ao vivo disso e entender exatamente o que está acontecendo no seu negócio. Então, essa capacidade de visibilidade é crucial para a transparência. Às vezes, as coisas mudam com o tempo e há uma correlação entre várias mudanças com o tempo – este é o papel da investigação de séries temporais.

Recentemente, grandes varejistas tiveram todas as suas ferramentas de previsão de IA falharem quando se tratava de prever problemas de cadeia de suprimentos, como a plataforma Aporia resolveria isso?

O principal desafio em identificar esses tipos de problemas está enraizado no fato de estarmos falando de previsões futuras. Isso significa que preveríamos algo que iria acontecer ou não iria acontecer no futuro. Por exemplo, quantas pessoas iriam comprar uma camisa específica ou iriam comprar um novo PlayStation.

Então, leva algum tempo para reunir todos os resultados reais – mais de algumas semanas. Então, podemos resumir e dizer, ok, essa foi a demanda real que vimos. Esse período de tempo, estamos falando de alguns meses. Isso é o que nos leva do momento em que o modelo faz a previsão até o momento em que o negócio sabe exatamente se estava certo ou errado. E, nesse momento, geralmente é tarde demais, o negócio perdeu receitas potenciais ou a margem foi espremida, porque eles têm que vender o estoque em excesso com grandes descontos.

Isso é um desafio. E é exatamente aqui que a Aporia entra e se torna muito, muito útil para essas organizações. Primeiro, permite que as organizações obtenham facilmente transparência e visibilidade sobre quais decisões estão sendo tomadas – Há alguma flutuação? Há algo que não faz sentido? Em segundo lugar, como estamos falando de grandes varejistas, estamos falando de enormes quantidades de estoque, e rastrear manualmente é quase impossível. Aqui é onde as empresas e as equipes de aprendizado de máquina valorizam a Aporia mais, como um sistema de monitoramento automático e personalizável 24/7. A Aporia rastreia constantemente os dados e as previsões, analisa o comportamento estatístico dessas previsões e pode antecipar e identificar mudanças no comportamento dos consumidores e mudanças nos dados assim que elas acontecem. Em vez de esperar seis meses para perceber que a previsão da demanda estava errada, você pode, em questão de dias, identificar que estamos no caminho errado com nossas previsões de demanda. Então, a Aporia reduz esse período de tempo de alguns meses para alguns dias. Isso é um grande jogo mudador para qualquer praticante de ML.

Há algo mais que você gostaria de compartilhar sobre a Aporia?

Estamos constantemente crescendo e procurando pessoas incríveis com mentes brilhantes para se juntarem à jornada da Aporia. Verifique nossas vagas abertas.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Aporia.