Liran Hason, Co-Fundador e CEO da Aporia – Série de Entrevistas

Liran Hason é o Co-Fundador e CEO da Aporia, uma plataforma de observabilidade de ML de pilha completa usada por empresas do Fortune 500 e equipes de ciência de dados em todo o mundo para garantir AI responsável. A Aporia se integra perfeitamente a qualquer infraestrutura de ML. Seja um servidor FastAPI em cima do Kubernetes, uma ferramenta de implantação de código aberto como MLFlow ou uma plataforma de aprendizado de máquina como AWS Sagemaker

Antes de fundar a Aporia, Liran foi Arquiteto de ML na Adallom (adquirida pela Microsoft (MSFT )), e mais tarde investidor na Vertex Ventures.

Você começou a programar quando tinha 10 anos, o que o atraiu inicialmente para os computadores, e no que você estava trabalhando?

Foi em 1999, e um amigo meu me ligou e disse que havia construído um site. Depois de digitar um endereço de 200 caracteres no meu navegador, eu vi um site com o nome dele. Fiquei impressionado com o fato de ele ter criado algo no seu computador e eu poder ver no meu próprio computador. Isso me deixou super curioso sobre como funcionava e como eu podia fazer o mesmo. Pedi à minha mãe para me comprar um livro de HTML, que foi meu primeiro passo para a programação.

Encontro grande prazer em assumir desafios técnicos, e com o passar do tempo, minha curiosidade só cresceu. Apreendi ASP, PHP e Visual Basic, e realmente consumi tudo o que pude.

Quando eu tinha 13 anos, já estava assumindo alguns trabalhos freelances, construindo sites e aplicativos de desktop.

Quando não tinha nenhum trabalho ativo, estava trabalhando em meus próprios projetos – geralmente diferentes sites e aplicativos destinados a ajudar outras pessoas a alcançar seus objetivos:

Blue-White Programming – é uma linguagem de programação em hebraico, semelhante ao HTML, que eu construí após perceber que crianças em Israel que não têm um alto nível de inglês são limitadas ou afastadas do mundo da programação.

Blinky – Meus avós são surdos e usam linguagem de sinais para se comunicar com os amigos. Quando o software de videoconferência, como o Skype e o ooVoo, surgiu, permitiu que eles falassem com os amigos pela primeira vez, mesmo que não estivessem no mesmo quarto (como todos nós fazemos com nossos telefones). No entanto, como eles não podem ouvir, não eram capazes de saber quando tinham uma chamada de vídeo entrante. Para ajudá-los, eu escrevi um software que identifica chamadas de vídeo entrantes e os alerta piscando um LED em um pequeno dispositivo de hardware que eu construí e conectei ao seu computador.

Esses são apenas alguns dos projetos que eu construí como adolescente. Minha curiosidade nunca parou e eu me encontrei aprendendo C, C++, Assembly e como os sistemas operacionais funcionam, e realmente tentei aprender o máximo que pude.

Pode compartilhar a história da sua jornada como Arquiteto de Aprendizado de Máquina na Adallom, adquirida pela Microsoft?

Comecei minha jornada na Adallom após o meu serviço militar. Após 5 anos no exército como Capitão, eu vi uma grande oportunidade de ingressar em uma empresa emergente e mercado – como um dos primeiros funcionários. A empresa era liderada por grandes fundadores, que eu conhecia do meu serviço militar, e apoiada por VCs de alto nível – como a Sequoia. A erupção das tecnologias de nuvem no mercado ainda estava em sua infância relativa, e estávamos construindo uma das primeiras soluções de segurança de nuvem da época. As empresas estavam começando a migrar de locais para a nuvem, e vimos novos padrões da indústria surgirem – como o Office 365, Dropbox (DBX ), Marketo, Salesforce e outros.

Durante minhas primeiras semanas, eu já sabia que queria iniciar minha própria empresa um dia. Eu realmente senti, do ponto de vista técnico, que estava preparado para qualquer desafio que viesse em minha direção, e se não eu mesmo, eu sabia as pessoas certas para me ajudar a superar qualquer coisa.

A Adallom precisava de alguém que tivesse conhecimento profundo da tecnologia, mas que também pudesse ser voltado para o cliente. Avançando como um mês, e eu estava em um avião para os EUA, pela primeira vez na minha vida, para me encontrar com as pessoas do LinkedIn (pré-Microsoft). Algumas semanas depois e elas se tornaram nossos primeiros clientes pagantes nos EUA. Isso foi apenas uma das muitas grandes corporações – Netflix , Disney e Safeway – que eu estava ajudando a resolver problemas críticos de nuvem para. Foi supereducacional e um forte construtor de confiança.

Para mim, ingressar na Adallom foi realmente sobre ingressar em um lugar onde eu acredito no mercado, eu acredito na equipe e eu acredito na visão. Estou extremamente grato pela oportunidade que eu tive lá.

O propósito do que estou fazendo era e é muito importante. Para mim, era o mesmo no exército, era sempre importante. Eu podia facilmente ver como a abordagem da Adallom de se conectar às soluções de SaaS, monitorar a atividade dos usuários, dos recursos, encontrar anomalias, etc., era como as coisas seriam feitas. Eu percebi que isso seria a abordagem do futuro. Então, eu definitivamente vi a Adallom como uma empresa que seria bem-sucedida.

Era responsável pela arquitetura completa da nossa infraestrutura de ML. E eu vi e experimentei em primeira mão a falta de ferramentas adequadas para o ecossistema. Sim, era claro para mim que havia uma solução dedicada em um local centralizado onde você pode ver todos os seus modelos; onde você pode ver quais decisões eles estão tomando para o seu negócio; onde você pode rastrear e se tornar proativo com seus objetivos de ML. Por exemplo, tivemos vezes em que aprendemos sobre problemas em nossos modelos de aprendizado de máquina muito tarde, e isso não é ótimo para os usuários e, definitivamente, não para o negócio. É aqui que a ideia para a Aporia começou a se formar.

Pode compartilhar a história de criação por trás da Aporia?

Minha experiência pessoal com aprendizado de máquina começa em 2008, como parte de um projeto colaborativo no Instituto Weizmann, juntamente com a Universidade de Bath e um centro de pesquisa chinês. Lá, eu construí um sistema de identificação biométrica analisando imagens da íris. Eu consegui alcançar 94% de precisão. O projeto foi um sucesso e foi aplaudido do ponto de vista da pesquisa. Mas, para mim, eu havia construído software desde os 10 anos de idade, e algo parecia, de certa forma, não real. Você não poderia realmente usar o sistema de identificação biométrica que eu construí na vida real porque funcionava bem apenas para o conjunto de dados específico que eu usei. Não é determinístico o suficiente.

Isso é apenas um pouco de fundo. Quando você está construindo um sistema de aprendizado de máquina, por exemplo, para identificação biométrica, você quer que as previsões sejam determinísticas – você quer saber que o sistema identifica com precisão uma certa pessoa, certo? Assim como o seu iPhone não desbloqueia se não reconhece a pessoa certa no ângulo certo, este é o resultado desejado. Mas isso realmente não era o caso com o aprendizado de máquina quando eu primeiro entrei no espaço.

Cerca de sete anos depois e eu estava experimentando em primeira mão, na Adallom, a realidade de executar modelos de produção sem guardiões confiáveis, pois eles tomam decisões para o nosso negócio que afetam os nossos clientes. Depois, eu tive a sorte de trabalhar como investidor na Vertex Ventures, por três anos. Eu vi como mais e mais organizações usavam ML, e como as empresas transitaram de apenas falar sobre ML para realmente fazer aprendizado de máquina. No entanto, essas empresas adotaram ML apenas para serem desafiadas pelos mesmos problemas que enfrentávamos na Adallom.

Todos correram para usar ML, e estavam tentando construir sistemas de monitoramento internamente. Obviamente, não era o seu negócio principal, e esses desafios são bastante complexos. Aqui está quando eu também percebi que essa é a minha oportunidade de fazer um impacto enorme.

A IA está sendo adotada em quase todas as indústrias, incluindo saúde, serviços financeiros, automotivo e outras, e irá tocar a vida de todos e terá um impacto sobre todos nós. É aqui que a Aporia mostra seu verdadeiro valor – permitindo que todos esses casos de uso que mudam vidas funcionem como pretendido e ajudem a melhorar a nossa sociedade. Porque, como qualquer software, você terá bugs, e o aprendizado de máquina não é diferente. Se deixados sem supervisão, esses problemas de ML podem realmente prejudicar a continuidade do negócio e impactar a sociedade com resultados de viés não intencionais. Pegue o tentativa da Amazon de implementar uma ferramenta de recrutamento de IA (AMZN ) – o viés não intencional causou o modelo de aprendizado de máquina a recomendar fortemente candidatos do sexo masculino sobre os candidatos do sexo feminino. Isso é obviamente um resultado indesejado. Portanto, há necessidade de uma solução dedicada para detectar o viés não intencional antes que ele chegue às notícias e afete os usuários finais.

Para que as organizações possam confiar e desfrutar dos benefícios do aprendizado de máquina, elas precisam saber quando ele não está funcionando corretamente, e agora, com as novas regulamentações, os usuários de ML frequentemente precisarão de maneiras de explicar as previsões dos seus modelos. No final, é fundamental pesquisar e desenvolver novos modelos e projetos inovadores, mas uma vez que esses modelos atingem o mundo real e tomam decisões reais para as pessoas, os negócios e a sociedade, há uma necessidade clara de uma solução de observabilidade abrangente para garantir que eles possam confiar na IA.

Pode explicar a importância da IA transparente e explicável?

Embora possa parecer semelhante, há uma distinção importante a ser feita entre o software tradicional e o aprendizado de máquina. No software, você tem um engenheiro de software, escrevendo código, definindo a lógica do aplicativo, sabemos exatamente o que acontecerá em cada fluxo do código. É determinístico. É assim que o software é usualmente construído, os engenheiros criam casos de teste, testando casos de bordo, obtendo cerca de 70% – 80% de cobertura – você se sente bom o suficiente para liberar para a produção. Se algum alerta surgir, você pode facilmente depurar e entender o que deu errado e consertar.

Isso não é o caso com o aprendizado de máquina. Em vez de um humano definir a lógica, ela é definida como parte do processo de treinamento do modelo. Quando se fala em lógica, ao contrário do software tradicional, não é um conjunto de regras, mas sim uma matriz de milhões e bilhões de números que representam a mente, o cérebro do modelo de aprendizado de máquina. E isso é uma caixa preta, não sabemos realmente o significado de cada número nessa matriz. Mas sabemos estatisticamente, então isso é probabilístico, e não determinístico. Pode ser preciso em 83% ou 93% do tempo. Isso levanta muitas perguntas, certo? Primeiro, como podemos confiar em um sistema que não podemos explicar como ele chega às suas previsões? Segundo, como podemos explicar previsões para indústrias altamente regulamentadas – como o setor financeiro. Por exemplo, nos EUA, as firmas financeiras são obrigadas por lei a explicar aos seus clientes por que foram rejeitados para uma solicitação de empréstimo.

A incapacidade de explicar as previsões do aprendizado de máquina em texto legível para humanos pode ser um grande obstáculo para a adoção em massa do ML em todas as indústrias. Queremos saber, como sociedade, que o modelo não está tomando decisões tendenciosas. Queremos ter certeza de que entendemos o que leva o modelo a uma decisão específica. É aqui que a explicabilidade e a transparência são extremamente cruciais.

Como a solução de caixa de ferramentas de IA transparente e explicável da Aporia funciona?

A caixa de ferramentas de IA explicável da Aporia funciona como parte de um sistema de observabilidade de aprendizado de máquina unificado. Sem uma visibilidade profunda dos modelos de produção e uma solução de monitoramento e alerta confiável, é difícil confiar nas informações explicáveis da IA – não há necessidade de explicar previsões se a saída for não confiável. E é aí que a Aporia entra em cena, fornecendo uma visão de painel único sobre todos os modelos em execução, monitoramento personalizável, capacidades de alerta, ferramentas de depuração, investigação de causa raiz e IA explicável. Uma solução de observabilidade dedicada e completa para qualquer problema que surja na produção.

A plataforma Aporia é agnóstica e equipa empresas orientadas a IA, equipes de ciência de dados e ML com um painel centralizado e visibilidade completa sobre a saúde do modelo, previsões e decisões – permitindo que eles confiem na sua IA. Ao usar a IA explicável da Aporia, as organizações são capazes de manter todos os stakeholders relevantes no loop, explicando decisões de aprendizado de máquina com um clique de um botão – obtenha insights legíveis para humanos em previsões específicas do modelo ou simule situações “E se?”. Além disso, a Aporia rastreia constantemente os dados que são alimentados no modelo, bem como as previsões, e envia alertas proativamente sobre eventos importantes, incluindo degradação de desempenho, viés não intencional, deriva de dados e até mesmo oportunidades para melhorar o modelo. Finalmente, com a caixa de ferramentas de investigação da Aporia, você pode chegar à causa raiz de qualquer evento para remediar e melhorar qualquer modelo em produção.

Algumas das funcionalidades oferecidas incluem Ferramentas de Investigação de Pontos de Dados e Séries Temporais, como essas ferramentas ajudam a prevenir o viés e a deriva da IA?

Os pontos de dados fornecem uma visão ao vivo dos dados que o modelo está recebendo e das previsões que está fazendo para o negócio. Você pode obter uma visão ao vivo disso e entender exatamente o que está acontecendo no seu negócio. Então, às vezes as coisas mudam ao longo do tempo e há uma correlação entre várias mudanças ao longo do tempo – este é o papel da investigação de séries temporais.

Recentemente, grandes varejistas tiveram todas as suas ferramentas de previsão de IA falharem quando se tratava de prever problemas de cadeia de suprimentos, como a plataforma Aporia resolve isso?

O principal desafio em identificar esses tipos de problemas está enraizado no fato de estarmos falando de previsões futuras. Isso significa que previmos que algo acontecerá ou não acontecerá no futuro. Por exemplo, quantas pessoas vão comprar uma camisa específica ou vão comprar um novo PlayStation.

Depois, leva algum tempo para reunir todos os resultados reais – mais de algumas semanas. Depois, podemos resumir e dizer, ok, essa foi a demanda real que vimos. Esse período de tempo, estamos falando de alguns meses ao todo. Isso nos leva desde o momento em que o modelo faz a previsão até o momento em que o negócio sabe exatamente se estava certo ou errado. E nesse momento, geralmente é tarde demais, o negócio perdeu receitas potenciais ou a margem foi espremida, porque eles têm que vender o estoque em excesso com grandes descontos.

Isso é um desafio. E é exatamente aqui que a Aporia entra em cena e se torna muito, muito útil para essas organizações. Primeiro, permite que as organizações obtenham facilmente transparência e visibilidade sobre as decisões que estão sendo tomadas – Há alguma flutuação? Há algo que não faz sentido? Em segundo lugar, como estamos falando de grandes varejistas, estamos falando de enormes quantidades de estoque, e rastrear manualmente é quase impossível. Aqui está onde as empresas e as equipes de ML valorizam mais a Aporia, como um sistema de monitoramento personalizável e automatizado 24/7. A Aporia rastreia constantemente os dados e as previsões, analisa o comportamento estatístico dessas previsões e pode antecipar e identificar mudanças no comportamento dos consumidores e mudanças nos dados assim que elas acontecem. Em vez de esperar seis meses para perceber que a previsão da demanda estava errada, você pode identificar em questão de dias que estamos no caminho errado com nossas previsões de demanda. Então, a Aporia reduz esse período de tempo de alguns meses para alguns dias. Isso é um grande divisor de águas para qualquer praticante de ML.

Há algo mais que você gostaria de compartilhar sobre a Aporia?

Estamos crescendo constantemente e procurando pessoas incríveis com mentes brilhantes para se juntarem à jornada da Aporia. Confira nossas vagas abertas.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Aporia.