Omri Kohl, CEO e Co-Fundador da Pyramid Analytics – Série de Entrevistas

Omri Kohl é o CEO e co-fundador da Pyramid Analytics. A Plataforma de Inteligência de Decisão da Pyramid fornece insights baseados em dados para que qualquer pessoa possa tomar decisões mais rápidas e inteligentes. Ele lidera a estratégia e as operações da empresa em um mercado de dados e análise em rápido crescimento. Kohl traz uma compreensão profunda de tecnologias de análise e inteligência artificial, experiência de gestão valiosa e uma habilidade natural para desafiar o pensamento convencional. Kohl é um empreendedor altamente experiente com um histórico comprovado de desenvolvimento e gestão de empresas de crescimento rápido. Ele estudou economia, finanças e gestão de negócios na Universidade Bar-Ilan e tem um MBA em Gestão Internacional de Negócios pela New York University, Leonard N. Stern School of Business.

Poderia começar explicando o que é GenBI e como ele integra a Inteligência Artificial Geradora com a inteligência de negócios para melhorar os processos de tomada de decisão?

GenBI é a estrutura e a mecânica para trazer o poder da Inteligência Artificial Geradora, LLMs e inteligência artificial em geral para a análise, inteligência de negócios e tomada de decisão.

No momento, não é prático usar a Inteligência Artificial Geradora sozinha para acessar insights de conjuntos de dados. Pode levar mais de uma semana para carregar dados suficientes para a ferramenta de Inteligência Artificial Geradora para obter resultados significativos. Isso simplesmente não é viável, pois os dados empresariais são muito dinâmicos e sensíveis para serem usados dessa forma. Com o GenBI, qualquer pessoa pode extrair insights valiosos de seus dados, apenas fazendo uma pergunta em linguagem natural e vendo os resultados na forma de um painel de inteligência de negócios. Leva apenas 30 segundos para receber uma resposta relevante e útil.

Quais são as principais inovações tecnológicas por trás do GenBI que permitem que ele entenda e execute tarefas de inteligência de negócios complexas por meio de linguagem natural?

Bem, sem revelar todos os nossos segredos, há basicamente três componentes. Primeiro, o GenBI fornece às LLMs todos os elementos necessários para produzir as etapas analíticas corretas que produzirão a insight solicitada. Isso é o que permite que o usuário forme consultas usando linguagem natural e até mesmo em termos vagos, sem saber exatamente que tipo de gráfico, investigação ou formato solicitar.

Em seguida, a solução GenBI da Pyramid Analytics aplica essas etapas aos dados da sua empresa, independentemente dos detalhes da sua situação. Estamos falando dos conjuntos de dados mais básicos e consultas simples, até os casos de uso mais sofisticados e bancos de dados complexos.

Terceiro, a Pyramid pode executar essas consultas nos dados subjacentes e manipular os resultados em tempo real. Uma LLM sozinha não pode produzir análise profunda em um banco de dados. Você precisa de um elemento robótico para encontrar todas as informações necessárias, interpretar a solicitação do usuário para produzir insights e passá-los para a plataforma de inteligência de negócios para articular os resultados, seja em linguagem simples ou como uma visualização dinâmica que pode ser refinada posteriormente por meio de consultas de follow-up.

Como o GenBI democratiza a análise de dados, especialmente para usuários não técnicos?

Muito simplesmente, o GenBI permite que qualquer pessoa acesse as insights de que precisa, independentemente do seu nível de especialização. As ferramentas tradicionais de inteligência de negócios exigem que o usuário saiba qual é a melhor técnica de manipulação de dados para obter os resultados necessários. Mas a maioria das pessoas não pensa em gráficos de pizza, gráficos de dispersão ou tabelas. Elas não querem ter que descobrir qual visualização é a mais eficaz para a sua situação – elas apenas querem respostas para as suas perguntas.

O GenBI fornece essas respostas a qualquer pessoa, independentemente da sua especialização. O usuário não precisa saber todos os termos profissionais ou descobrir se um gráfico de dispersão ou um gráfico de pizza é a melhor opção, e não precisa saber como codificar consultas de banco de dados. Eles podem explorar os dados usando suas próprias palavras em uma conversa natural.

Nós pensamos nisso como a diferença entre usar um mapa de papel para planejar a sua rota e usar o Google Maps ou outro aplicativo de navegação. Com um mapa tradicional, você precisa descobrir as melhores estradas para tomar, pensar sobre possíveis congestionamentos de trânsito e comparar diferentes possibilidades de rota. Hoje em dia, as pessoas apenas digitam o seu destino no aplicativo e seguem em frente – há tanta confiança nos algoritmos que ninguém questiona a rota sugerida. Gostaríamos de pensar que o GenBI está trazendo o mesmo tipo de magia automatizada para os conjuntos de dados corporativos.

Qual foi o feedback dos primeiros adotantes sobre a facilidade de uso e a curva de aprendizado?

Nós estamos recebendo feedback extremamente positivo. A melhor maneira de resumir é: “Uau!” Os usuários e testadores apreciam muito a facilidade de uso, os recursos poderosos e as insights significativas da Pyramid.

A Pyramid Analytics tem uma curva de aprendizado virtualmente zero, então não há nada que impeça as pessoas de adotá-la no local. Aproximadamente três quartos de todas as equipes de negócios que testaram a nossa solução a adotaram e a usam hoje, porque é tão fácil e eficaz.

Pode compartilhar como o GenBI transformou os processos de tomada de decisão dentro das organizações que o implementaram? Algum caso de estudo ou exemplo específico?

Embora tenhamos desenvolvido isso por um longo tempo, apenas lançamos o GenBI há algumas semanas, então eu estou seguro de que você entenderá que ainda não temos estudos de caso completos que possamos compartilhar, ou exemplos de clientes que possamos nomear. No entanto, posso dizer que as organizações que têm milhares de usuários estão se tornando verdadeiramente orientadas por dados, porque todos podem acessar insights. Os usuários agora podem desbloquear o valor real de todos os seus dados.

O GenBI está tendo um efeito transformador em setores como seguros, bancos e finanças, bem como varejo, manufatura e muitos outros setores verticais. De repente, é possível para consultores financeiros, por exemplo, acessar sugestões instantâneas sobre a melhor maneira de otimizar a carteira de um cliente.

Quais são os principais desafios que você enfrentou ao desenvolver o GenBI e como você os superou?

A Pyramid Analytics já estava utilizando inteligência artificial para análise há muitos anos antes de lançarmos a nova solução, então a maioria dos desafios já havia sido superada.

O principal novo elemento é a adição de uma tecnologia de geração de consultas sofisticada que funciona com qualquer LLM para produzir resultados precisos, mantendo os dados privados. Nós realizamos isso desacoplando os dados da consulta (mais sobre isso em um momento).

Outro grande desafio que tivemos que lidar foi o de velocidade. Estamos falando da era do Google, onde as pessoas esperam respostas agora, não em uma hora ou mesmo meia hora. Nós garantimos que acelerássemos o processamento e otimizássemos todos os fluxos de trabalho para reduzir a fricção.

Em seguida, há a necessidade de prevenir a alucinação. Chatbots são propensos a alucinações que distorcem os resultados e comprometem a confiabilidade. Nós trabalhamos arduamente para evitar essas alucinações, mantendo resultados dinâmicos.

Como você lida com questões relacionadas à segurança e privacidade de dados?

Essa é uma ótima pergunta, porque a segurança e privacidade de dados são o maior obstáculo para a análise de inteligência artificial bem-sucedida. Todos estão – e com razão – preocupados com a ideia de expor dados corporativos altamente sensíveis a motores de inteligência artificial de terceiros, mas também querem as capacidades de interpretação de linguagem e insights de dados que esses motores podem fornecer.

É por isso que nunca compartilhamos dados reais com as LLMs com as quais trabalhamos. A Pyramid inverte completamente a premissa, atuando como intermediária entre as informações da sua empresa e a LLM. Nós permitem que você envie a solicitação e, em seguida, a passamos para a LLM, juntamente com descrições do que chamamos de “ingredientes”, basicamente apenas os metadados.

A LLM, então, retorna uma “receita”, que explica como transformar a pergunta do usuário em um prompt de análise de dados. Em seguida, a Pyramid executa essa receita nos dados que você já conectou de forma segura em sua instalação auto-hospedada, de modo que nenhum dado jamais chega à LLM. Nós mesclamos os resultados para servi-los de volta a você em um formato facilmente compreensível e visual. Basicamente, nada que possa comprometer a segurança e a privacidade é exposto ou deixa a segurança do firewall da sua organização.

Para as organizações que desejam integrar o GenBI em suas infraestruturas de dados existentes, como é o processo de implementação?

O processo de implementação da Pyramid Analytics não poderia ser mais fácil ou rápido. Os usuários precisam de muito poucos pré-requisitos e preparativos, e você pode ter tudo funcionando em menos de uma hora. Você não precisa mover dados para um novo quadro ou alterar nada sobre a sua estratégia de dados, porque a Pyramid consulta os seus dados diretamente onde eles residem.

Não há necessidade de explicar os seus dados para a solução ou definir colunas. É tão simples quanto carregar um conjunto de dados CSV ou conectar o seu banco de dados SQL. O mesmo se aplica a qualquer banco de dados relacional de qualquer tipo. Leva apenas alguns minutos para conectar os seus dados, e, em seguida, você pode fazer a sua primeira pergunta segundos depois.

Isso dito, você pode ajustar a estrutura se quiser, como alterar o modelo de junção ou redefinir colunas. Isso leva algum tempo e esforço, mas estamos falando de minutos, não de um projeto de desenvolvimento que dura meses. Os nossos clientes muitas vezes ficam surpresos que a Pyramid está funcionando em seu data warehouse ou data lake clássico em cinco minutos ou algo assim.

Você também não precisa virar um especialista para obter resultados poderosos. Você pode cometer erros de digitação e usar frases incorretas, e a Pyramid desembaraçará e produzirá uma resposta significativa e valiosa. O que você precisa é algum conhecimento sobre os dados que está solicitando.

Olhando para o futuro, qual é a sua visão estratégica para a Pyramid Analytics nos próximos cinco anos? Como você vê as suas soluções evoluindo para atender às demandas do mercado em mudança?

A próxima grande fronteira é o suporte a consultas escaláveis e altamente específicas. Os usuários estão ansiosos para poder fazer perguntas muito precisas, como perguntas sobre entidades personalizadas, e as LLMs ainda não podem produzir respostas inteligentes nesses casos, porque elas não têm esse tipo de insight detalhado sobre os seus bancos de dados.

Nós estamos enfrentando o desafio de como usar modelos de linguagem para perguntar sobre os detalhes dos seus dados sem conectar instantaneamente o seu lago de dados inteiro à LLM. Como você ajusta a sua LLM sobre dados que são reidratados a cada dois segundos? Podemos gerenciar isso para pontos fixos como países, localizações e até datas, mas não para algo idiossincrático como nomes, embora estejamos muito próximos disso hoje.

Outro desafio é permitir que os usuários peçam suas próprias interpretações matemáticas dos dados, aplicando suas próprias fórmulas. Isso é difícil não porque a fórmula é difícil de executar, mas porque entender o que o usuário quer e obter a sintaxe correta é um desafio. Estamos trabalhando para resolver ambos esses desafios, e quando o fizermos, teremos passado o próximo ponto de eureka.

Obrigado pela ótima entrevista, leitores que desejam aprender mais devem visitar Pyramid Analytics.