toco Omri Kohl, CEO e cofundador da Pyramid Analytics - Série de entrevistas - Unite.AI
Entre em contato

Entrevistas

Omri Kohl, CEO e cofundador da Pyramid Analytics – Série de entrevistas

mm

Publicado

 on

Omri Kohl é o CEO e cofundador da Análise de pirâmide. A Pyramid Decision Intelligence Platform oferece insights baseados em dados para que qualquer pessoa possa tomar decisões mais rápidas e inteligentes. Ele lidera a estratégia e as operações da empresa em um mercado de dados e análises em rápido crescimento. Kohl traz um profundo conhecimento de análises e tecnologias de IA, valiosa experiência de gerenciamento e uma capacidade natural de desafiar o pensamento convencional. Kohl é um empreendedor altamente experiente, com histórico comprovado no desenvolvimento e gestão de empresas de rápido crescimento. Ele estudou economia, finanças e gestão de negócios na Universidade Bar-Ilan e possui MBA em Gestão de Negócios Internacionais pela Universidade de Nova York, Leonard N. Stern School of Business.

Você poderia começar explicando o que é GenBI e como ele integra IA generativa com business intelligence para aprimorar os processos de tomada de decisão?

GenBI é a estrutura e a mecânica para trazer o poder do GenAI, LLMs e IA geral para análises, inteligência de negócios e tomada de decisões.

Neste momento, não é prático utilizar apenas a GenAI para aceder a insights sobre conjuntos de dados. Pode levar mais de uma semana para carregar dados suficientes em sua ferramenta GenAI para obter resultados significativos. Isso simplesmente não é viável, pois os dados de negócios são muito dinâmicos e sensíveis para serem usados ​​dessa forma. Com o GenBI, qualquer pessoa pode extrair insights valiosos de seus dados, apenas fazendo uma pergunta em linguagem natural e vendo os resultados na forma de um painel de BI. Leva apenas 30 segundos para receber uma resposta relevante e útil.

Quais são as principais inovações tecnológicas por trás do GenBI que permitem compreender e executar tarefas complexas de business intelligence por meio de linguagem natural?

Bem, sem revelar todos os nossos segredos, existem essencialmente três componentes. Primeiro, o GenBI fornece aos LLMs todos os elementos necessários para produzir as etapas analíticas corretas que produzirão o insight solicitado. É isso que permite ao usuário fazer consultas em linguagem natural e até mesmo em termos vagos, sem saber exatamente que tipo de gráfico, investigação ou formato solicitar.

A seguir, a solução Pyramid Analytics GenBI aplica essas etapas aos dados da sua empresa, independentemente das especificidades da sua situação. Estamos falando dos conjuntos de dados mais básicos e consultas simples, até os casos de uso mais sofisticados e bancos de dados complexos.

Terceiro, o Pyramid pode realizar essas consultas nos dados subjacentes e manipular os resultados dinamicamente. Um LLM sozinho não pode produzir análises profundas em um banco de dados. Você precisa de um elemento robô para encontrar todas as informações necessárias, interpretar a solicitação do usuário para produzir insights e repassá-la à plataforma de BI para articular os resultados em linguagem simples ou como uma visualização dinâmica que pode posteriormente ser refinada por meio de acompanhamento. consultas.

Como o GenBI democratiza a análise de dados, especialmente para usuários não técnicos?

Muito simplesmente, o GenBI permite que qualquer pessoa obtenha os insights de que necessita, independentemente do seu nível de especialização. As ferramentas tradicionais de BI exigem que o usuário saiba qual a melhor técnica de manipulação de dados para receber os resultados necessários. Mas a maioria das pessoas não pensa em gráficos de pizza, gráficos de dispersão ou tabelas. Eles não querem descobrir qual visualização é mais eficaz para sua situação – eles apenas querem respostas para suas perguntas.

O GenBI oferece essas respostas a qualquer pessoa, independentemente da sua experiência. O usuário não precisa conhecer todos os termos profissionais ou descobrir se um gráfico de dispersão ou um gráfico de pizza é a melhor opção, e não precisa saber como codificar consultas ao banco de dados. Eles podem explorar dados usando suas próprias palavras em uma conversa natural.

Pensamos nisso como a diferença entre usar um mapa em papel para planejar sua rota e usar o Google Maps ou outro aplicativo de navegação. Com um mapa tradicional, você precisa descobrir as melhores estradas a seguir, pensar em possíveis engarrafamentos e comparar diferentes possibilidades de rotas. Hoje, as pessoas simplesmente colocam o destino no aplicativo e pegam a estrada – há tanta confiança nos algoritmos que ninguém questiona a rota sugerida. Gostaríamos de pensar que o GenBI está trazendo o mesmo tipo de magia automatizada para conjuntos de dados corporativos.

Qual tem sido o feedback dos primeiros usuários sobre a facilidade de uso e a curva de aprendizado?

Temos recebido feedback extremamente positivo. A melhor maneira de resumir é: “Uau!” Os usuários e testadores apreciam muito a facilidade de uso, os recursos poderosos e os insights significativos do Pyramid.

O Pyramid Analytics tem curva de aprendizado praticamente zero, então não há nada que impeça as pessoas de adotá-lo imediatamente. Aproximadamente três quartos de todas as equipes de negócios que testaram nossa solução a adotaram e a utilizam hoje, porque é muito fácil e eficaz.

Você pode compartilhar como o GenBI transformou os processos de tomada de decisão nas organizações que o implementaram? Algum estudo de caso ou exemplo específico?

Embora já o estejamos desenvolvendo há muito tempo, lançamos o GenBI apenas há algumas semanas, então tenho certeza que você entenderá que ainda não temos estudos de caso completos que possamos compartilhar, ou clientes exemplos que podemos citar. No entanto, posso dizer-lhe que as organizações que têm milhares de utilizadores estão, de repente, a tornar-se verdadeiramente orientadas por dados, porque todos podem aceder a insights. Os usuários agora podem desbloquear o verdadeiro valor de todos os seus dados.

O GenBI está tendo um efeito transformador em setores como seguros, bancos e finanças, bem como varejo, manufatura e muitos outros setores verticais. De repente, é possível que consultores financeiros, por exemplo, aproveitem sugestões instantâneas sobre a melhor forma de otimizar a carteira de um cliente.

Quais são alguns dos maiores desafios que você enfrentou no desenvolvimento do GenBI e como você os superou?

A Pyramid Analytics já aproveitava a IA para análises há muitos anos antes de lançarmos a nova solução, portanto, a maioria dos desafios já foi resolvida há muito tempo.

A principal novidade é a adição de uma tecnologia sofisticada de geração de consultas que funciona com qualquer LLM para produzir resultados precisos, ao mesmo tempo que mantém a privacidade dos dados. Conseguimos isso dissociando os dados da consulta (mais sobre isso em instantes).

Outro grande desafio que tivemos que enfrentar foi o da velocidade. Estamos falando da era Google, onde as pessoas esperam respostas agora, não em uma hora ou mesmo meia hora. Certificamo-nos de acelerar o processamento e otimizar todos os fluxos de trabalho para reduzir o atrito.

Depois, há a necessidade de evitar alucinações. Os chatbots são propensos a alucinações que distorcem os resultados e prejudicam a confiabilidade. Trabalhamos muito para evitá-los e, ao mesmo tempo, manter resultados dinâmicos.

Como você lida com questões relacionadas à segurança e privacidade de dados?

Essa é uma ótima pergunta, porque a privacidade e a segurança dos dados são o maior obstáculo para o sucesso da análise GenAI. Todos estão – com razão – preocupados com a ideia de expor dados corporativos altamente sensíveis a motores de IA de terceiros, mas também querem as capacidades de interpretação de linguagem e insights de dados que estes motores podem fornecer.

É por isso que nunca compartilhamos dados reais com os LLMs com os quais trabalhamos. A Pyramid vira toda a premissa de cabeça para baixo, servindo como intermediária entre as informações da sua empresa e o LLM. Permitimos que você envie a solicitação e depois a entregamos ao LLM junto com as descrições do que chamamos de “ingredientes”, basicamente apenas os metadados.

O LLM então retorna uma “receita”, que explica como transformar a pergunta do usuário em um prompt de análise de dados. Em seguida, o Pyramid executa essa receita nos dados que você já conectou com segurança em sua instalação auto-hospedada, para que nenhum dado chegue ao LLM. Nós misturamos os resultados para apresentá-los a você em um formato visual de fácil compreensão. Essencialmente, nada que possa comprometer a sua segurança e privacidade é exposto ou sai da segurança do firewall da sua organização.

Para as organizações que procuram integrar o GenBI nas suas infraestruturas de dados existentes, como é o processo de implementação? Há algum pré-requisito ou preparação necessária?

O processo de implementação do Pyramid Analytics não poderia ser mais fácil ou rápido. Os usuários precisam de poucos pré-requisitos e preparações, e você pode colocar tudo em funcionamento em menos de uma hora. Você não precisa mover dados para uma nova estrutura ou alterar nada em sua estratégia de dados, porque o Pyramid consulta seus dados diretamente onde eles residem.

Também não há necessidade de explicar seus dados à solução ou de definir colunas. É tão simples quanto fazer upload de um conjunto de dados CSV ou conectar seu banco de dados SQL. O mesmo vale para qualquer banco de dados relacional de qualquer tipo. Leva apenas alguns minutos para conectar seus dados e você poderá fazer sua primeira pergunta segundos depois.

Dito isto, você pode ajustar a estrutura se quiser, como alterar o modelo de união ou redefinir colunas. Leva algum tempo e esforço, mas estamos falando de minutos, não de um projeto de desenvolvimento de meses. Nossos clientes muitas vezes ficam chocados com o fato de o Pyramid estar instalado e funcionando em seu data warehouse ou data lake clássico em cerca de cinco minutos.

Você também não precisa fazer perguntas muito específicas, precisas ou mesmo inteligentes para obter resultados poderosos. Você pode cometer erros de ortografia e usar frases incorretas, e o Pyramid irá desvendá-los e produzir uma resposta significativa e valiosa. O que você precisa é de algum conhecimento sobre os dados que está perguntando.

Olhando para o futuro, qual é a sua visão estratégica para a Pyramid Analytics nos próximos cinco anos? Como você vê a evolução de suas soluções para atender às novas demandas do mercado?

A próxima grande fronteira é o suporte a consultas escalonáveis ​​e altamente específicas. Os usuários estão ansiosos para poder fazer perguntas muito precisas, como perguntas sobre entidades personalizadas, e os LLMs ainda não conseguem produzir respostas inteligentes nesses casos, porque não têm esse tipo de visão detalhada sobre as especificidades do seu banco de dados.

Estamos enfrentando o desafio de como usar modelos de linguagem para perguntar sobre as especificidades de seus dados sem conectar instantaneamente todo o seu gigantesco data lake ao LLM. Como você ajusta seu LLM sobre dados que são reidratados a cada dois segundos? Podemos administrar isso para pontos fixos como países, locais e até datas, mas não para algo idiossincrático como nomes, embora estejamos muito próximos disso hoje.

Outro desafio é que os usuários possam fazer suas próprias interpretações matemáticas dos dados, aplicando suas próprias fórmulas. É difícil não porque a fórmula seja difícil de implementar, mas porque entender o que o usuário deseja e obter a sintaxe correta é um desafio. Estamos trabalhando para resolver esses dois desafios e, quando o fizermos, teremos ultrapassado o próximo ponto eureka.

Obrigado pela ótima entrevista, os leitores que desejam saber mais devem visitar Análise de pirâmide.

Sócio fundador da unite.AI e membro do Conselho de Tecnologia da Forbes, Antoine é um futurista que é apaixonado pelo futuro da IA ​​e da robótica.

Ele também é o fundador da Valores Mobiliários.io, um site que foca em investir em tecnologia disruptiva.