Omri Kohl, PDG et co-fondateur de Pyramid Analytics – Série d'entretiens

Omri Kohl est le PDG et co-fondateur de Analytique pyramidale. La plateforme Pyramid Decision Intelligence fournit des informations basées sur les données permettant à chacun de prendre des décisions plus rapides et plus intelligentes. Il dirige la stratégie et les opérations de l'entreprise sur un marché des données et de l'analyse en croissance rapide. Kohl apporte une compréhension approfondie des technologies d’analyse et d’IA, une expérience précieuse en gestion et une capacité naturelle à remettre en question la pensée conventionnelle. Kohl est un entrepreneur très expérimenté qui a fait ses preuves dans le développement et la gestion d'entreprises à croissance rapide. Il a étudié l'économie, la finance et la gestion d'entreprise à l'Université Bar-Ilan et est titulaire d'un MBA en gestion des affaires internationales de l'Université de New York, Leonard N. Stern School of Business.

Pourriez-vous commencer par expliquer ce qu'est GenBI et comment il intègre l'IA générative à la business intelligence pour améliorer les processus décisionnels ?

GenBI est le cadre ​et les mécanismes ​pour intégrer la puissance de ​GenAI, des LLM ​et de l'IA générale​ dans l'analyse, la ​business intelligence ​et la prise de décision​.

À l’heure actuelle, il n’est pas pratique d’utiliser GenAI seul pour accéder aux informations sur les ensembles de données. Cela peut prendre plus d'une semaine pour télécharger suffisamment de données sur votre outil GenAI afin d'obtenir des résultats significatifs. Ce n’est tout simplement pas réalisable, car les données commerciales sont trop dynamiques et trop sensibles pour être utilisées de cette manière. Avec GenBI, n'importe qui peut extraire des informations précieuses de ses données, simplement en posant une question en langage naturel et en voyant les résultats sous la forme d'un tableau de bord BI. Il ne faut que 30 secondes pour recevoir une réponse pertinente et utile.

Quelles sont les principales innovations technologiques derrière GenBI qui lui permettent de comprendre et d’exécuter des tâches complexes de business intelligence via le langage naturel ?

Eh bien, sans dévoiler tous nos secrets, il y a essentiellement trois éléments. Tout d’abord, GenBI fournit aux LLM tous les éléments dont ils ont besoin pour produire les étapes analytiques correctes qui produiront les informations demandées. C'est ce qui permet à l'utilisateur de former des requêtes en langage naturel et même en termes vagues, sans savoir exactement quel type de graphique, d'enquête ou de format demander.

Ensuite, la solution Pyramid Analytics GenBI applique ces étapes aux données de votre entreprise, quelles que soient les spécificités de votre situation. Nous parlons des ensembles de données et des requêtes les plus élémentaires, jusqu'aux cas d'utilisation les plus sophistiqués et aux bases de données complexes.

Troisièmement, Pyramid peut effectuer ces requêtes sur les données sous-jacentes et manipuler les résultats à la volée. Un LLM seul ne peut pas produire une analyse approfondie d’une base de données. Vous avez besoin d'un élément robot pour trouver toutes les informations nécessaires, interpréter la demande de l'utilisateur pour produire des informations et les transmettre à la plateforme BI pour articuler les résultats soit en langage simple, soit sous forme de visualisation dynamique qui peut ensuite être affinée grâce au suivi. requêtes.

Comment GenBI démocratise-t-il l’analyse de données, notamment pour les utilisateurs non techniques ?

En termes simples, GenBI permet à chacun d’accéder aux informations dont il a besoin, quel que soit son niveau d’expertise. Les outils de BI traditionnels exigent que l'utilisateur sache quelle est la meilleure technique de manipulation des données pour obtenir les résultats nécessaires. Mais la plupart des gens ne réfléchissent pas sous forme de diagrammes circulaires, de nuages ​​de points ou de tableaux. Ils ne veulent pas avoir à déterminer quelle visualisation est la plus efficace pour leur situation – ils veulent juste des réponses à leurs questions.

GenBI apporte ces réponses à chacun, quelle que soit son expertise. L'utilisateur n'a pas besoin de connaître tous les termes professionnels ni de déterminer si un diagramme de dispersion ou un diagramme circulaire est la meilleure option, et il n'a pas non plus besoin de savoir comment coder les requêtes de base de données. Ils peuvent explorer les données en utilisant leurs propres mots dans une conversation naturelle.

Nous considérons cela comme la différence entre l'utilisation d'une carte papier pour planifier votre itinéraire et l'utilisation de Google Maps ou d'une autre application de navigation. Avec une carte traditionnelle, vous devez déterminer les meilleures routes à emprunter, réfléchir aux embouteillages potentiels et comparer différentes possibilités d'itinéraire. Aujourd'hui, les gens indiquent simplement leur destination dans l'application et prennent la route. Les algorithmes font tellement confiance que personne ne remet en question l'itinéraire suggéré. Nous aimerions penser que GenBI apporte le même genre de magie automatisée aux ensembles de données d'entreprise.

Quels ont été les retours des premiers utilisateurs concernant la facilité d’utilisation et la courbe d’apprentissage ?

Nous avons reçu des retours extrêmement positifs. La meilleure façon de résumer la situation est : « Wow ! » Les utilisateurs et les testeurs apprécient grandement la facilité d'utilisation, les fonctionnalités puissantes et les informations significatives de Pyramid.

Pyramid Analytics n'a pratiquement aucune courbe d'apprentissage, donc rien n'empêche les gens de l'adopter sur-le-champ. Environ les trois quarts de toutes les équipes métiers qui ont testé notre solution l'ont adoptée et l'utilisent aujourd'hui, car elle est très simple et efficace.

Pouvez-vous nous dire comment GenBI a transformé les processus décisionnels au sein des organisations qui l’ont mis en œuvre ? Des études de cas ou des exemples spécifiques ?

Bien que nous le développions depuis longtemps, nous n'avons déployé GenBI qu'il y a quelques semaines. Vous comprendrez donc sûrement que nous n'avons pas encore d'études de cas complètes que nous puissions partager, ni de clients. des exemples que nous pouvons citer. Cependant, je peux vous dire que les organisations qui comptent des milliers d’utilisateurs deviennent soudainement véritablement axées sur les données, car tout le monde peut accéder aux informations. Les utilisateurs peuvent désormais libérer la vraie valeur de toutes leurs données.

GenBI a un effet transformateur sur des secteurs tels que l’assurance, la banque et la finance, ainsi que sur le commerce de détail, l’industrie manufacturière et bien d’autres secteurs verticaux. Il est désormais possible pour les conseillers financiers, par exemple, de bénéficier de suggestions instantanées sur la meilleure façon d'optimiser le portefeuille d'un client.

Quels sont les plus grands défis que vous avez rencontrés lors du développement de GenBI, et comment les avez-vous surmontés ?

Pyramid Analytics exploitait déjà l'IA pour l'analyse depuis de nombreuses années avant le lancement de la nouvelle solution. La plupart des défis ont donc été résolus depuis longtemps.

La principale nouveauté est l'ajout d'une technologie sophistiquée de génération de requêtes qui fonctionne avec n'importe quel LLM pour produire des résultats précis, tout en préservant la confidentialité des données. Nous avons accompli cela en dissociant les données de la requête (nous y reviendrons dans un instant).

Un autre grand défi auquel nous avons dû faire face était celui de la vitesse. Nous parlons de l'ère de Google, où les gens attendent des réponses maintenant, et non dans une heure ou même une demi-heure. Nous nous sommes assurés d’accélérer le traitement et d’optimiser tous les flux de travail pour réduire les frictions.

Ensuite, il faut prévenir les hallucinations. Les chatbots sont sujets à des hallucinations qui faussent les résultats et nuisent à la fiabilité. Nous avons travaillé dur pour éviter cela tout en conservant des résultats dynamiques.

Comment gérez-vous les problèmes liés à la sécurité et à la confidentialité des données ?

C'est une excellente question, car la confidentialité et la sécurité des données constituent le plus grand obstacle à une analyse GenAI réussie. Tout le monde est – à juste titre – préoccupé par l’idée d’exposer des données d’entreprise hautement sensibles à des moteurs d’IA tiers, mais ils souhaitent également bénéficier des capacités d’interprétation du langage et des informations sur les données que ces moteurs peuvent offrir.

C'est pourquoi nous ne partageons jamais de données réelles avec les LLM avec lesquels nous travaillons. Pyramid renverse toute la situation en servant d'intermédiaire entre les informations de votre entreprise et le LLM. Nous vous permettons de soumettre la demande, puis nous la remettons au LLM avec des descriptions de ce que nous appelons les « ingrédients », essentiellement les métadonnées.

Le LLM renvoie ensuite une « recette » qui explique comment transformer la question de l'utilisateur en invite d'analyse de données. Pyramid exécute ensuite cette recette sur les données que vous avez déjà connectées en toute sécurité sur votre installation auto-hébergée, afin qu'aucune donnée n'atteigne jamais le LLM. Nous mélangeons les résultats pour vous les renvoyer dans un format visuel facilement compréhensible. Essentiellement, rien de ce qui pourrait compromettre votre sécurité et votre confidentialité n'est exposé ou ne sort de la sécurité du pare-feu de votre organisation.

Pour les organisations cherchant à intégrer GenBI dans leurs infrastructures de données existantes, à quoi ressemble le processus de mise en œuvre ? Y a-t-il des prérequis ou des préparations nécessaires ?

Le processus de mise en œuvre de Pyramid Analytics ne pourrait être plus simple ni plus rapide. Les utilisateurs ont besoin de très peu de prérequis et de préparations, et vous pouvez tout mettre en œuvre en moins d’une heure. Vous n'avez pas besoin de déplacer les données dans un nouveau cadre ni de modifier quoi que ce soit dans votre stratégie de données, car Pyramid interroge vos données directement là où elles résident.

Il n'est pas non plus nécessaire d'expliquer vos données à la solution ou de définir des colonnes. C'est aussi simple que de télécharger un ensemble de données CSV ou de connecter votre base de données SQL. Il en va de même pour toute base de données relationnelle, quelle qu'elle soit. La connexion de vos données ne prend que quelques minutes, et vous pourrez ensuite poser votre première question quelques secondes plus tard.

Cela dit, vous pouvez modifier la structure si vous le souhaitez, comme changer le modèle de jointure ou redéfinir les colonnes. Cela prend du temps et des efforts, mais nous parlons de quelques minutes et non d'un projet de développement de plusieurs mois. Nos clients sont souvent choqués de constater que Pyramid est opérationnel sur leur entrepôt de données classique ou leur lac de données en cinq minutes environ.

Vous n’avez pas non plus besoin de poser des questions très spécifiques, précises ou même intelligentes pour obtenir des résultats percutants. Vous pouvez faire des fautes d’orthographe et utiliser une formulation incorrecte, et Pyramid les résoudra et produira une réponse significative et précieuse. Ce dont vous avez besoin, c'est d'une certaine connaissance des données que vous demandez.

Pour l’avenir, quelle est votre vision stratégique pour Pyramid Analytics pour les cinq prochaines années ? Comment voyez-vous vos solutions évoluer pour répondre aux demandes changeantes du marché ?

La prochaine grande frontière consiste à prendre en charge des requêtes évolutives et hautement spécifiques. Les utilisateurs sont impatients de pouvoir poser des questions très précises, telles que des questions sur des entités personnalisées, et les LLM ne peuvent pas encore produire de réponses intelligentes dans ces cas-là, car ils ne disposent pas de ce type d'informations détaillées sur les spécificités de votre base de données.

Nous sommes confrontés au défi de savoir comment utiliser des modèles de langage pour poser des questions sur les spécificités de vos données sans connecter instantanément l'intégralité de votre gigantesque lac de données au LLM. Comment affiner votre LLM sur les données qui sont réhydratées toutes les deux secondes ? Nous pouvons gérer cela pour des points fixes comme les pays, les lieux et même les dates, mais pas pour quelque chose d'idiosyncrasique comme les noms, même si nous en sommes très proches aujourd'hui.

Un autre défi consiste pour les utilisateurs à pouvoir demander leurs propres interprétations mathématiques des données, en appliquant leurs propres formules. C'est difficile non pas parce que la formule est difficile à appliquer, mais parce que comprendre ce que veut l'utilisateur et obtenir la syntaxe correcte est un défi. Nous travaillons à résoudre ces deux défis, et lorsque nous y parviendrons, nous aurons dépassé le prochain point Eurêka.

Merci pour cette excellente interview, les lecteurs qui souhaitent en savoir plus devraient visiter Analytique pyramidale.