Omri Kohl, PDG et co-fondateur de Pyramid Analytics – Série d’entretiens

Omri Kohl est le PDG et co-fondateur de Pyramid Analytics. La plate-forme d’intelligence décisionnelle Pyramid livre des informations basées sur les données pour que chacun puisse prendre des décisions plus rapides et plus intelligentes. Il dirige la stratégie et les opérations de l’entreprise à travers un marché de données et d’analyse en pleine croissance. Kohl apporte une compréhension approfondie des technologies d’analyse et d’IA, une expérience de gestion précieuse et une capacité naturelle à remettre en question la pensée conventionnelle. Kohl est un entrepreneur très expérimenté avec un dossier éprouvé dans le développement et la gestion d’entreprises à croissance rapide. Il a étudié l’économie, la finance et la gestion d’entreprise à l’Université Bar-Ilan et a un MBA en gestion internationale des affaires de l’Université de New York, Leonard N. Stern School of Business.

Pouvez-vous commencer par expliquer ce qu’est GenBI et comment il intègre l’IA générative avec l’intelligence d’affaires pour améliorer les processus de prise de décision ?

GenBI est le cadre et les mécanismes pour apporter le pouvoir de l’IA générative, des LLM et de l’IA générale dans l’analyse, l’intelligence d’affaires et la prise de décision.

Actuellement, il n’est pas pratique d’utiliser l’IA générative seule pour accéder à des informations sur les ensembles de données. Cela peut prendre plus d’une semaine pour télécharger suffisamment de données sur votre outil d’IA générative pour obtenir des résultats significatifs. Ce n’est simplement pas réalisable, car les données d’entreprise sont trop dynamiques et trop sensibles pour être utilisées de cette manière. Avec GenBI, n’importe qui peut extraire des informations précieuses de ses données, simplement en posant une question en langage naturel et en voyant les résultats sous forme de tableau de bord d’analyse d’affaires. Il suffit de 30 secondes pour recevoir une réponse pertinente et utile.

Quelles sont les principales innovations technologiques derrière GenBI qui lui permettent de comprendre et d’exécuter des tâches d’intelligence d’affaires complexes à l’aide d’un langage naturel ?

Eh bien, sans révéler tous nos secrets, il y a essentiellement trois composants. Premièrement, GenBI invite les LLM à produire les étapes analytiques correctes qui produiront l’information demandée. C’est ce qui permet à l’utilisateur de formuler des requêtes en langage naturel, même de manière vague, sans savoir exactement quel type de graphique, d’enquête ou de format demander.

Ensuite, la solution GenBI de Pyramid Analytics applique ces étapes aux données de votre entreprise, quelle que soit la spécificité de votre situation. Nous parlons des ensembles de données les plus basiques et des requêtes les plus simples, ainsi que des cas d’utilisation les plus sophistiqués et des bases de données les plus complexes.

Troisièmement, Pyramid peut exécuter ces requêtes sur les données sous-jacentes et manipuler les résultats en temps réel. Un LLM seul ne peut pas produire une analyse approfondie sur une base de données. Vous avez besoin d’un élément robotique pour trouver toutes les informations nécessaires, interpréter la demande de l’utilisateur pour produire des informations, et la transmettre à la plate-forme d’analyse d’affaires pour articuler les résultats soit en langage clair, soit sous forme de visualisation dynamique qui peut être affinée par la suite grâce à des requêtes de suivi.

Comment GenBI démocratise-t-il l’analyse de données, en particulier pour les utilisateurs non techniques ?

Très simplement, GenBI permet à n’importe qui d’accéder aux informations dont il a besoin, quel que soit son niveau d’expertise. Les outils d’analyse d’affaires traditionnels exigent que l’utilisateur sache quelle est la meilleure technique de manipulation de données pour obtenir les résultats nécessaires. Mais la plupart des gens ne pensent pas en termes de graphiques circulaires, de graphiques de dispersion ou de tableaux. Ils ne veulent pas avoir à déterminer quel type de visualisation est le plus efficace pour leur situation – ils veulent simplement des réponses à leurs questions.

GenBI fournit ces réponses à n’importe qui, quel que soit son niveau d’expertise. L’utilisateur n’a pas besoin de connaître tous les termes professionnels ou de déterminer si un graphique de dispersion ou un graphique circulaire est la meilleure option, et il n’a pas besoin de savoir comment coder des requêtes de base de données. Il peut explorer les données en utilisant ses propres mots dans une conversation naturelle.

Nous pensons que c’est la différence entre utiliser une carte papier pour planifier votre itinéraire et utiliser Google Maps ou une autre application de navigation. Avec une carte traditionnelle, vous devez déterminer les meilleures routes à emprunter, réfléchir aux embouteillages potentiels et comparer les différentes possibilités de routes. Aujourd’hui, les gens entrent simplement leur destination dans l’application et partent – il y a tellement de confiance dans les algorithmes que personne ne remet en question l’itinéraire suggéré. Nous aimerions penser que GenBI apporte la même magie automatisée aux ensembles de données d’entreprise.

Quels sont les commentaires des premiers utilisateurs sur la facilité d’utilisation et la courbe d’apprentissage ?

Nous avons reçu des commentaires extrêmement positifs. La meilleure façon de les résumer est : « Wow ! » Les utilisateurs et les testeurs apprécient beaucoup la facilité d’utilisation de Pyramid, ses fonctionnalités puissantes et les informations significatives qu’il fournit.

Pyramid Analytics a pratiquement zéro courbe d’apprentissage, il n’y a donc rien qui empêche les gens de l’adopter sur-le-champ. Environ trois quarts de toutes les équipes commerciales qui ont testé notre solution l’ont adoptée et l’utilisent aujourd’hui, car elle est si facile et efficace.

Pouvez-vous partager comment GenBI a transformé les processus de prise de décision au sein des organisations qui l’ont mis en œuvre ? Y a-t-il des études de cas spécifiques ou des exemples ?

Bien que nous l’ayons développé depuis longtemps, nous venons de lancer GenBI il y a quelques semaines, je suis donc sûr que vous comprendrez que nous n’avons pas encore d’études de cas complètes que nous pouvons partager, ou d’exemples de clients que nous pouvons nommer. Cependant, je peux vous dire que les organisations qui comptent des milliers d’utilisateurs deviennent soudainement vraiment axées sur les données, car tout le monde peut accéder aux informations. Les utilisateurs peuvent maintenant débloquer la véritable valeur de toutes leurs données.

GenBI a un effet transformateur sur des secteurs tels que l’assurance, la banque, la finance, ainsi que le détail, la fabrication et de nombreux autres secteurs verticaux. Soudain, il est possible pour les conseillers financiers, par exemple, de taper dans des suggestions instantanées sur la meilleure façon d’optimiser le portefeuille d’un client.

Quels sont les plus grands défis que vous avez rencontrés lors du développement de GenBI, et comment les avez-vous surmontés ?

Pyramid Analytics utilisait déjà l’IA pour l’analyse depuis de nombreuses années avant que nous ne lancions la nouvelle solution, les défis ont donc été résolus il y a longtemps.

Le principal nouvel élément est l’ajout d’une technologie de génération de requêtes sophistiquée qui fonctionne avec n’importe quel LLM pour produire des résultats précis, tout en gardant les données privées. Nous avons accompli cela en déconnectant les données de la requête (plus d’informations à ce sujet dans un instant).

Un autre grand défi que nous avons dû relever était celui de la vitesse. Nous parlons de l’ère Google, où les gens s’attendent à des réponses maintenant, et non dans une heure ou même une demi-heure. Nous nous sommes assurés d’accélérer le traitement et d’optimiser tous les flux de travail pour réduire les frictions.

Ensuite, il y a le besoin d’empêcher l’hallucination. Les chatbots sont sujets à des hallucinations qui faussent les résultats et sapent la fiabilité. Nous avons travaillé dur pour éviter celles-ci tout en maintenant des résultats dynamiques.

Comment gérez-vous les problèmes liés à la sécurité et à la confidentialité des données ?

C’est une excellente question, car la confidentialité et la sécurité des données constituent le plus grand obstacle à une analyse d’IA générative réussie. Tout le monde est – à juste titre – préoccupé par l’idée d’exposer des données d’entreprise hautement sensibles à des moteurs d’IA tiers, mais ils veulent également les capacités d’interprétation du langage et les informations que ces moteurs peuvent livrer.

C’est pourquoi nous ne partageons jamais de données réelles avec les LLM avec lesquels nous travaillons. Pyramid inverse complètement le principe en servant d’intermédiaire entre les informations de votre entreprise et le LLM. Nous vous permettons de soumettre la demande, puis nous la transmettons au LLM avec des descriptions de ce que nous appelons les « ingrédients », essentiellement des métadonnées.

Le LLM retourne ensuite une « recette » qui explique comment transformer la question de l’utilisateur en une invite d’analyse de données. Ensuite, Pyramid exécute cette recette sur les données que vous avez déjà connectées de manière sécurisée sur votre installation autonome, de sorte qu’aucune donnée ne parvienne jamais au LLM. Nous mélangons les résultats pour les vous servir dans un format visuellement compréhensible. Essentiellement, rien qui pourrait compromettre votre sécurité et votre confidentialité n’est exposé ou ne quitte la sécurité du pare-feu de votre organisation.

Pour les organisations qui souhaitent intégrer GenBI dans leurs infrastructures de données existantes, à quoi ressemble le processus de mise en œuvre ? Y a-t-il des prérequis ou des préparatifs nécessaires ?

Le processus de mise en œuvre de Pyramid Analytics ne pourrait pas être plus simple ou plus rapide. Les utilisateurs ont besoin de très peu de prérequis et de préparatifs, et vous pouvez tout mettre en œuvre en moins d’une heure. Vous n’avez pas besoin de déplacer des données dans un nouveau cadre ou de modifier quoi que ce soit dans votre stratégie de données, car Pyramid interroge vos données directement là où elles résident.

Il n’y a pas non plus besoin d’expliquer vos données à la solution, ou de définir des colonnes. Il suffit de télécharger un ensemble de données CSV ou de connecter votre base de données SQL. C’est la même chose pour toute base de données relationnelle de quelque type que ce soit. Il ne faut que quelques minutes pour connecter vos données, puis vous pouvez poser votre première question quelques secondes plus tard.

Cela étant dit, vous pouvez ajuster la structure si vous le souhaitez, comme modifier le modèle de jointure ou rédéfinir les colonnes. Cela prend un peu de temps et d’efforts, mais nous parlons de minutes, et non d’un projet de développement qui dure des mois. Nos clients sont souvent choqués que Pyramid soit opérationnel sur leur entrepôt de données classique ou leur lac de données en cinq minutes environ.

Vous n’avez pas non plus besoin de formuler des questions très spécifiques, précises ou même intelligentes pour obtenir des résultats puissants. Vous pouvez faire des erreurs d’orthographe et utiliser une formulation incorrecte, et Pyramid dénouera tout et produira une réponse significative et précieuse. Ce que vous avez besoin de savoir, c’est un peu de choses sur les données que vous interrogez.

En regardant vers l’avenir, quelle est votre vision stratégique pour Pyramid Analytics au cours des cinq prochaines années ? Comment voyez-vous vos solutions évoluer pour répondre aux demandes changeantes du marché ?

La prochaine grande frontière est de prendre en charge des requêtes très spécifiques et évolutives. Les utilisateurs sont impatients de pouvoir poser des questions très précises, comme des questions sur des entités personnalisées, et les LLM ne peuvent pas encore produire des réponses intelligentes dans ces cas, car ils n’ont pas ce type d’informations détaillées sur vos bases de données.

Nous sommes confrontés au défi de savoir comment utiliser les modèles de langage pour interroger les spécificités de vos données sans connecter instantanément votre ensemble de données géant à un LLM. Comment affinez-vous votre LLM sur des données qui sont réhydratées toutes les deux secondes ? Nous pouvons gérer cela pour des points fixes comme les pays, les emplacements et même les dates, mais pas pour quelque chose d’idiosyncratique comme les noms, même si nous sommes très proches de cela aujourd’hui.

Un autre défi est de permettre aux utilisateurs de poser leurs propres interprétations mathématiques des données, en appliquant leurs propres formules. C’est difficile, non pas parce que la formule est difficile à mettre en œuvre, mais parce que comprendre ce que l’utilisateur veut et obtenir la syntaxe correcte est un défi. Nous travaillons à résoudre ces deux défis, et lorsque nous le ferons, nous aurons franchi le prochain point d’eureka.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter Pyramid Analytics.