Omri Kohl, CEO en mede-oprichter van Pyramid Analytics – Interviewreeks

Omri Kohl is de CEO en mede-oprichter van Pyramid Analytics. Het Pyramid Decision Intelligence Platform levert datagedreven inzichten voor iedereen om sneller en intelligenter beslissingen te nemen. Hij leidt de strategie en operaties van het bedrijf in een snelgroeiende markt voor data en analytics. Kohl heeft een diep begrip van analytics en AI-technologieën, waardevolle managementervaring en een natuurlijke aanleg om conventioneel denken uit te dagen. Kohl is een ervaren ondernemer met een bewezen trackrecord in het ontwikkelen en beheren van snelgroeiende bedrijven. Hij studeerde economie, financiën en bedrijfsmanagement aan de Bar-Ilan University en heeft een MBA in International Business Management van de New York University, Leonard N. Stern School of Business.

Kunt u beginnen met het uitleggen van wat GenBI is en hoe het Generative AI integreert met business intelligence om beslissingsprocessen te verbeteren?

GenBI is het kader en de mechanismen om de kracht van GenAI, LLM’s en algemene AI in analytics, business intelligence en besluitvorming te brengen.

Op dit moment is het niet praktisch om GenAI alleen te gebruiken om inzichten uit datasets te halen. Het kan meer dan een week duren om genoeg data naar uw GenAI-hulpmiddel te uploaden om betekenisvolle resultaten te krijgen. Dat is eenvoudigweg niet haalbaar, omdat bedrijfsgegevens te dynamisch en te gevoelig zijn om op deze manier te worden gebruikt. Met GenBI kan iedereen waardevolle inzichten uit hun gegevens halen, door alleen maar een vraag in natuurlijke taal te stellen en de resultaten te zien in de vorm van een BI-dashboard. Het duurt slechts 30 seconden om een relevante, bruikbare antwoord te krijgen.

Wat zijn de belangrijkste technologische innovaties achter GenBI die het mogelijk maken om complexe business intelligence-taken via natuurlijke taal te begrijpen en uit te voeren?

Nou, zonder al onze geheimen te onthullen, zijn er eigenlijk drie componenten. Ten eerste geeft GenBI LLM’s alle elementen die nodig zijn om de correcte analytische stappen te produceren die de gevraagde inzichten zullen opleveren. Dit is wat het de gebruiker mogelijk maakt om vragen te stellen met behulp van natuurlijke taal en zelfs in vage termen, zonder precies te weten welk type grafiek, onderzoek of formaat te verzoeken.

Vervolgens past de Pyramid Analytics GenBI-oplossing deze stappen toe op de gegevens van uw bedrijf, ongeacht de specifieke details van uw situatie. We hebben het over de meest basale datasets en eenvoudige queries, tot de meest geavanceerde use cases en complexe databases.

Ten slotte kan Pyramid deze queries uitvoeren op de onderliggende gegevens en de resultaten manipuleren op het vliegtuig. Een LLM alleen kan geen diepe analyse uitvoeren op een database. U hebt een robot-element nodig om alle benodigde informatie te vinden, de gebruikersaanvraag te interpreteren om inzichten te produceren en deze door te geven aan het BI-platform om de resultaten te articuleren, hetzij in gewone taal of als een dynamische visualisatie die later kan worden verfijnd via follow-up queries.

Hoe democratiseert GenBI data-analyse, vooral voor niet-technische gebruikers?

Eenvoudig gezegd, GenBI stelt iedereen in staat om toegang te krijgen tot de inzichten die ze nodig hebben, ongeacht hun niveau van expertise. Traditionele BI-hulpmiddelen vereisen dat de gebruiker weet welke gegevensmanipulatietechniek het beste is om de benodigde resultaten te krijgen. Maar de meeste mensen denken niet in taartdiagrammen, spreidingsdiagrammen of tabellen. Ze willen niet hoeven te werken uit welke visualisatie het meest effectief is voor hun situatie – ze willen alleen antwoorden op hun vragen.

GenBI levert deze antwoorden aan iedereen, ongeacht hun expertise. De gebruiker hoeft niet alle professionele termen te kennen of te weten hoe hij database-queries moet schrijven. Ze kunnen gegevens verkennen door hun eigen woorden te gebruiken in een natuurlijk gesprek.

We denken hierbij aan het verschil tussen het gebruik van een papieren kaart om uw route te plannen en het gebruik van Google Maps of een andere navigatie-app. Met een traditionele kaart moet u de beste wegen kiezen, nadenken over mogelijke verkeersopstoppingen en verschillende route-opties vergelijken. Tegenwoordig voeren mensen gewoon hun bestemming in in de app en gaan ze op weg – er is zo veel vertrouwen in de algoritmes dat niemand de voorgestelde route in twijfel trekt. We zouden graag willen denken dat GenBI hetzelfde soort geautomatiseerde magie naar bedrijfsgegevens brengt.

Wat is de feedback van vroege adoptanten over de gebruiksvriendelijkheid en de leercurve?

We hebben overweldigend positieve feedback ontvangen. De beste manier waarop we het kunnen samenvatten is: “Wow!” Gebruikers en testers waarderen de gebruiksvriendelijkheid, krachtige functies en betekenisvolle inzichten van Pyramid.

Pyramid Analytics heeft vrijwel geen leercurve, dus er is niets dat mensen tegenhoudt om het meteen te adopteren. Ongeveer driekwart van alle business-teams die onze oplossing hebben getest, hebben het geadopteerd en gebruiken het vandaag, omdat het zo gemakkelijk en effectief is.

Kunt u vertellen hoe GenBI beslissingsprocessen binnen organisaties heeft getransformeerd die het hebben geïmplementeerd? Zijn er specifieke casestudies of voorbeelden?

Hoewel we het al een lange tijd ontwikkelen, hebben we GenBI pas een paar weken geleden uitgerold, dus ik denk dat u begrijpt dat we nog geen volledige casestudies hebben die we kunnen delen, of klantvoorbeelden die we kunnen noemen. Ik kan u echter vertellen dat organisaties met duizenden gebruikers nu echt datagedreven worden, omdat iedereen toegang heeft tot inzichten. Gebruikers kunnen nu de waarde van al hun gegevens ontgrendelen.

GenBI heeft een transformatief effect op industrieën zoals verzekeringen, banken en financiën, evenals detailhandel, fabricage en vele andere verticale markten. Het is nu mogelijk voor financiële adviseurs, bijvoorbeeld, om toegang te krijgen tot instant-suggesties over de beste manier om een klantportefeuille te optimaliseren.

Wat zijn enkele van de grootste uitdagingen die u bent tegengekomen bij de ontwikkeling van GenBI, en hoe hebt u ze overwonnen?

Pyramid Analytics maakte al jarenlang gebruik van AI voor analytics voordat we de nieuwe oplossing lanceerden, dus de meeste uitdagingen zijn allang uit de weg geruimd.

Het belangrijkste nieuwe element is de toevoeging van een geavanceerde query-generatietechnologie die werkt met elke LLM om accurate resultaten te produceren, terwijl de gegevens privé blijven. We hebben dit bereikt door de gegevens los te koppelen van de query (meer hierover in een moment).

Een andere grote uitdaging die we moesten aanpakken, was die van snelheid. We hebben het over de Google-tijdperk, waarin mensen antwoorden verwachten, niet over een uur of zelfs een half uur. We hebben ervoor gezorgd dat de verwerking is versneld en alle workflows zijn geoptimaliseerd om wrijving te verminderen.

Vervolgens is er de noodzaak om hallucinaties te voorkomen. Chatbots zijn gevoelig voor hallucinaties die resultaten vertekenen en de betrouwbaarheid ondermijnen. We hebben hard gewerkt om die te vermijden, terwijl we toch dynamische resultaten behouden.

Hoe gaat u om met kwesties die verband houden met gegevensbeveiliging en -privacy?

Dat is een geweldige vraag, omdat gegevensprivacy en -beveiliging de grootste obstakels zijn voor succesvolle GenAI-analyse. Iedereen is terecht bezorgd over het idee om zeer gevoelige bedrijfsgegevens bloot te stellen aan derde AI-motoren, maar ze willen ook de taalinterpretatiecapaciteiten en gegevensinzichten die deze motoren kunnen leveren.

Daarom delen we nooit daadwerkelijke gegevens met de LLM’s waarmee we werken. Pyramid keert het hele principe om door als tussenpersoon te fungeren tussen de informatie van uw bedrijf en de LLM. We stellen u in staat om het verzoek in te dienen en geven het vervolgens door aan de LLM, samen met beschrijvingen van wat we “ingrediënten” noemen, eigenlijk alleen metadata.

De LLM retourneert vervolgens een “recept”, dat uitlegt hoe u de vraag van de gebruiker kunt omzetten in een dataprompt voor analytics. Vervolgens voert Pyramid dit recept uit op de gegevens die u al hebt verbonden op uw zelfgehoste installatie, zodat geen enkele gegevens ooit de LLM bereiken. We combineren de resultaten om ze terug te sturen naar u in een gemakkelijk te begrijpen, visuele indeling. Eigenlijk wordt niets dat uw beveiliging en privacy in gevaar kan brengen, blootgesteld of verlaat het de veiligheid van het netwerk van uw organisatie.

Wat is het implementatieproces voor organisaties die GenBI in hun bestaande data-infrastructuur willen integreren? Zijn er voorbereidingen of voorwaarden nodig?

Het implementatieproces voor Pyramid Analytics kan niet eenvoudiger of sneller zijn. Gebruikers hebben slechts enkele voorwaarden en voorbereidingen nodig, en u kunt het hele proces in minder dan een uur uitvoeren. U hoeft geen gegevens naar een nieuw kader te verplaatsen of iets aan uw gegevensstrategie te veranderen, omdat Pyramid rechtstreeks uw gegevens waar ze zich bevinden, ondervraagt.

Er is ook geen noodzaak om uw gegevens uit te leggen aan de oplossing of om kolommen te definiëren. Het is zo eenvoudig als het uploaden van een CSV-gegevensbestand of het verbinden van uw SQL-database. Hetzelfde geldt voor elke relationele database van welke aard dan ook. Het duurt slechts een paar minuten om uw gegevens te verbinden, en vervolgens kunt u uw eerste vraag stellen enkele seconden later.

Dat gezegd hebbende, kunt u de structuur aanpassen als u dat wilt, zoals het wijzigen van het join-model of het opnieuw definiëren van kolommen. Het kost enige tijd en moeite, maar we hebben het over minuten, niet over een maandenlang ontwikkelingsproject. Onze klanten zijn vaak verbaasd dat Pyramid binnen vijf minuten of zo op hun klassieke datawarehouse of data-lake werkt.

U hoeft ook niet zeer specifieke, accurate of zelfs intelligente vragen te stellen om krachtige resultaten te krijgen. U kunt spelfouten maken en onjuiste formuleringen gebruiken, en Pyramid zal ze ontwarren en een betekenisvol en waardevol antwoord produceren. Wat u nodig hebt, is enige kennis over de gegevens waar u naar vraagt.

Kunt u een blik werpen op uw strategische visie voor Pyramid Analytics in de komende vijf jaar? Hoe ziet u uw oplossingen evolueren om te voldoen aan veranderende marktvragen?

De volgende grote frontier is het ondersteunen van schaalbare, zeer specifieke queries. Gebruikers willen in staat zijn om zeer precieze vragen te stellen, zoals vragen over gepersonaliseerde entiteiten, en LLM’s kunnen nog geen intelligente antwoorden produceren in deze gevallen, omdat ze geen diepgaand inzicht hebben in de specifieke details van uw database.

We staan voor de uitdaging om te zien hoe we taalmodellen kunnen gebruiken om naar de specifieke details van uw gegevens te vragen zonder uw hele, gigantische data-lake onmiddellijk te koppelen aan de LLM. Hoe kunt u uw LLM fine-tunen over gegevens die elke twee seconden opnieuw worden gehydrateerd? We kunnen dit beheren voor vaste punten zoals landen, locaties en zelfs datums, maar niet voor iets idiosyncratisch als namen, hoewel we hier vandaag al heel dichtbij zijn.

Een andere uitdaging is dat gebruikers hun eigen wiskundige interpretaties van de gegevens moeten kunnen vragen, door hun eigen formules toe te passen. Het is moeilijk, niet omdat de formule moeilijk is om uit te voeren, maar omdat het begrijpen van wat de gebruiker wil en het krijgen van de juiste syntaxis, uitdagend is. We werken aan het oplossen van beide uitdagingen, en wanneer we dat doen, zullen we het volgende eureka-punt zijn gepasseerd.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Pyramid Analytics bezoeken.