Omri Kohl, CEO & Co-Founder van Pyramid Analytics – Interview Serie

Omri Kohl is de CEO en mede-oprichter van Pyramid Analytics. Het Pyramid Decision Intelligence Platform levert data-gedreven inzichten voor iedereen om sneller en intelligentere beslissingen te nemen. Hij leidt de strategie en operaties van het bedrijf in een snel groeiende markt voor data en analytics. Kohl heeft een diep begrip van analytics- en AI-technologieën, waardevolle managementervaring en een natuurlijke aanleg om conventioneel denken uit te dagen. Kohl is een zeer ervaren ondernemer met een bewezen trackrecord in het ontwikkelen en beheren van snel groeiende bedrijven. Hij studeerde economie, financiën en bedrijfsmanagement aan de Bar-Ilan University en heeft een MBA in International Business Management van de New York University, Leonard N. Stern School of Business.

Kunt u beginnen met het uitleggen wat GenBI is, en hoe het Generative AI integreert met business intelligence om beslissingsprocessen te verbeteren?

GenBI is het kader en de mechanismen om de kracht van GenAI, LLM’s en algemene AI in analytics, business intelligence en besluitvorming te brengen.

Op dit moment is het niet praktisch om GenAI alleen te gebruiken om toegang te krijgen tot inzichten in datasets. Het kan meer dan een week duren om voldoende gegevens naar uw GenAI-hulpmiddel te uploaden om betekenisvolle resultaten te krijgen. Dat is eenvoudigweg niet haalbaar, omdat bedrijfsgegevens te dynamisch en te gevoelig zijn om op deze manier te worden gebruikt. Met GenBI kan iedereen waardevolle inzichten uit hun gegevens halen, door alleen maar een vraag te stellen in natuurlijke taal en de resultaten te zien in de vorm van een BI-dashboard. Het duurt slechts 30 seconden om een relevant en nuttig antwoord te krijgen.

Wat zijn de belangrijkste technologische innovaties achter GenBI die het mogelijk maken om complexe business intelligence-taken uit te voeren via natuurlijke taal?

Nou, zonder al onze geheimen te onthullen, zijn er eigenlijk drie componenten. Ten eerste geeft GenBI LLM’s alle elementen die nodig zijn om de correcte analytische stappen te produceren die de gevraagde inzichten zullen opleveren. Dit is wat het de gebruiker mogelijk maakt om vragen te stellen met natuurlijke taal en zelfs in vage termen, zonder precies te weten welk type grafiek, onderzoek of formaat aan te vragen.

Vervolgens past de Pyramid Analytics GenBI-oplossing deze stappen toe op de gegevens van uw bedrijf, ongeacht de specificaties van uw situatie. We hebben het over de meest basale datasets en eenvoudige queries, tot de meest geavanceerde use cases en complexe databases.

Ten derde kan Pyramid deze queries uitvoeren op de onderliggende gegevens en de resultaten rechtstreeks manipuleren. Een LLM alleen kan geen diepe analyse uitvoeren op een database. U hebt een robot-element nodig om alle benodigde informatie te vinden, de gebruikersaanvraag te interpreteren om inzichten te produceren en deze door te geven aan het BI-platform om de resultaten te articuleren, hetzij in gewone taal of als een dynamische visualisatie die later kan worden verfijnd via follow-up-queries.

Hoe democratiseert GenBI data-analyse, met name voor niet-technische gebruikers?

Eenvoudig gezegd, GenBI stelt iedereen in staat om toegang te krijgen tot de inzichten die ze nodig hebben, ongeacht hun niveau van expertise. Traditionele BI-hulpmiddelen vereisen dat de gebruiker weet welke gegevensmanipulatietechniek het beste is om de benodigde resultaten te krijgen. Maar de meeste mensen denken niet in taartdiagrammen, spreidingsdiagrammen of tabellen. Ze willen niet hoeven uit te zoeken welke visualisatie het meest effectief is voor hun situatie – ze willen alleen maar antwoorden op hun vragen.

GenBI levert deze antwoorden aan iedereen, ongeacht hun expertise. De gebruiker hoeft niet alle professionele termen te kennen of uit te zoeken of een spreidingsgrafiek of een taartdiagram de beste optie is, en ze hoeven niet te weten hoe ze database-queries moeten schrijven. Ze kunnen gegevens verkennen door hun eigen woorden te gebruiken in een natuurlijk gesprek.

We denken hierbij aan het verschil tussen het gebruik van een papieren kaart om uw route te plannen en het gebruik van Google Maps of een andere navigatie-app. Met een traditionele kaart moet u uitzoeken welke wegen u moet nemen, nadenken over mogelijke verkeersopstoppingen en verschillende route-opties vergelijken. Tegenwoordig voeren mensen gewoon hun bestemming in in de app en gaan ze op weg – er is zo veel vertrouwen in de algoritmes dat niemand de voorgestelde route in twijfel trekt. We zouden graag willen denken dat GenBI hetzelfde soort geautomatiseerde magie naar bedrijfsgegevens brengt.

Wat is de feedback van vroege adoptanten over de gebruiksvriendelijkheid en de leercurve?

We hebben overweldigend positieve feedback ontvangen. De beste manier waarop we het kunnen samenvatten, is: “Wow!” Gebruikers en testers waarderen zeer de gebruiksvriendelijkheid, krachtige functies en betekenisvolle inzichten van Pyramid.

Pyramid Analytics heeft vrijwel geen leercurve, dus er is niets dat mensen tegenhoudt om het meteen te gebruiken. Ongeveer driekwart van alle business-teams die onze oplossing hebben getest, heeft deze geadopteerd en gebruikt deze vandaag, omdat het zo eenvoudig en effectief is.

Kunt u delen hoe GenBI de beslissingsprocessen binnen organisaties die het hebben geïmplementeerd heeft getransformeerd? Zijn er specifieke casestudies of voorbeelden?

Hoewel we het al een lange tijd ontwikkelen, hebben we GenBI pas een paar weken geleden uitgerold, dus ik neem aan dat u begrijpt dat we nog geen volledig uitgewerkte casestudies hebben die we kunnen delen, of klantvoorbeelden die we kunnen noemen. Ik kan u echter vertellen dat organisaties met duizenden gebruikers plotseling echt data-gedreven worden, omdat iedereen toegang heeft tot inzichten. Gebruikers kunnen nu de ware waarde van al hun gegevens ontgrendelen.

GenBI heeft een transformatief effect op branches zoals verzekeringen, banken en financiën, evenals detailhandel, fabricage en vele andere verticale markten. Plotseling is het mogelijk voor financiële adviseurs, bijvoorbeeld, om toegang te krijgen tot instant-suggesties over de beste manier om een klantportefeuille te optimaliseren.

Wat zijn enkele van de grootste uitdagingen die u bent tegengekomen bij de ontwikkeling van GenBI, en hoe hebt u deze overwonnen?

Pyramid Analytics maakte al jaren gebruik van AI voor analytics voordat we de nieuwe oplossing lanceerden, dus de meeste uitdagingen zijn al lang geleden overwonnen.

Het belangrijkste nieuwe element is de toevoeging van een geavanceerde query-generatietechnologie die werkt met elke LLM om accurate resultaten te produceren, terwijl gegevens privé blijven. We hebben dit bereikt door de gegevens los te koppelen van de query (meer hierover in een moment).

Een andere grote uitdaging die we moesten aanpakken, was die van snelheid. We hebben het over de Google-tijdperk, waarin mensen antwoorden verwachten, nu, niet over een uur of zelfs een half uur. We hebben ervoor gezorgd dat de verwerking is versneld en alle workflows zijn geoptimaliseerd om wrijving te verminderen.

Dan is er de behoefte om hallucinaties te voorkomen. Chatbots zijn gevoelig voor hallucinaties die resultaten vertekenen en de betrouwbaarheid ondermijnen. We hebben hard gewerkt om deze te vermijden, terwijl we nog steeds dynamische resultaten behouden.

Hoe gaat u om met kwesties met betrekking tot gegevensbeveiliging en -privacy?

Dat is een geweldige vraag, omdat gegevensprivacy en -beveiliging de grootste obstakel zijn voor succesvolle GenAI-analyse. Iedereen is – terecht – bezorgd over het idee om hooggevoelige bedrijfsgegevens bloot te stellen aan derde AI-motoren, maar ze willen ook de taalinterpretatiecapaciteiten en gegevensinzichten die deze motoren kunnen bieden.

Daarom delen we nooit daadwerkelijke gegevens met de LLM’s waarmee we werken. Pyramid keert het hele concept om door te fungeren als een tussenpersoon tussen de gegevens van uw bedrijf en de LLM. We stellen u in staat om de aanvraag in te dienen en geven deze vervolgens door aan de LLM, samen met beschrijvingen van wat we “ingrediënten” noemen, eigenlijk alleen maar metadata.

De LLM retourneert vervolgens een “recept”, dat uitlegt hoe u de vraag van de gebruiker kunt omzetten in een data-analyseprompt. Vervolgens voert Pyramid dit recept uit op de gegevens die u al veilig hebt aangesloten op uw zelfgehoste installatie, zodat geen enkele gegevens ooit de LLM bereiken. We mengen de resultaten om ze terug te geven in een gemakkelijk te begrijpen, visuele indeling. In wezen wordt niets dat uw beveiliging en privacy in gevaar kan brengen, blootgesteld of verlaat de veiligheid van uw organisatie-firewall.

Voor organisaties die GenBI in hun bestaande data-infrastructuur willen integreren, wat ziet het implementatieproces eruit? Zijn er voorwaarden of voorbereidingen nodig?

Het implementatieproces voor Pyramid Analytics kon niet eenvoudiger of sneller zijn. Gebruikers hebben slechts een paar voorwaarden en voorbereidingen nodig, en u kunt het hele proces in minder dan een uur uitvoeren. U hoeft geen gegevens te verplaatsen naar een nieuw kader of iets te veranderen aan uw gegevensstrategie, omdat Pyramid rechtstreeks uw gegevens opvraagt waar ze zich bevinden.

Er is ook geen noodzaak om uw gegevens uit te leggen aan de oplossing, of om kolommen te definiëren. Het is zo eenvoudig als het uploaden van een CSV-gegevensbestand of het verbinden van uw SQL-database. Hetzelfde geldt voor elke relationele database van welke aard dan ook. Het duurt slechts een paar minuten om uw gegevens te verbinden, en vervolgens kunt u uw eerste vraag stellen enkele seconden later.

Dat gezegd hebbende, kunt u de structuur aanpassen als u dat wilt, zoals het wijzigen van het join-model of het opnieuw definiëren van kolommen. Het kost wel enige tijd en moeite, maar we hebben het over minuten, niet over een maandenlang ontwikkelingsproject. Onze klanten zijn vaak verbaasd dat Pyramid binnen vijf minuten of zo op hun klassieke datawarehouse of data-lake werkt.

U hoeft ook geen zeer specifieke, accurate of zelfs intelligente vragen te stellen om krachtige resultaten te krijgen. U kunt spelfouten maken en onjuiste formuleringen gebruiken, en Pyramid zal ze ontwarren en een betekenisvol en waardevol antwoord produceren. Wat u nodig hebt, is enige kennis over de gegevens waar u naar vraagt.

Als we vooruitkijken, wat is uw strategische visie voor Pyramid Analytics in de komende vijf jaar? Hoe ziet u uw oplossingen evolueren om veranderende marktvragen te vervullen?

De volgende grote frontier is het ondersteunen van schaalbare, zeer specifieke queries. Gebruikers zijn erg geïnteresseerd in het stellen van zeer precieze vragen, zoals vragen over gepersonaliseerde entiteiten, en LLM’s kunnen nog niet intelligent antwoord geven in deze gevallen, omdat ze geen diepgaand inzicht hebben in de specificaties van uw database.

We staan voor de uitdaging om te zien hoe we taalmodellen kunnen gebruiken om naar de specificaties van uw gegevens te vragen zonder uw hele, enorme data-lake meteen te koppelen aan de LLM. Hoe kunt u uw LLM finetunen over gegevens die elke twee seconden opnieuw worden gehydrateerd? We kunnen dit beheren voor vaste punten zoals landen, locaties en zelfs datums, maar niet voor iets idiosyncratisch als namen, hoewel we hier nu heel dichtbij zijn.

Een andere uitdaging is dat gebruikers hun eigen wiskundige interpretaties van de gegevens moeten kunnen vragen, door hun eigen formules toe te passen. Het is moeilijk, niet omdat de formule moeilijk is om uit te voeren, maar omdat het begrijpen van wat de gebruiker wil en het krijgen van de juiste syntaxis een uitdaging is. We werken aan het oplossen van deze uitdagingen, en wanneer we dat doen, zullen we het volgende eureka-punt zijn gepasseerd.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Pyramid Analytics bezoeken.