Omri Kohl, VD och medgrundare av Pyramid Analytics – Intervjuserie

Omri Kohl är VD och medgrundare av Pyramid Analytics. Pyramid Decision Intelligence Platform levererar data-drivna insikter för att alla kan fatta snabbare och mer intelligenta beslut. Han leder företagets strategi och verksamhet genom en snabbt växande data- och analysmarknad. Kohl har en djup förståelse för analytisk och AI-teknologi, värdefull ledningsvana och en naturlig förmåga att utmana konventionellt tänkande. Kohl är en mycket erfaren entreprenör med en beprövad meritlista i utveckling och ledning av snabbväxande företag. Han studerade ekonomi, finansiell ekonomi och företagsledning vid Bar-Ilan University och har en MBA i internationell affärsledning från New York University, Leonard N. Stern School of Business.

Kunde du börja med att förklara vad GenBI är och hur det integrerar Generative AI med business intelligence för att förbättra beslutsprocesser?

GenBI är ramverket och mekanismerna för att bringa kraften från GenAI, LLM och allmän AI till analyser, business intelligence och beslutsfattande.

Just nu är det inte praktiskt att använda GenAI ensamt för att få tillgång till insikter i dataset. Det kunde ta över en vecka att ladda upp tillräckligt med data till ditt GenAI-verktyg för att få meningsfulla resultat. Det är helt enkelt inte fungerande, eftersom affärsdata är för dynamisk och för känslig för att användas på det här sättet. Med GenBI kan vem som helst extrahera värdefulla insikter från sina data, bara genom att ställa en fråga på naturligt språk och se resultaten i form av en BI-instrumentpanel. Det tar så lite som 30 sekunder att få ett relevant och användbart svar.

Vilka är de viktigaste tekniska innovationerna bakom GenBI som möjliggör att det förstår och utför komplexa business intelligence-uppgifter genom naturligt språk?

Nåväl, utan att avslöja alla våra hemligheter, finns det i princip tre komponenter. Först ger GenBI LLM:er alla element de behöver för att producera de korrekta analytiska stegen som kommer att producera den begärda insikten. Detta är vad som tillåter användaren att forma frågor med hjälp av naturligt språk och till och med i otydliga termer, utan att veta exakt vilken typ av diagram, utredning eller format som ska begäras.

Sedan tillämpar Pyramid Analytics GenBI-lösningen dessa steg på företagets data, oavsett specifikationerna för din situation. Vi pratar om de mest grundläggande dataseten och enkla frågorna, hela vägen upp till de mest sofistikerade användningsfallen och komplexa databaserna.

Tredje, Pyramid kan utföra dessa frågor på den underliggande datan och manipulera resultaten på flyget. En LLM ensam kan inte producera djup analys på en databas. Du behöver en robotkomponent för att hitta all nödvändig information, tolka användarbegäran för att producera insikter och skicka det vidare till BI-plattformen för att uttrycka resultaten antingen i vanligt språk eller som en dynamisk visualisering som senare kan raffineras genom efterföljande frågor.

Hur demokratiserar GenBI dataanalys, särskilt för icke-tekniska användare?

Mycket enkelt, GenBI tillåter vem som helst att komma åt de insikter de behöver, oavsett deras nivå av expertis. Traditionella BI-verktyg kräver att användaren vet vilken datamanipulationsteknik som är bäst för att få de nödvändiga resultaten. Men de flesta människor tänker inte i pajdiagram, spridningsdiagram eller tabeller. De vill inte behöva arbeta ut vilken visualisering som är mest effektiv för deras situation – de vill bara ha svar på sina frågor.

GenBI levererar dessa svar till vem som helst, oavsett deras expertis. Användaren behöver inte veta alla professionella termer eller arbeta ut om en spridningsgraf eller en pajgraf är det bästa alternativet, och de behöver inte veta hur man kodar databasfrågor. De kan utforska data genom att använda sina egna ord i en naturlig konversation.

Vi tänker på det som skillnaden mellan att använda en papperskarta för att planera din rutt och att använda Google Maps eller annan navigeringsapp. Med en traditionell karta måste du arbeta ut de bästa vägarna att ta, tänka på möjliga trafikstockningar och jämföra olika ruttalternativ. Idag anger människor bara sin destination i appen och kör iväg – det finns så mycket tillit till algoritmerna att ingen ifrågasätter den föreslagna rutan. Vi vill tro att GenBI bringar samma typ av automagiskt till företagsdataset.

Vad har varit återkopplingen från tidiga användare om användarvänlighet och inlärningskurva?

Vi har fått överväldigande positiv återkoppling. Det bästa sättet vi kan sammanfatta det är “Wow!” Användare och testare uppskattar starkt Pyramids användarvänlighet, kraftfulla funktioner och meningsfulla insikter.

Pyramid Analytics har i princip noll inlärningskurva, så det finns ingenting som hindrar människor från att anta det på fläcken. Ungefär tre fjärdedelar av alla affärsteam som har testat vår lösning har antagit den och använder den idag, eftersom den är så enkel och effektiv.

Kan du dela hur GenBI har transformerat beslutsprocesser inom organisationer som har implementerat det? Finns det några specifika fallstudier eller exempel?

Även om vi har utvecklat det under en lång tid, lanserade vi GenBI för bara några veckor sedan, så jag är säker på att du förstår att vi ännu inte har fullständiga fallstudier som vi kan dela, eller kundexempel som vi kan namnge. Men jag kan berätta att organisationer som har tusentals användare plötsligt blir riktigt data-drivna, eftersom alla kan komma åt insikter. Användare kan nu låsa upp den sanna värdet av all sin data.

GenBI har en transformerande effekt på branscher som försäkring, bank och finans, samt detaljhandel, tillverkning och många andra vertikaler. Plötsligt är det möjligt för finansiella rådgivare, till exempel, att komma åt omedelbara förslag om hur man kan optimera en kunds portfölj.

Vilka är några av de största utmaningarna du stött på vid utvecklingen av GenBI, och hur övervann du dem?

Pyramid Analytics utnyttjade redan AI för analyser i många år innan vi lanserade den nya lösningen, så de flesta utmaningarna har redan lösts.

Den huvudsakliga nya komponenten är tillägget av en sofistikerad frågegenereringsteknologi som fungerar med vilken LLM som helst för att producera precisa resultat, samtidigt som data hålls privata. Vi har uppnått detta genom att koppla loss datan från frågan (mer om detta strax).

En annan stor utmaning vi hade att hantera var den med hastighet. Vi pratar om Google-eran, där människor förväntar sig svar nu, inte på en timme eller ens en halv timme. Vi såg till att påskynda bearbetningen och optimera alla arbetsflöden för att minska friktionen.

Sedan finns det behovet av att förhindra hallucination. Chatbots är benägna att hallucinationer som snedvrider resultaten och undergräver tillförlitligheten. Vi har arbetat hårt för att undvika dessa samtidigt som vi behåller dynamiska resultat.

Hur hanterar du frågor relaterade till datasäkerhet och integritet?

Det är en utmärkt fråga, eftersom datasäkerhet och integritet är den största hindren för framgångsrik GenAI-analys. Alla är – med all rätt – oroliga för tanken på att utsätta högt känslig företagsdata för tredjeparts AI-motorer, men de vill också ha språktolkning och datainsikter som dessa motorer kan leverera.

Det är därför vi aldrig delar den faktiska datan med LLM:erna vi arbetar med. Pyramid vänder hela premissen upp och ner genom att fungera som en mellanhand mellan företagets information och LLM. Vi tillåter dig att skicka in begäran, och sedan ger vi den till LLM tillsammans med beskrivningar av vad vi kallar “ingredienserna”, vilket i princip bara är metadata.

LLM returnerar sedan ett “recept”, som förklarar hur man kan omvandla användarens fråga till en dataanalysprompt. Sedan kör Pyramid receptet på datan som du redan har anslutit säkert på din självvärdiga installation, så att ingen data någonsin når LLM. Vi blandar ihop resultaten för att skicka tillbaka dem till dig i ett lättförståeligt, visuellt format. I princip utsätts ingenting som kan äventyra din säkerhet och integritet för exponering eller lämnar säkerheten för ditt företags brandvägg.

För organisationer som vill integrera GenBI i sina befintliga data-infrastrukturer, vad ser implementeringsprocessen ut? Finns det några förkunskapskrav eller förberedelser som behövs?

Implementeringsprocessen för Pyramid Analytics kunde inte vara enklare eller snabbare. Användare behöver mycket få förkunskapskrav och förberedelser, och du kan få allt igång på under en timme. Du behöver inte flytta data till ett nytt ramverk eller ändra någonting om din datastrategi, eftersom Pyramid frågar din data direkt där den finns.

Det finns också inget behov av att förklara din data för lösningen, eller att definiera kolumner. Det är så enkelt som att ladda upp ett CSV-dataset eller ansluta din SQL-databas. Samma sak gäller för vilken relationell databas som helst. Det tar bara några minuter att ansluta din data, och sedan kan du ställa din första fråga sekunder senare.

Det sägs att du kan justera strukturen om du vill, som att ändra anslutningsmodellen eller omdefiniera kolumner. Det tar lite tid och ansträngning, men vi pratar minuter, inte en månaders lång utvecklingsprojekt. Våra kunder är ofta chockade över att Pyramid är igång på deras klassiska datawarehouse eller datalake på bara fem minuter eller så.

Du behöver inte heller komma med mycket specifika, precisa eller ens intelligenta frågor för att få kraftfulla resultat. Du kan göra stavfel och använda felaktig formulering, och Pyramid kommer att lösa dem och producera ett meningsfullt och värdefullt svar. Vad du behöver är lite kunskap om datan du frågar om.

Om du tittar framåt, vad är din strategiska vision för Pyramid Analytics under de kommande fem åren? Hur ser du till att dina lösningar utvecklas för att möta förändrade marknadsbehov?

Nästa stora gräns är att stödja skalbara, högt specifika frågor. Användare är ivriga att kunna ställa mycket precisa frågor, såsom frågor om personliga enheter, och LLM:er kan inte ännu producera intelligenta svar i dessa fall, eftersom de inte har den typen av detaljerad insikt i ditt databas.

Vi står inför utmaningen att använda språkmodeller för att fråga om specifikationerna för din data utan att omedelbart ansluta hela din enorma datalake till LLM. Hur kan du finjustera din LLM om data som återfuktas varannan sekund? Vi kan hantera detta för fasta punkter som länder, platser och till och med datum, men inte för något som är idiosynkratiskt som namn, även om vi är mycket nära idag.

En annan utmaning är för användare att kunna ställa sina egna matematiska tolkningar av datan, genom att applicera sina egna formler. Det är svårt inte för att formlen är svår att verkställa, utan för att förstå vad användaren vill ha och få den korrekta syntaxen är utmanande. Vi arbetar på att lösa båda dessa utmaningar, och när vi gör det, kommer vi att ha passerat nästa eureka-punkt.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Pyramid Analytics.