Omri Kohl, administrerende direktør og medstifter af Pyramid Analytics – Intervieuserie

Omri Kohl er administrerende direktør og medstifter af Pyramid Analytics. Pyramid Decision Intelligence Platform leverer data-drevne indsighter, så alle kan træffe hurtigere og mere intelligente beslutninger. Han leder virksomhedens strategi og drift i en hurtigt voksende marked for data og analytics. Kohl har en dyb forståelse af analytics og AI-teknologier, værdifuld ledelseserfaring og en naturlig evne til at udfordre konventionel tænkning. Kohl er en meget erfaren iværksætter med en bevist track record i udvikling og ledelse af hurtigt voksende virksomheder. Han studerede økonomi, finans og virksomhedsledelse på Bar-Ilan Universitet og har en MBA i international virksomhedsledelse fra New York University, Leonard N. Stern School of Business.

Kunne du starte med at forklare, hvad GenBI er, og hvordan det integrerer Generative AI med business intelligence for at forbedre beslutningsprocesser?

GenBI er rammen og mekanismerne til at bringe kraften fra GenAI, LLM’er og generel AI ind i analytics, business intelligence og beslutningstagning.

Lige nu er det ikke praktisk at bruge GenAI alene til at få adgang til indsighter fra datasæt. Det kan tage over en uge at uploade nok data til din GenAI-værktøj for at få meningsfulde resultater. Det er simpelthen ikke arbejdsgørligt, da forretningsdata er for dynamisk og for følsomt til at blive brugt på denne måde. Med GenBI kan alle trække værdifulde indsighter ud af deres data, blot ved at stille et spørgsmål på naturlig sprog og se resultaterne i form af en BI-dashboard. Det tager kun 30 sekunder at få et relevant og værdifuldt svar.

Hvad er de vigtigste teknologiske innovationer bag GenBI, der giver det muligt at forstå og udføre komplekse business intelligence-opgaver gennem naturligt sprog?

Når vi ikke giver alle vores hemmeligheder væk, er der grundlæggende tre komponenter. Først prompter GenBI LLM’er med alle de elementer, de har brug for for at producere de korrekte analytiske trin, der vil producere den ønskede indsigt. Dette er, hvad giver brugeren mulighed for at formulere forespørgsler ved hjælp af naturligt sprog og endda i uklare vendinger, uden at vide nøjagtig, hvilken type diagram, undersøgelse eller format der skal anmodes.

Dernæst anvender Pyramid Analytics GenBI-løsningen disse trin på virksomhedens data, uanset specifikke detaljer om situationen. Vi taler om de mest grundlæggende datasæt og simple forespørgsler, hele vejen op til de mest avancerede brugstilfælde og komplekse databaser.

Tredje, Pyramid kan udføre disse forespørgsler på den underliggende data og manipulere resultaterne på flyvet. En LLM alene kan ikke producere dyb analyse på en database. Du har brug for en robot-element til at finde alle nødvendige oplysninger, fortolke brugerens anmodning for at producere indsighter og overføre dem til BI-platformen til at formulere resultaterne enten i almindeligt sprog eller som en dynamisk visualisering, der kan refineres yderligere gennem efterfølgende forespørgsler.

Hvordan demokratiserer GenBI data-analyse, især for ikke-tekniske brugere?

Meget enkelt giver GenBI alle mulighed for at trække de indsighter, de har brug for, uanset deres niveau af ekspertise. Traditionelle BI-værktøjer kræver, at brugeren kender den bedste data-manipulationsteknik til at modtage de nødvendige resultater. Men de fleste mennesker tænker ikke i pie-diagrammer, scatter-diagrammer eller tabeller. De vil ikke have brug for at arbejde ud, hvilken visualisering der er mest effektiv for deres situation – de vil bare have svar på deres spørgsmål.

GenBI leverer disse svar til alle, uanset deres ekspertise. Brugeren har ikke brug for at kende alle faglige termer eller arbejde ud, om en scattergraf eller en pie-diagram er den bedste mulighed, og de har ikke brug for at vide, hvordan de kan kode database-forespørgsler. De kan udforske data ved at bruge deres eget sprog i en naturlig samtale.

Vi tænker på det som forskellen på at bruge et papir-kort til at planlægge din rute og at bruge Google Maps eller en anden navigations-app. Med et traditionelt kort har du brug for at arbejde ud, hvilke veje du skal tage, tænke på mulige trafikpropper og sammenligne forskellige rute-muligheder. I dag sætter folk bare deres destination ind i appen og rammer vejen – der er så meget tillid til algoritmerne, at ingen stiller spørgsmål ved den foreslåede rute. Vi ville gerne tro, at GenBI bringer den samme slags automatiserede magi til virksomhedens datasæt.

Hvad har været feedbacken fra tidlige brugere omkring letbrug og læringskurve?

Vi har modtaget overvældende positive tilbagemeldinger. Den bedste måde, vi kan sammenfatte det på, er “Wow!” Brugere og testere værdsætter højt Pyramids letbrug, kraftfulde funktioner og meningsfulde indsighter.

Pyramid Analytics har næsten ingen læringskurve, så der er intet, der holder folk tilbage fra at adoptere det på stedet. Omkring tre fjerdedele af alle forretningshold, der har testet vores løsning, har adopteret den og bruger den i dag, fordi det er så let og effektivt.

Kan du dele, hvordan GenBI har forandret beslutningsprocesser inden for organisationer, der har implementeret det? Er der nogen specifikke cases eller eksempler?

Selvom vi har udviklet det i lang tid, har vi kun rullet GenBI ud for nogle uger siden, så jeg er sikker på, at du vil forstå, at vi endnu ikke har fuldstændige cases eller kundeeksempler, som vi kan dele. Men jeg kan fortælle dig, at organisationer med tusinder af brugere pludselig er blevet sandt data-drevne, fordi alle kan få adgang til indsighter. Brugere kan nu låse den sande værdi af alle deres data op.

GenBI har en transformerende effekt på brancher som forsikring, bank og finans, samt detailhandel, fremstilling og mange andre vertikaler. Pludselig er det muligt for finansielle rådgivere, for eksempel, at få instant forslag om, hvordan de bedst kan optimere en kundes portefølje.

Hvad er nogle af de største udfordringer, du stødte på under udviklingen af GenBI, og hvordan overvandt du dem?

Pyramid Analytics havde allerede udnyttet AI til analytics i mange år, før vi lancerede den nye løsning, så de fleste udfordringer er blevet løst for længe siden.

Det primære nye element er tilføjelsen af en avanceret forespørgselsgenereringsteknologi, der fungerer med enhver LLM for at producere nøjagtige resultater, mens data holdes private. Vi har opnået dette ved at afkoble data fra forespørgslen (mere om det om et øjeblik).

En anden stor udfordring, vi måtte tackle, var hastigheden. Vi taler om Google-æraen, hvor folk forventer svar nu, ikke om en time eller endda en halv time. Vi sikrede os at accelerere behandlingen og optimere alle arbejdsgange for at reducere friktion.

Så er der behovet for at forhindre hallucinationer. Chatbots er tilbøjelige til hallucinationer, der forvrænger resultater og undergraver pålidelighed. Vi har arbejdet hårdt for at undgå disse, mens vi stadig opretholdt dynamiske resultater.

Hvordan håndterer du problemer relateret til datasikkerhed og -beskyttelse?

Det er et godt spørgsmål, for datasikkerhed og -beskyttelse er den største hindring for succesfuld GenAI-analyse. Alle er – retmæssigt – bekymrede over tanken om at udsætte følsomme virksomhedsdata for tredjeparts AI-motorer, men de vil også have sprogfortolkningsevner og data indsighter, som disse motorer kan levere.

Det er derfor, vi aldrig deler faktiske data med de LLM’er, vi arbejder med. Pyramid vender hele præmis på hovedet ved at fungere som en mellemliggende mellem virksomhedens information og LLM. Vi giver dig mulighed for at indsende anmodningen, og derefter giver vi den til LLM sammen med beskrivelser af, hvad vi kalder “ingredienserne”, grundlæggende blot metadata.

LLM returnerer derefter en “opskrift”, der forklarer, hvordan man kan omdanne brugerens spørgsmål til en data-analyseforespørgsel. Derefter kører Pyramid denne opskrift på den data, du allerede har forbundet sikkert på din selv-værtede installation, så ingen data nogensinde når LLM. Vi samler resultaterne og serverer dem tilbage til dig i en letforståelig, visuel format. I virkeligheden bliver intet, der kunne kompromittere din sikkerhed og beskyttelse, eksponeret eller forlader virksomhedens brandvæg.

For organisationer, der søger at integrere GenBI i deres eksisterende data-infrastrukturer, hvad ser implementationsprocessen ud til? Er der nogen forudsætninger eller forberedelser nødvendige?

Implementationsprocessen for Pyramid Analytics kunne ikke være nemmere eller hurtigere. Brugere har kun få forudsætninger og forberedelser, og du kan få det hele op og kørende på under en time. Du har ikke brug for at flytte data til en ny ramme eller ændre noget ved din datastrategi, fordi Pyramid forespørger dine data direkte, hvor de befinder sig.

Der er heller ikke brug for at forklare dine data til løsningen eller at definere kolonner. Det er så enkelt som at uploade et CSV-datasæt eller forbinde din SQL-database. Det samme gælder for enhver relationel database af enhver slags. Det tager kun et par minutter at forbinde dine data, og derefter kan du stille dit første spørgsmål sekunder efter.

Det skal dog siges, at du kan justere strukturen, hvis du vil, som at ændre forbindelsesmodellen eller gendefinere kolonner. Det tager lidt tid og indsats, men vi taler om minutter, ikke et månedslangt udviklingsprojekt. Vores kunder er ofte chokerede over, at Pyramid er op og kørende på deres klassiske data-warehouse eller data-lake på fem minutter eller deromkring.

Du har heller ikke brug for at komme op med meget specifikke, nøjagtige eller endda intelligente spørgsmål for at få kraftfulde resultater. Du kan lave stavefejl og bruge forkert formulering, og Pyramid vil udrede dem og producere et meningsfuldt og værdifuldt svar. Det, du har brug for, er lidt kendskab til de data, du spørger om.

Med henblik på fremtiden, hvad er din strategiske vision for Pyramid Analytics de næste fem år? Hvordan ser du løsningerne udvikle sig for at imødekomme skiftende markedskrav?

Det næste store felt er at understøtte skalerbare, højtspecifikke forespørgsler. Brugere er ivrige efter at kunne stille meget præcise spørgsmål, såsom spørgsmål om personlige enheder, og LLM’er kan endnu ikke producere intelligente svar i disse tilfælde, fordi de ikke har den slags detaljeret indsigt i din databases specifikke detaljer.

Vi står over for udfordringen med, hvordan vi kan bruge sprogmodeller til at spørge om specifikke detaljer i dine data uden at øjeblikkeligt forbinde hele din enorme data-lake til LLM. Hvordan kan vi finjustere vores LLM om data, der genopfriskes hver anden sekund? Vi kan håndtere dette for faste punkter som lande, lokaliteter og endda datoer, men ikke for noget idiosynkratisk som navne, selvom vi er meget tæt på det i dag.

En anden udfordring er for brugere at kunne stille deres egne matematiske fortolkninger af data, ved at anvende deres egne formler. Det er svært, ikke fordi formlen er hård at udtrykke, men fordi det er vanskeligt at forstå, hvad brugeren ønsker, og at få den korrekte syntaks. Vi arbejder på at løse disse udfordringer, og når vi gør, vil vi have passeret det næste eureka-punkt.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Pyramid Analytics.