Omri Kohl, CEO og medgrunnlegger av Pyramid Analytics – Intervju-serie

Omri Kohl er CEO og medgrunnlegger av Pyramid Analytics. Pyramid Decision Intelligence Platform leverer data-drevne innsikter for alle å ta raske og mer intelligente beslutninger. Han leder selskapets strategi og drift gjennom en raskt voksende marked for data og analyser. Kohl bringer en dyp forståelse av analyser og AI-teknologier, verdifull ledelseserfaring og en naturlig evne til å utfordre konvensjonell tenkning. Kohl er en høyt erfaren entrepreneur med en bevist rekord i å utvikle og lede raskt voksende selskaper. Han studerte økonomi, finans og bedriftsledelse ved Bar-Ilan University og har en MBA i internasjonal bedriftsledelse fra New York University, Leonard N. Stern School of Business.

Kunne du starte med å forklare hva GenBI er, og hvordan det integrerer generativ AI med bedriftsintelligens for å forbedre beslutningsprosesser?

GenBI er rammen og mekanismen for å bringe kraften til generativ AI, LLM og generell AI inn i analyser, bedriftsintelligens og beslutningstaking.

For tiden er det ikke praktisk å bruke generativ AI alene for å få tilgang til innsikter i datasett. Det kan ta over en uke å laste opp nok data til din generative AI-verktøy for å få meningsfulle resultater. Dette er enkelt ikke gjennomførbar, ettersom bedriftsdata er for dynamisk og for sensitivt til å brukes på denne måten. Med GenBI kan alle trekke ut verdifulle innsikter fra sine data, bare ved å stille et spørsmål på naturlig språk og se resultatene i form av en BI-dashboard. Det tar så lite som 30 sekunder å motta et relevant og nyttig svar.

Hva er de viktigste teknologiske innovasjonene bak GenBI som gjør det mulig å forstå og utføre komplekse bedriftsintelligensoppgaver gjennom naturlig språk?

Vel, uten å avsløre alle våre hemmeligheter, er det essensielt tre komponenter. Først gir GenBI LLM-ene alle elementene de trenger for å produsere de riktige analytiske stegene som vil produsere den ønskede innsikten. Dette er hva som gjør det mulig for brukeren å forme spørsmål ved hjelp av naturlig språk og selv i vag terme, uten å vite nøyaktig hva slags graf, undersøkelse eller format å be om.

Neste er Pyramid Analytics GenBI-løsningen som anvender disse stegene på bedriftens data, uavhengig av detaljene i din situasjon. Vi snakker om de mest grunnleggende datasettene og enkle spørsmål, hele veien opp til de mest sofistikerte bruksområdene og komplekse databaser.

Tredje er at Pyramid kan utføre disse spørsmålene på underliggende data og manipulere resultatene på fly. En LLM alene kan ikke produsere dypt analyse på en database. Du trenger en robot-element for å finne all nødvendig informasjon, tolke brukerens forespørsel for å produsere innsikter og overføre det til BI-plattformen for å formulere resultatene enten i ren språk eller som en dynamisk visualisering som kan refineres gjennom etterfølgende spørsmål.

Hvordan demokratiserer GenBI data-analyse, særlig for ikke-tekniske brukere?

Enkelt sagt, lar GenBI alle komme til innsiktene de trenger, uavhengig av deres nivå av ekspertise. Tradisjonelle BI-verktøy krever at brukeren kjenner til hvilken data-manipulasjonsteknikk som er best for å motta de nødvendige resultater. Men de fleste mennesker tenker ikke i pie-diagrammer, spredningsdiagram eller tabeller. De ønsker ikke å måtte jobbe ut hvilken visualisering som er mest effektiv for deres situasjon – de bare ønsker svar på spørsmålene sine.

GenBI leverer disse svarene til alle, uavhengig av deres ekspertise. Brukeren trenger ikke å kjenne til alle faglige termer eller å jobbe ut om en spredningsgraf eller en pie-chart er det beste alternativet, og de trenger ikke å kjenne til hvordan man koder database-spørsmål. De kan utforske data ved å bruke sine egne ord i en naturlig samtale.

Vi tenker på det som forskjellen på å bruke et papir-kart for å planlegge ruten din, og å bruke Google Maps eller andre navigasjonsapper. Med et tradisjonelt kart må du jobbe ut de beste veiene å ta, tenke på potensielle trafikk-problemer og sammenligne ulike rute-muligheter. I dag setter folk bare inn destinasjonen i appen og tar veien – det er så mye tillit til algoritmene at ingen spør om den foreslåtte ruten. Vi ønsker å tro at GenBI bringer samme type automatisert magi til bedrifts-data.

Hva har vært tilbakemeldingen fra tidlige brukere om letthet og læringskurve?

Vi har mottatt overveldende positive tilbakemeldinger. Den beste måten vi kan sammenfatte det på er: “Wow!” Brukere og testere setter stor pris på Pyramids letthet, kraftfulle funksjoner og meningsfulle innsikter.

Pyramid Analytics har nesten null læringskurve, så det er ingenting som holder folk tilbake fra å adoptere det på stedet. Omtrent tre fjerdedeler av alle forretningslag som har testet vår løsning har adoptert den og bruker den i dag, fordi den er så enkel og effektiv.

Kan du dele hvordan GenBI har forandret beslutningsprosesser innen organisasjoner som har implementert det? Er det noen spesifikke case-studier eller eksempler?

Selv om vi har utviklet det i lang tid, har vi bare rullet ut GenBI for noen uker siden, så jeg er sikker på at du vil forstå at vi ikke ennå har fullstendige case-studier som vi kan dele, eller kunde-eksempler som vi kan navngi. Men jeg kan si at organisasjoner med tusenvis av brukere plutselig blir sannt data-drevne, fordi alle kan få tilgang til innsikter. Brukere kan nå låse opp den sanne verdien av all deres data.

GenBI har en transformasjonseffekt på industrier som forsikring, bank og finansielle tjenester, samt detaljhandel, produksjon og mange andre vertikaler. Plutselig er det mulig for finansielle rådgivere, for eksempel, å få umiddelbare forslag om hvordan de kan optimalisere en kundes portefølje.

Hva er noen av de største utfordringene du møtte under utviklingen av GenBI, og hvordan overvant du dem?

Pyramid Analytics har allerede utnyttet AI for analyser i mange år før vi lanserte den nye løsningen, så de fleste utfordringer er allerede løst.

Den viktigste nye komponenten er tilføyelsen av en sofistikert spørsmåls-genereringsteknologi som fungerer med alle LLM-er for å produsere nøyaktige resultater, samtidig som data holdes private. Vi har oppnådd dette ved å skille data fra spørsmålet (mer om dette om et øyeblikk).

En annen stor utfordring vi måtte håndtere var hastighet. Vi snakker om Google-æraen, hvor folk forventer svar nå, ikke om en time eller selv en halv time. Vi sørget for å øke prosesseringen og optimere alle arbeidsflyter for å redusere friksjon.

Deretter er det behov for å forhindre hallucinasjoner. Chatbot-er er utsatt for hallucinasjoner som forvrenger resultater og undergraver påliteligheten. Vi har arbeidet hardt for å unngå disse samtidig som vi opprettholder dynamiske resultater.

Hvordan håndterer du problemer relatert til datasikkerhet og personvern?

Det er et godt spørsmål, fordi datasikkerhet og personvern er den største hindringen for vellykket GenAI-analyse. Alle er – rettferdig – bekymret for å eksponere svært sensitive bedriftsdata for tredjeparts AI-motorer, men de ønsker også språk-tolkningsevnen og data-innsiktene som disse motorene kan levere.

Derfor deler vi aldri faktisk data med LLM-ene vi samarbeider med. Pyramid snur hele premisset på hodet ved å fungere som en mellommann mellom bedriftens informasjon og LLM. Vi lar deg sende forespørselen, og deretter overfører vi den til LLM sammen med beskrivelser av hva vi kaller “ingrediensene”, bare metadata.

LLM-en returnerer deretter en “oppskrift” som forklarer hvordan man kan omdanne brukerens spørsmål til en data-analyseforespørsel. Deretter kjører Pyramid denne oppskriften på dataene du allerede har koblet trygt på din egen installasjon, så ingen data noen gang når LLM. Vi blandet resultatene for å servere dem tilbake til deg i en lett forståelig, visuell format. I realiteten blir ingenting som kan kompromittere din sikkerhet og personvern eksponert eller forlater sikkerheten til organisasjonens brannmur.

For organisasjoner som ønsker å integrere GenBI i sine eksisterende data-infrastrukturer, hva ser implementeringsprosessen ut som? Er det noen forutsetninger eller forberedelser som er nødvendige?

Implementeringsprosessen for Pyramid Analytics kunne ikke være enklere eller raskere. Brukere trenger svært få forutsetninger og forberedelser, og du kan få hele ting opp og kjørende på under en time. Du trenger ikke å flytte data til en ny ramme eller endre noe med din data-strategi, fordi Pyramid spør dataene dine direkte der de befinner seg.

Det er heller ingen behov for å forklare dataene dine til løsningen, eller å definere kolonner. Det er så enkelt som å laste opp et CSV-datasett eller koble til din SQL-database. Det samme gjelder for enhver relasjonsdatabase av noen som helst type. Det tar bare noen minutter å koble til dataene dine, og deretter kan du stille ditt første spørsmål sekunder senere.

Det er sagt, kan du justere strukturen hvis du ønsker, som å endre koblingsmodellen eller redefinere kolonner. Det tar litt tid og innsats, men vi snakker minutter, ikke måneder lange utviklingsprosjekter. Våre kunder er ofte sjokkerte over at Pyramid er opp og kjører på deres klassiske data-warehouse eller data-sjø innen fem minutter eller så.

Du trenger heller ikke å komme opp med svært spesifikke, nøyaktige eller inteligente spørsmål for å få kraftfulle resultater. Du kan gjøre stavefeil og bruke feilaktig formulering, og Pyramid vil løse dem og produsere et meningsfullt og verdifullt svar. Hva du trenger, er litt kunnskap om dataene du spør om.

Ser du fremover, hva er din strategiske visjon for Pyramid Analytics de neste fem årene? Hvordan ser du at dine løsninger vil utvikle seg for å møte endrede markedskrav?

Neste store grense er å støtte skalerbare, høyt spesifikke spørsmål. Brukere er ivrige etter å kunne stille svært presise spørsmål, som spørsmål om personlige enheter, og LLM-er kan ikke ennå produsere intelligente svar i disse tilfellene, fordi de ikke har den type detaljerte innsikt i din database.

Vi står overfor utfordringen av hvordan man kan bruke språk-modeller til å spørre om detaljene i dine data uten å umiddelbart koble hele din enorme data-sjø til LLM. Hvordan finjusterer du din LLM om data som gjenoppfriskes hver to sekunder? Vi kan håndtere dette for faste punkter som land, lokasjoner og selv datoer, men ikke for noe idiosynkratisk som navn, selv om vi er svært nær i dag.

En annen utfordring er for brukere å kunne stille sine egne matematiske tolkninger av dataene, ved å anvende sine egne formularer. Det er vanskelig ikke fordi formelen er vanskelig å utføre, men fordi å forstå hva brukeren ønsker og å få riktig syntaks er utfordrende. Vi jobber med å løse begge disse utfordringene, og når vi gjør det, vil vi ha passert neste eureka-punkt.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Pyramid Analytics.