Yotam Oren, administrerende direktør og medstifter af Mona Labs – Interviewserie

Yotam Oren er administrerende direktør og medstifter af Mona Labs, en platform, der giver virksomheder mulighed for at omdanne AI-initiativer fra laboratorieeksperimenter til skalerbare forretningsoperationer ved at forstå, hvordan ML-modeller opfører sig i virkelige forretningsprocesser og -applikationer.

Mona analyserer automatisk opførslen af jeres maskinlæringsmodeller på tværs af beskyttede datasegmenter og i konteksten af forretningsfunktionerne for at opdage potentielle AI-forvrængninger. Mona tilbyder mulighed for at generere komplette retfærdighedsrapporter, der opfylder branchestandarder og regler, og giver tillid til, at AI-applikationen er i overensstemmelse med og fri for forvrængning.

Hvad var det, der oprindeligt tiltrak dig til datalogi?

Datalogi er en populær karrierevej i min familie, så det var altid en mulighed, jeg havde i baghovedet. Selvfølgelig er den israelske kultur meget pro-teknologi. Vi fejrer innovative teknologer, og jeg havde altid den opfattelse, at datalogi ville give mig en mulighed for vækst og præstation.

Trods det blev det først en personlig passion, da jeg nåede universitetsalderen. Jeg var ikke en af dem, der startede med at programmere i mellemskolen. I min ungdom var jeg for optaget af at spille basketball til at bekymre mig om computere. Efter gymnasiet tilbragte jeg næsten 5 år i hæren, i operative/ kamplederroller. Så på en måde lærte jeg først om datalogi, da jeg skulle vælge en akademisk hovedfag på universitetet. Det, der fik min opmærksomhed, var, at datalogi kombinerede løsning af problemer og læring af sprog (eller sprog). To ting, jeg var særligt interesseret i. Fra da af var jeg fast besluttet.

Fra 2006 til 2008 arbejdede du med kortlægning og navigation for en lille startup, hvad var nogle af dine vigtigste erfaringer fra den tid?

Min rolle hos Telmap var at bygge en søgemaskine på toppen af kort- og lokalitetsdata.

Det var de meget tidlige dage for “big data” i virksomhederne. Vi kaldte det ikke endnu sådan, men vi erhvervede enorme datasæt og forsøgte at trække de mest væsentlige og relevante indsigt ud til at vise vores slutbrugere.

En af de slående erkendelser, jeg havde, var, at virksomheder (herunder os) kun brugte en lille del af deres data (og endnu mindre offentligt tilgængelige eksterne data). Der var så meget potentiale for nye indsigt, bedre processer og oplevelser.

Den anden erkendelse var, at vi for at få mere ud af vores data var afhængige af at have bedre arkitektur, bedre infrastruktur og så videre.

Kan du dele historien bag Mona Labs?

De tre af os, medstiftere, har været omkring dataprodukter hele vores karriere.

Nemo, den tekniske direktør, er min universitetsven og klassekammerat, og en af de første ansatte hos Google (GOOGL ) Tel Aviv. Han startede et produkt der, kaldet Google Trends, som havde mange avancerede analyser og maskinlæringsfunktioner baseret på søgedata. Itai, den anden medstifter og produktchef, var på Nemos hold hos Google (og han og jeg mødte hinanden gennem Nemo). De to af dem var altid frustrerede over, at AI-drevne systemer ikke blev overvåget efter den første udvikling og test. Trods vanskelighederne ved at teste disse systemer før produktion, vidste teams ikke, hvor godt deres prædikationsmodeller fungerede over tid. Derudover syntes det, som om de kun fik feedback om AI-systemer, når noget gik galt, og udviklingsteams blev kaldt til en “brandøvelse” for at løse katastrofale problemer.

På samme tid var jeg konsulent hos McKinsey & Co, og en af de største barrierer, jeg så for AI- og Big Data-programmer, der skulle skaleres i store virksomheder, var manglen på tillid hos forretningsstakeholdere.

Fællestråden her blev tydelig for Nemo, Itai og mig selv i samtaler. Branchen havde brug for infrastruktur til at overvåge AI/ML-systemer i produktion. Vi fik visionen om at give denne synlighed for at øge tilliden hos forretningsstakeholdere og give AI-holdene mulighed for at have styr på, hvordan deres systemer fungerede, og for at iterere mere effektivt.

Og det var da Mona blev grundlagt.

Hvad er nogle af de nuværende problemer med manglen på AI-gennemsigtighed?

I mange brancher har organisationer allerede brugt titusinder af dollars på deres AI-programmer og har set nogen initial succes i laboratoriet og i små skala-udrulninger. Men at skalerer op, opnå bred accept og få forretningsverdenen til at stole på AI har været en kæmpe udfordring for næsten alle.

Hvorfor sker det? Det starter med, at god forskning ikke automatisk oversætter sig til gode produkter (En kunde sagde engang til os: “ML-modeller er som biler, det øjeblik de forlader laboratoriet, mister de 20% af deres værdi”). Gode produkter har understøttende systemer. Der er værktøjer og processer til at sikre, at kvaliteten opretholdes over tid, og at problemerne opdages tidligt og løses effektivt. Gode produkter har også en kontinuerlig feedback-løkke, de har en forbedringscyklus og en roadmap. Følgelig kræver gode produkter dyb og konstant gennemsigtighed.

Når der er manglen på gennemsigtighed, ender man med:

• Problemer, der forbliver skjult i en periode og så pludselig dukker op og forårsager “brandøvelser”
• Lange og manuelle undersøgelser og afhjælpninger
• Et AI-program, der ikke er tillidsværdigt for forretningsbrugere og sponsorer og til sidst ikke skalerer

Hvad er nogle af udfordringerne ved at gøre prædikationsmodeller gennemsigtige og tillidsværdige?

Gennemsigtighed er en vigtig faktor i at opnå tillid, naturligvis. Gennemsigtighed kan komme i mange former. Der er enkeltprædikationsgennemsigtighed, der måske inkluderer at vise niveauet for tillid til brugeren eller give en forklaring/rationale for prædikationen. Enkeltprædikationsgennemsigtighed er hovedsagelig rettet mod at hjælpe brugeren med at blive tryg ved prædikationen. Og så er der samlet gennemsigtighed, der måske inkluderer information om prædikationsnøjagtighed, uventede resultater og potentielle problemer. Samlet gennemsigtighed er nødvendig for AI-holdet.

Det mest udfordrende aspekt af samlet gennemsigtighed er at opdage problemer tidligt, advare den relevante teammedlem, så de kan tage korrigerende handling, før katastrofer sker.

Hvorfor det er udfordrende at opdage problemer tidligt:

• Problemer starter ofte små og simrer, før de til sidst dukker op og forårsager katastrofer.
• Problemer starter ofte på grund af ukontrollerbare eller eksterne faktorer, såsom datakilder.
• Der er mange måder at “dele verden” på, og udtømmende at lede efter problemer i små lommer kan resultere i meget støj (alerttræthed), når dette gøres på en naiv måde.

En anden udfordrende aspekt ved at give gennemsigtighed er den enorme spredning af AI-brugsområder. Dette gør en “one-size-fits-all”-tilgang næsten umulig. Hvert AI-brugsområde kan inkludere forskellige datastrukturer, forskellige forretningscykler, forskellige succesmål og ofte forskellige tekniske tilgange og selv stacks.

Så det er en monumental opgave, men gennemsigtighed er så fundamental for AI-programmernes succes, så man må gøre det.

Kan du dele nogle detaljer om løsningerne for NLU / NLP-modeller og chatbots?

Conversational AI er en af Monas kernevertikaler. Vi er stolte af at støtte innovative virksomheder med en bred vifte af conversational AI-brugsområder, herunder sprogmodeller, chatbots og mere.

En fælles faktor på tværs af disse brugsområder er, at modellerne opererer tæt (og nogle gange synligt) på kunder, så risikoen for inkonsistent præstation eller dårlig opførsel er højere. Det bliver så vigtigt for conversational AI-hold at forstå systemopførslen på et detaljeret niveau, hvilket er et område, hvor Monas overvågningsløsning er stærk.

Hvad Monas løsning gør, som er ret unikt, er systematisk at si gruppekonversationer og finde lommer, hvor modellerne (eller botterne) opfører sig dårligt. Dette giver conversational AI-hold mulighed for at identificere problemer tidligt og før kunderne bemærker dem. Denne funktion er en kritisk beslutningsfaktor for conversational AI-hold, når de vælger overvågningsløsninger.

For at samme det op giver Mona en løsning fra ende til anden for conversational AI-overvågning. Den starter med at sikre, at der er en enkelt kilde til information om systemernes opførsel over tid, og fortsætter med kontinuerlig sporing af nøglepræstationsindikatorer og proaktive indsigt om lommer af dårlig opførsel – hvilket giver hold mulighed for at tage forebyggende og effektive korrigerende foranstaltninger.

Kan du tilbyde nogle detaljer om Monas indsigtsmotor?

Ja. Lad os starte med motivationen. Formålet med indsigtsmotoren er at fremhæve anomalier for brugerne med præcis den rette mængde kontekstinformation og uden at skabe støj eller føre til alerttræthed.

Indsigtsmotoren er en enestående analytisk arbejdsgang. I denne arbejdsgang søger motoren efter anomalier i alle segmenter af data, hvilket giver tidlig opdagede problemer, før de påvirker hele datasættet og de nedstrøms forretnings-KPI’er. Den bruger derefter en proprietær algoritme til at opdage rodårsagerne til anomalierne og sikrer, at hver anomalie kun advares én gang, så støj undgås. Anomalityper, der understøttes, inkluderer: Tidsserienomalier, drift, outliers, modeldegradering og mere.

Indsigtsmotoren er højtilpasselig via Monas intuitive no-code/low-code-konfiguration. Konfigurerbarheden af motoren gør Mona til den mest fleksible løsning på markedet, der dækker et bredt spektrum af brugsområder (f.eks. batch og streaming, med/uden forretningsfeedback / grundsandhed, på tværs af modelversioner eller mellem træning og slutning, og mere).

Til sidst støttes denne indsigtsmotor af en visualiseringsdashboard, hvor indsigt kan ses, og en samling undersøgelsesværktøjer til at muliggøre rodårsagsanalyse og yderligere udforskning af kontekstinformationen. Indsigtsmotoren er også fuldt integreret med en meddelelsesmotor, der giver mulighed for at føde indsigt til brugernes egne arbejdsmiljøer, herunder e-mail, samarbejdsplatforme og så videre.

Den 31. januar præsenterede Mona sin nye AI-fairness-løsning, kan du dele nogle detaljer om, hvad denne funktion er, og hvorfor den er vigtig?

AI-fairness handler om at sikre, at algoritmer og AI-drevne systemer generelt tager ubiasede og retfærdige beslutninger. At løse og forhindre forvrængninger i AI-systemer er afgørende, da de kan føre til betydelige virkelige konsekvenser. Med AI’s stigende fremtræden ville virkningen på menneskers daglige liv være synlig på flere og flere steder, herunder automatisering af vores kørsel, mere præcis sygdomsdetektion, forbedring af vores forståelse af verden og endda skabelse af kunst. Hvis vi ikke kan stole på, at det er retfærdigt og upartisk, hvordan kan vi tillade, at det fortsætter med at sprede sig?

En af de største årsager til forvrængninger i AI er simpelthen evnen af modeltræningsdata til at repræsentere den virkelige verden fuldt ud. Dette kan stamme fra historisk diskrimination, underrepræsentation af visse grupper eller endda bevidst manipulation af data. For eksempel er et ansigtsgenkendelsessystem, der er trænet på overvejende lyskødede personer, sandsynligvis mere fejlbehæftet ved at genkende personer med mørkere hudtoner. Ligeså kan en sprogmodel, der er trænet på tekstdata fra et snævert udvalg af kilder, udvikle forvrængninger, hvis data er skævt mod visse verdenssyn, på emner som religion, kultur og så videre.

Monas AI-fairness-løsning giver AI- og forretningshold tillid til, at deres AI er fri for forvrængninger. I regulerede sektorer kan Monas løsning forberede hold på overholdelsesparathed.

Monas fairness-løsning er speciel, fordi den sidder på Mona-platformen – en bro mellem AI-data og -modeller og deres virkelige verdensimplikationer. Mona ser på alle dele af forretningsprocessen, som AI-modellen betjener i produktion, for at korrelerer mellem træningsdata, modelopførsel og virkelige verdensresultater for at give den mest omfattende vurdering af retfærdighed.

For det andet har den en enestående analytisk motor, der giver mulighed for fleksibel segmentering af data for at kontrollere relevante parametre. Dette giver mulighed for nøjagtige korrelationsvurderinger i den rette kontekst, undgår Simpsons paradox og giver en dyb, reel “forvrængnings-score” for enhver performancesmåler og på enhver beskyttet funktion.

Så jeg ville sige, at Mona er et grundlæggende element for hold, der skal bygge og skalerer ansvarlig AI.

Hvad er din vision for AI’s fremtid?

Dette er et stort spørgsmål.

Jeg tror, det er let at forudsige, at AI vil fortsætte med at vokse i brug og påvirkning på en række brancher og aspekter af menneskers liv. Men det er svært at tage alvorligt en vision, der er detaljeret og samtidig forsøger at dække alle AI’s brugsområder og implikationer i fremtiden. Fordi ingen virkelig ved nok til at male det billede troværdigt.

Det, vi ved med sikkerhed, er, at AI vil være i hænderne på flere mennesker og tjene flere formål. Behovet for styring og gennemsigtighed vil derfor øge betydeligt.

Virkelig indsigt i AI og hvordan det fungerer vil spille to primære roller. Først vil det hjælpe med at indgyde tillid hos mennesker og løfte modstandens barrierer for en hurtigere adoption. Anden vil det hjælpe med at sikre, at AI ikke kommer ud af kontrol.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Mona Labs.