Yotam Oren, VD och medgrundare av Mona Labs – Intervjuer

Yotam Oren är VD och medgrundare av Mona Labs, en plattform som möjliggör för företag att omvandla AI-initiativ från laboratorieexperiment till skalbara affärsverksamheter genom att förstå hur ML-modeller beter sig i verkliga affärsprocesser och applikationer.

Mona analyserar automatiskt beteendet hos dina maskinlärningsmodeller över skyddade datasegment och i sammanhanget med affärsfunktioner, för att upptäcka potentiell AI-fördom. Mona erbjuder möjligheten att generera kompletta rättviserapporter som uppfyller branschstandarder och regler, och ger förtroende för att AI-applikationen är förenlig och fri från fördom.

Vad var det som initialt drog dig till datavetenskap?

Datavetenskap är en populär karriärväg i min familj, så det var alltid ett alternativ i bakhuvudet. Naturligtvis är den israeliska kulturen mycket pro-teknik. Vi firar innovativa teknologer och jag hade alltid uppfattningen att datavetenskap skulle erbjuda mig en möjlighet till tillväxt och prestation.

Trots detta blev det först en personlig passion när jag nådde universitetsålder. Jag var inte en av de barn som började koda i mellanstadiet. I min ungdom var jag för upptagen med att spela basket för att bry mig om datorer. Efter gymnasiet tillbringade jag nästan 5 år i militären, i operativa/stridsledande roller. Så, på sätt och vis, lärde jag mig egentligen mer om datavetenskap först när jag behövde välja ett akademiskt huvudämne på universitetet. Det som fångade min uppmärksamhet direkt var att datavetenskap kombinerade problemlösning och språkinlärning (eller språk). Två saker som jag var särskilt intresserad av. Därefter var jag fast.

Från 2006 till 2008 arbetade du med kartor och navigation för ett litet företag, vad var några av dina viktigaste insikter från den tiden?

Min roll på Telmap var att bygga en sökmotor ovanpå kart- och platdata.

Detta var de mycket tidiga dagarna av “stora data” inom företaget. Vi kallade det inte ens så, men vi förvärvade enorma datamängder och försökte dra de mest betydelsefulla och relevanta insikterna för att visa för våra slutanvändare.

En av de slående insikterna jag hade var att företag (inklusive oss) använde så lite av sina data (för att inte tala om offentligt tillgängliga externa data). Det fanns så mycket potential för nya insikter, bättre processer och upplevelser.

Den andra insikten var att möjligheten att få mer av våra data berodde på att ha bättre arkitektur, bättre infrastruktur och så vidare.

Kan du dela den historien bakom Mona Labs?

De tre av oss, medgrundare, har varit runt dataprodukter under hela vår karriär.

Nemo, teknisk chef, är min universitetsvän och klasskamrat, och en av de första anställda på Google Tel Aviv. Han startade en produkt där som kallades Google Trends, som hade mycket avancerad analys och maskinlärning baserad på sökmotordata. Itai, den andra medgrundaren och produktchefen, var i Nemos team på Google (och jag och han möttes genom Nemo). De två var alltid frustrerade över att AI-drivna system lämnades oövervakade efter den initiala utvecklingen och testningen. Trots svårigheten att ordentligt testa dessa system före produktion, visste teamen inte hur bra deras prediktiva modeller fungerade över tiden. Dessutom tycktes det som att de enda gånger de fick någon återkoppling om AI-systemen var när saker gick dåligt och utvecklingsteamet kallades för en “brandkårsutryckning” för att åtgärda katastrofala problem.

Samtidigt var jag konsult på McKinsey & Co, och en av de största barriärerna jag såg för AI- och Big Data-program som skalade i stora företag var bristen på förtroende som affärsstakeholders hade för dessa program.

Den gemensamma tråden här blev tydlig för Nemo, Itai och mig i samtal. Branschen behövde infrastrukturen för att övervaka AI/ML-system i produktion. Vi kom med visionen att tillhandahålla denna synlighet för att öka förtroendet hos affärsstakeholders och för att möjliggöra för AI-team att alltid ha kontroll över hur deras system fungerar och för att iterera mer effektivt.

Och det var då Mona grundades.

Vad är några av de nuvarande problemen med brist på AI-transparens?

I många branscher har organisationer redan spenderat tiotals miljoner dollar på sina AI-program, och har sett en del initial framgång i laboratoriet och i småskaliga distributioner. Men att skala upp, uppnå bred anammande och få affären att faktiskt lita på AI har varit en massiv utmaning för nästan alla.

Varför händer detta? Jo, det börjar med det faktum att bra forskning inte automatiskt översätts till bra produkter (En kund sa till oss en gång: “ML-modeller är som bilar, så fort de lämnar laboratoriet, förlorar de 20% av sin värde”). Bra produkter har stödsystem. Det finns verktyg och processer för att säkerställa att kvaliteten upprätthålls över tiden, och att problem upptäcks tidigt och åtgärdas effektivt. Bra produkter har också en kontinuerlig återkopplingsloop, de har en förbättringscykel och en roadmap. Följaktligen kräver bra produkter djup och konstant prestationstransparens.

När det finns brist på transparens, hamnar man med:

• Problem som förblir dolda under en tid och sedan briserar i ytan och orsakar “brandkårsutryckningar”
• Långa och manuella utredningar och åtgärder
• Ett AI-program som inte litar på affärsanvändare och sponsorer och slutligen misslyckas med att skala

Vad är några av utmaningarna bakom att göra prediktiva modeller transparenta och tillförlitliga?

Transparens är en viktig faktor för att uppnå förtroende, naturligtvis. Transparens kan komma i många former. Det finns enkel prediktionstransparens som kan inkludera att visa förtroendenivån för användaren, eller ge en förklaring/motivering för prediktionen. Enkel prediktionstransparens riktar sig främst till att hjälpa användaren att känna sig bekväm med prediktionen. Och sedan finns det övergripande transparens som kan inkludera information om prediktionsnoggrannhet, oväntade resultat och potentiella problem. Övergripande transparens behövs av AI-teamet.

Den mest utmanande delen av övergripande transparens är att upptäcka problem tidigt, varna relevant teammedlem så att de kan vidta korrigerande åtgärder innan katastrofer inträffar.

Varför det är utmanande att upptäcka problem tidigt:

• Problem börjar ofta små och simmar, innan de till slut briserar i ytan.
• Problem börjar ofta på grund av kontrollerbara eller externa faktorer, såsom datakällor.
• Det finns många sätt att “dela världen” och att uttömmande leta efter problem i små fickor kan resultera i mycket brus (varningsutmattning), åtminstone när detta görs på ett naivt sätt.

En annan utmanande aspekt av att tillhandahålla transparens är den enorma spridningen av AI-användningsfall. Detta gör att en “en-storlek-passar-alla”-approach nästan är omöjlig. Varje AI-användningsfall kan inkludera olika datastrukturer, olika affärsprocesser, olika framgångsmått och ofta olika tekniska tillvägagångssätt och till och med stackar.

Så, det är en monumental uppgift, men transparens är så fundamental för AI-programmens framgång, så man måste göra det.

Kan du dela några detaljer om lösningarna för NLU / NLP-modeller och chatbots?

Konversations-AI är en av Monas kärnvertikaler. Vi är stolta över att stödja innovativa företag med en mängd olika konversations-AI-användningsfall, inklusive språkmodeller, chatbots och mer.

Ett gemensamt inslag över dessa användningsfall är att modellerna fungerar nära (och ibland synligt) kunder, så riskerna med inkonsekvent prestanda eller dåligt beteende är högre. Det blir så viktigt för konversations-AI-team att förstå systembeteende på en detaljerad nivå, vilket är ett område av styrkor för Monas övervakningslösning.

Vad Monas lösning gör som är ganska unikt är att systematiskt sikta på grupper av samtal och hitta fickor där modellerna (eller botarna) missköter sig. Detta tillåter konversations-AI-team att identifiera problem tidigt och innan kunderna märker dem. Denna funktion är en kritisk beslutsfaktor för konversations-AI-team när de väljer övervakningslösningar.

För att sammanfatta, Mona tillhandahåller en komplett lösning för konversations-AI-övervakning. Den börjar med att säkerställa att det finns en enda källa till information för systemets beteende över tiden, och fortsätter med kontinuerlig spårning av nyckelindikatorer, och proaktiva insikter om fickor av missbeteende – vilket möjliggör för team att vidta proaktiva, effektiva korrigerande åtgärder.

Kan du erbjuda några detaljer om Monas insiktssmotor?

Självklart. Låt oss börja med motivationen. Målet med insiktssmotorn är att presentera avvikelser för användarna, med precis rätt mängd kontextuell information och utan att skapa brus eller leda till varningsutmattning.

Insiktssmotorn är en unik analytisk arbetsflöde. I detta arbetsflöde söker motorn efter avvikelser i alla segment av data, vilket möjliggör tidig upptäckt av problem när de fortfarande är “små”, och innan de påverkar hela datamängden och de nedströms affärsnyckeltalen. Den använder sedan en proprietär algoritm för att upptäcka roten till avvikelserna och säkerställer att varje avvikelse varnas endast en gång så att brus undviks. Avvikelsestyper som stöds inkluderar: tids-serie-avvikelser, glidningar, utomstående, modelldegradering och mer.

Insiktssmotorn är högt anpassningsbar via Monas intuitiva no-code/low-code-konfiguration. Konfigurationsmöjligheterna för motorn gör Mona till den mest flexibla lösningen på marknaden, som täcker en mängd olika användningsfall (t.ex. batch och ström, med/utan affärsåterkoppling / grundfakta, över modellversioner eller mellan utbildning och inferens, och mer).

Slutligen stöds denna insiktssmotor av en visualiseringspanel, där insikter kan visas, och en uppsättning utredningsverktyg för att möjliggöra rotorsaksanalys och ytterligare utforskning av kontextuell information. Insiktssmotorn är också fullständigt integrerad med en varningsmotor som möjliggör att mata insikter till användarnas egna arbetsmiljöer, inklusive e-post, samarbetsplattformar och så vidare.

Den 31 januari avslöjade Mona sin nya AI-rättviselösning, kan du dela med oss detaljer om vad denna funktion är och varför den är viktig?

AI-rättvisa handlar om att säkerställa att algoritmer och AI-drivna system i allmänhet fattar obefogade och rättvisa beslut. Att hantera och förhindra fördomar i AI-system är avgörande, eftersom de kan leda till betydande verkliga konsekvenser. Med AI:s ökande framträdande kommer påverkan på människors dagliga liv att synas på allt fler platser, inklusive automatisering av vår körning, upptäckt av sjukdomar med större noggrannhet, förbättring av vår förståelse av världen och till och med skapande av konst. Om vi inte kan lita på att det är rättvist och obefogat, hur kan vi tillåta det att fortsätta att spridas?

En av de största orsakerna till fördomar i AI är enkelt den förmåga som modellträningsdata har att representera den verkliga världen i sin helhet. Detta kan bero på historisk diskriminering, underrepresentering av vissa grupper eller till och med avsiktlig manipulation av data. Till exempel är ett ansiktsigenkänningsystem som tränats på främst ljushyade individer sannolikt att ha en högre felaktighetsgrad vid igenkänning av individer med mörkare hudtoner. Likaså kan en språkmodell som tränats på textdata från en smal uppsättning källor utveckla fördomar om data är snedvriden mot vissa världsbilder, på ämnen som religion, kultur och så vidare.

Monas AI-rättviselösning ger AI- och affärsteam förtroende för att deras AI är fri från fördomar. I reglerade sektorer kan Monas lösning förbereda team för regelefterlevnad.

Monas rättviselösning är speciell eftersom den sitter på Monaplattformen – en bro mellan AI-data och modeller och deras verkliga världsimpликаtioner. Mona tittar på alla delar av affärsprocessen som AI-modellen betjänar i produktion, för att korrelera mellan träningsdata, modellbeteende och verkliga världens resultat för att ge den mest omfattande bedömningen av rättvisa.

Andra, den har en unik analytisk motor som tillåter flexibel segmentering av data för att kontrollera relevanta parametrar. Detta möjliggör exakta korrelationsbedömningar i rätt sammanhang, undviker Simpsons paradox och ger en djup, verklig “fördoms-poäng” för varje prestandamått och på varje skyddad funktion.

Så, sammanfattningsvis skulle jag säga att Mona är en grundläggande komponent för team som behöver bygga och skala ansvarsfull AI.

Vad är din vision för AI:s framtid?

Detta är en stor fråga.

Jag tror att det är lätt att förutsäga att AI kommer att fortsätta växa i användning och påverkan över en mängd olika branscher och aspekter av människors liv. Men det är svårt att ta en detaljerad vision som försöker täcka alla AI:s användningsfall och implikationer på ett trovärdigt sätt.

Det vi vet säkert är att AI kommer att finnas i händerna på fler människor och kommer att tjäna fler syften. Behovet av styrning och transparens kommer därför att öka avsevärt.

Verklig synlighet i AI och hur det fungerar kommer att spela två primära roller. Först, det kommer att hjälpa till att skapa förtroende hos människor och lyfta motståndshinder för snabbare anammande. Andra, det kommer att hjälpa den som opererar AI att säkerställa att det inte hamnar ur kontroll.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Mona Labs.