Yotam Oren, CEO og medgrunnlegger av Mona Labs – Intervju-serie

Yotam Oren er CEO og medgrunnlegger av Mona Labs, en plattform som muliggjør at bedrifter kan transformere AI-initiativer fra laboratorieeksperimenter til skalerbare forretningsoperasjoner ved å forstå hvordan ML-modeller oppfører seg i virkelige forretningsprosesser og -applikasjoner.

Mona analyserer automatisk oppførselen til dine maskinlæringsmodeller over beskyttede datasegmenter og i sammenheng med forretningsfunksjoner, for å oppdage potensiell AI-forvrengning. Mona tilbyr mulighet til å generere fullstendige rettferdighetsrapporter som møter bransjestandarder og regler, og gir tillit til at AI-applikasjonen er i samsvar og fri for forvrengning.

Hva var det som først tiltalte deg til datavitenskap?

Datavitenskap er en populær karrierevei i min familie, så det var alltid et mulig valg i bakhodet. Selvfølgelig er israelsk kultur meget pro-teknologi. Vi feirer innovative teknologer, og jeg hadde alltid oppfatningen av at datavitenskap ville gi meg en mulighet for vekst og prestasjon.

Til tross for dette, ble det først en personlig lidenskap når jeg nådde universitetsalder. Jeg var ikke en av de barna som begynte å kode i ung alder. I min ungdom var jeg for opptatt av å spille basketball til å bry meg om datamaskiner. Etter videregående skole, tilbrakte jeg nære 5 år i militæret, i operative/stridende ledelsesroller. Så, på en måte, begynte jeg faktisk å lære om datavitenskap først når jeg måtte velge en akademisk hovedfag på universitetet. Det som fanget min oppmerksomhet umiddelbart, var at datavitenskap kombinerte løsning av problemer og læring av språk (eller språk). To ting jeg var spesielt interessert i. Fra da av, var jeg hooked.

Fra 2006 til 2008 arbeidet du med kart og navigasjon for en liten startup, hva var noen av dine viktigste erfaringer fra denne perioden?

Min rolle i Telmap var å bygge en søkemotor på toppen av kart- og plasseringsdata.

Dette var de aller første dagene med “big data” i bedriftene. Vi kalte det ikke så, men vi samlet inn enorme datamengder og prøvde å trekke ut de mest betydningsfulle og relevante innsiktene for å vise til våre sluttbrukere.

En av de slående erkjennelsene jeg hadde, var at bedrifter (inkludert oss) brukte så lite av sine data (ikke å nevne offentlig tilgjengelige eksterne data). Det var så mye potensiale for nye innsikt, bedre prosesser og opplevelser.

Den andre erkjennelsen var at å få tak i mer av våre data, avhengig av å ha bedre arkitektur, bedre infrastruktur og så videre.

Kunne du dele historien bak Mona Labs?

De tre av oss, medgrunnleggere, har vært rundt dataprodukter gjennom hele vår karriere.

Nemo, teknologidirektøren, er min college-venn og klasskamerat, og en av de første ansatte i Google (GOOGL ) Tel Aviv. Han startet et produkt der som heter Google Trends, som hadde mye avansert analyse og maskinlæring basert på søke-data. Itai, den andre medgrunnleggeren og produktansvarlig, var på Nemos team i Google (og jeg møtte ham gjennom Nemo). De to var alltid frustrert over at AI-drevne systemer ble forlatt uten overvåking etter initial utvikling og testing. Til tross for vanskeligheter med å teste disse systemene før produksjon, visste teamene ikke hvordan godt deres prediktive modeller fungerte over tid. I tillegg syntes det som om de bare fikk feedback om AI-systemer når ting gikk galt og utviklingsteamet ble kalt inn for en “brannøvelse” for å fikse katastrofale problemer.

Samtidig var jeg konsulent i McKinsey & Co, og en av de største barrierene jeg så for AI- og Big Data-programmer som skalerer i store bedrifter, var mangelen på tillit som forretningsstakeholdere hadde til disse programmene.

Den felles tråden her ble tydelig for Nemo, Itai og meg selv i samtaler. Bransjen trengte infrastruktur for å overvåke AI/ML-systemer i produksjon. Vi kom opp med visjonen om å gi denne visningen for å øke tilliten til forretningsstakeholdere, og å muliggjøre at AI-teamene alltid hadde hånd om hvordan deres systemer fungerte og kunne iterere mer effektivt.

Og det var da Mona ble grunnlagt.

Hva er noen av de nåværende problemene med manglende AI-gjennomsiktighet?

I mange bransjer har organisasjoner allerede brukt titalls millioner dollar på AI-programmene sine, og har sett en del initial suksess i laboratoriet og i små skala-utbredelser. Men å skalerer opp, å oppnå bredt aksept og å få forretningsverdenen til å faktisk stole på AI, har vært en massiv utfordring for nesten alle.

Hvorfor skjer dette? Vel, det starter med at god forskning ikke automatisk oversettes til gode produkter (En kunde sa en gang til oss: “ML-modeller er som biler, så snart de forlater laboratoriet, mister de 20% av sin verdi”). Gode produkter har støttesystemer. Det finnes verktøy og prosesser for å sikre at kvalitet opprettholdes over tid, og at problemer oppdages tidlig og håndteres effektivt. Gode produkter har også en kontinuerlig tilbakemeldingsloop, de har en forbedringscyklus og en veikart. Følgelig krever gode produkter dyp og konstant ytelsesgjennomsiktighet.

Når det er manglende gjennomsiktighet, ender du opp med:

• Problemer som forblir skjult en stund og så eksploderer på overflaten og forårsaker “brannøvelser”
• Lange og manuelle undersøkelser og mildringstiltak
• Et AI-program som ikke er tillitelig for forretningsbrukerne og sponsorene, og som til slutt ikke skalerer

Hva er noen av utfordringene bak å gjøre prediktive modeller gjennomsiktige og tillitlige?

Gjennomsiktighet er en viktig faktor for å oppnå tillit, naturligvis. Gjennomsiktighet kan komme i mange former. Det finnes enkelt-prediksjons-gjennomsiktighet som kan inkludere å vise nivået av tillit til brukeren, eller å gi en forklaring/rationale for prediksjonen. Enkelt-prediksjons-gjennomsiktighet er hovedsakelig rettet mot å hjelpe brukeren å bli komfortabel med prediksjonen. Og så finnes det en generell gjennomsiktighet som kan inkludere informasjon om prediktiv nøyaktighet, uventede resultater og potensielle problemer. Generell gjennomsiktighet er nødvendig for AI-teamet.

Det mest utfordrende aspektet ved generell gjennomsiktighet er å oppdage problemer tidlig, å varsle den relevante teammedlemmet så de kan ta korrektive tiltak før katastrofer skjer.

Hvorfor det er utfordrende å oppdage problemer tidlig:

• Problemer begynner ofte små og simrer, før de til slutt eksploderer på overflaten.
• Problemer begynner ofte på grunn av ukontrollerbare eller eksterne faktorer, som datakilder.
• Det finnes mange måter å “dele verden” på og å utforske alle små lommer kan resultere i mye støy (varslingstrøtthet), når dette gjøres på en naiv måte.

En annen utfordrende aspekt ved å gi gjennomsiktighet er den enorme spredningen av AI-bruksområder. Dette gjør en “en-størrelse-passer-alle”-tilnærming nesten umulig. Hvert AI-bruksområde kan inkludere forskjellige datastrukturer, forskjellige forretningscykler, forskjellige suksesskriterier og ofte forskjellige tekniske tilnærminger og selv stacker.

Så, det er en monumental oppgave, men gjennomsiktighet er så grunnleggende for suksessen til AI-programmene, så du må gjøre det.

Kunne du dele noen detaljer om løsningene for NLU / NLP-modeller og chatboter?

Conversasjons-AI er en av Mona’s kjerneområder. Vi er stolte av å støtte innovative bedrifter med en rekke conversasjons-AI-bruksområder, inkludert språkmodeller, chatboter og mer.

En felles faktor over disse bruksområdene er at modellene opererer nær (og noen ganger synlig) kunder, så risikoen for inkonsistent ytelse eller dårlig oppførsel er høyere. Det blir så viktig for conversasjons-AI-teamene å forstå systemoppførsel på et detaljert nivå, som er et område av Mona’s overvåkingsløsningens styrker.

Hva Mona’s løsning gjør som er ganske unikt, er å systematisk si gjennom grupper av samtaler og finne lommer hvor modellene (eller botene) oppfører seg dårlig. Dette tillater conversasjons-AI-teamene å oppdage problemer tidlig og før kundene legger merke til dem. Denne funksjonen er en kritisk beslutningsfaktor for conversasjons-AI-teamene når de velger overvåkingsløsninger.

For å summe det opp, tilbyr Mona en løsning for conversasjons-AI-overvåking. Den begynner med å sikre at det finnes en enkelt kilde for informasjon om systemoppførselen over tid, og fortsetter med kontinuerlig sporing av nøkkelindikatorer og proaktive innsikt om lommer av dårlig oppførsel – som muliggjør at teamene kan ta forbyggende, effektive korrektive tiltak.

Kunne du tilby noen detaljer om Mona’s innsikt-motor?

Sikkert. La oss begynne med motivasjonen. Målet med innsikt-motoren er å fremheve anomalier til brukerne, med bare nok kontekstinformasjon og uten å skape støy eller føre til varslingstrøtthet.

Innsikt-motoren er en enestående analytisk arbeidsflyt. I denne arbeidsflyten søker motoren etter anomalier i alle datasegmenter, som muliggjør tidlig oppdaging av problemer når de ennå er “små”, og før de påvirker hele datamengden og nedstrøms forretnings-KPI-er. Den bruker deretter en proprietær algoritme for å oppdage årsakene til anomalier og sikrer at hver anomali varsles bare en gang, så støy unngås. Anomalitypene som støttes inkluderer: tidsserienomalier, drifter, outliers, modellforverring og mer.

Innsikt-motoren er høyt tilpassbar via Mona’s intuitive kode-/lavkode-konfigurasjon. Tilpassbarheten til motoren gjør Mona til den mest fleksible løsningen på markedet, som dekker et bredt spekter av bruksområder (f.eks. batch og strømming, med/uten forretnings-tilbakemelding / grunn-sannhet, over modellversjoner eller mellom trening og inferens, og mer).

Til slutt støttes denne innsikt-motoren av en visualiseringsdashbord, hvor innsikt kan vises, og en sett med undersøkelsesverktøy for å muliggjøre årsaksanalyse og videre utforsking av kontekstinformasjonen. Innsikt-motoren er også fullt integrert med en varsling-motor som muliggjør å mata innsikt til brukernes egne arbeidsmiljøer, inkludert e-post, samarbeidsplattformer og så videre.

Den 31. januar avduket Mona sin nye AI-gjennomsiktighetsløsning, kunne du dele noen detaljer om hva denne funksjonen er og hvorfor den er viktig?

AI-gjennomsiktighet handler om å sikre at algoritmer og AI-drevne systemer generelt tar ubiasede og rettferdige beslutninger. Å håndtere og forebygge forvrengning i AI-systemer er avgjørende, da de kan føre til betydelige virkelige konsekvenser. Med AI’s økende fremtreden, ville påvirkningen på folks daglige liv bli synlig i flere og flere steder, inkludert automatisering av vår kjøring, oppdaging av sykdommer mer nøyaktig, forbedring av vår forståelse av verden og selv skapelse av kunst. Hvis vi ikke kan stole på at det er rettferdig og ubiast, hvordan kan vi tillate det å fortsette å spre?

En av de største årsakene til forvrengning i AI er enkelt og greit evnen til modelltrening-data å representere den virkelige verden fullstendig. Dette kan stamme fra historisk diskriminering, under-representasjon av visse grupper eller selv bevisst manipulering av data. For eksempel, et ansiktsgjenkjenningssystem trent på overveiende lys-hudede individer, er sannsynligvis å ha en høyere feilrate i gjenkjenning av individer med mørkere hudtoner. Liksom et språkmodell trent på tekstdata fra en smal sett av kilder, kan utvikle forvrengning hvis data er skjev mot visse verdensbilder, på tema som religion, kultur og så videre.

Mona’s AI-gjennomsiktighetsløsning gir AI- og forretnings-teamene tillit til at deres AI er fri for forvrengning. I regulerte sektorer kan Mona’s løsning forberede teamene for samsvar-klarhet.

Mona’s gjennomsiktighetsløsning er spesiell fordi den sitter på Mona-plattformen – en bro mellom AI-data og -modeller og deres virkelige verdensimplikasjoner. Mona ser på alle deler av forretningsprosessen som AI-modellen tjener i produksjon, for å korrelere mellom trening-data, modell-oppførsel og faktiske virkelige resultater for å gi den mest omfattende vurderingen av gjennomsiktighet.

For det andre har den en enestående analytisk motor som tillater fleksibel segmentering av data for å kontrollere relevante parametre. Dette muliggjør nøyaktige korrelasjonsvurderinger i riktig kontekst, unngår Simpson’s paradox og gir en dyp, virkelig “forvrengnings-score” for enhver ytelses-måling og på enhver beskyttet funksjon.

Så, totalt sett ville jeg si at Mona er et grunnleggende element for team som må bygge og skalerer ansvarlig AI.

Hva er din visjon for fremtiden av AI?

Dette er et stort spørsmål.

Jeg tror det er rett fremt å forutsi at AI vil fortsette å vokse i bruk og påvirkning over en rekke bransjer og aspekter av folks liv. Men det er vanskelig å ta seriøst en visjon som er detaljert og samtidig prøver å dekke alle bruksområdene og implikasjonene av AI i fremtiden. Fordi ingen virkelig vet nok til å male det bildet troverdig.

Det som er sikkert, er at AI vil være i hendene på flere mennesker og tjene flere formål. Behovet for styring og gjennomsiktighet vil derfor øke betydelig.

Ekte visning inn i AI og hvordan det fungerer, vil spille to primære roller. Først, vil det hjelpe å bygge tillit hos mennesker og løfte motstandsbarrerene for raskere aksept. For det andre, vil det hjelpe de som opererer AI til å sikre at det ikke kommer ut av kontroll.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Mona Labs.