Liran Hason, medgrunnlegger og CEO av Aporia – Intervju-serie

Liran Hason er medgrunnlegger og CEO av Aporia, en full-stack ML-observabilitetsplattform som brukes av Fortune 500-selskaper og data science-team over hele verden for å sikre ansvarlig AI. Aporia integrerer sømløst med alle ML-infrastrukturer. Uansett om det er en FastAPI-server på toppen av Kubernetes, et distribusjonsverktøy med åpen kildekode som MLFlow eller en maskinlæringsplattform som AWS Sagemaker

Før han grunnla Aporia, var Liran en ML-arkitekt i Adallom (kjøpt av Microsoft), og senere en investor i Vertex Ventures.

Du begynte å kode da du var 10 år. Hva var det som først tiltrakk deg ved datamaskiner, og hva jobbet du med?

Det var i 1999, og en venn av mine ringte meg og sa at han hadde bygget en nettside. Etter å ha skrevet inn en 200 tegn lang adresse i nettleseren min, så jeg en nettside med hans navn på den. Jeg var imponert over at han hadde laget noe på sin egen datamaskin, og at jeg kunne se det på min egen datamaskin. Dette gjorde meg veldig nysgjerrig på hvordan det fungerte og hvordan jeg kunne gjøre det samme. Jeg spurte moren min om å kjøpe meg en HTML-bok, som var mitt første skritt inn i programmering.

Jeg finner stor glede i å ta på meg tekniske utfordringer, og etter hvert som tiden gikk, vokste min nysgjerrighet bare. Jeg lærte ASP, PHP og Visual Basic, og tok til meg alt jeg kunne.

Da jeg var 13 år, tok jeg allerede frilansoppdrag og bygde nettsider og skrivebordsapplikasjoner.

Når jeg ikke hadde noen aktive jobber, jobbet jeg på mine egne prosjekter – vanligvis forskjellige nettsider og applikasjoner som skulle hjelpe andre mennesker å nå sine mål:

Blue-White Programming – er et hebraisk programmeringsspråk, lignende HTML, som jeg bygde etter å ha innsett at barn i Israel som ikke har et høyt nivå av engelsk er begrenset eller fratatt muligheten til å kode.

Blinky – Besteforeldrene mine er døve og bruker tegnspråk til å kommunisere med sine venner. Da videokonferanse-programvare som Skype og ooVoo dukket opp, ble det mulig for dem for første gang å snakke med venner selv om de ikke var i samme rom (som vi alle gjør med våre telefoner). Men siden de ikke kunne høre, visste de ikke når de hadde en innkommende samtale. For å hjelpe dem ut, skrev jeg programvare som identifiserte innkommende videosamtaler og varslet dem ved å blinke en LED-array i en liten hårdvaruenhet jeg hadde bygget og koblet til deres datamaskin.

Dette er bare noen av prosjektene jeg bygde som tenåring. Min nysgjerrighet stoppet aldri, og jeg fant meg selv lærer C, C++, Assembly og hvordan operativsystemer fungerer, og prøvde å lære så mye som mulig.

Kunne du dele historien om din reise som maskinlæringsarkitekt i Adallom, som ble kjøpt av Microsoft (MSFT )?

Jeg startet min reise i Adallom etter min militærtjeneste. Etter 5 år i hæren som kaptein, så jeg en stor mulighet til å slutte meg til et oppadstigende selskap og marked – som en av de første ansatte. Selskapet ble ledet av flinke grunnleggere, som jeg kjente fra min militærtjeneste, og ble støttet av topp-klassens venturekapitalister – som Sequoia. Eksplosjonen av skyteknologier på markedet var fortsatt i sin relative barndom, og vi bygde en av de aller første sky-sikkerhetsløsningene på den tiden. Bedrifter var bare begynt å gå over fra lokale til sky, og vi så nye bransjestandarder dukke opp – som Office 365, Dropbox (DBX ), Marketo, Salesforce og andre.

I mine første par uker, visste jeg allerede at jeg ville starte mitt eget selskap en dag. Jeg følte, fra et teknisk perspektiv, at jeg var klar for alle utfordringer som kom mine vei, og hvis ikke jeg selv, visste jeg de riktige menneskene som kunne hjelpe meg å overvinne alt.

Adallom hadde behov for noen som hadde dyptgående kunnskap om teknologi, men også kunne være kundeorientert. Omtrent en måned senere satt jeg på et fly til USA, for første gang i mitt liv, for å møte mennesker fra LinkedIn (før Microsoft). Et par uker senere, og de ble våre første betalende kunder i USA. Dette var bare ett av mange store korporasjoner – Netflix , Disney og Safeway – som jeg hjalp å løse kritiske sky-problemer for. Det var svært lærerikt og styrket selvtilliten min.

For meg handlet det å bli med i Adallom om å slutte meg til et sted der jeg trodde på markedet, teamet og visjonen. Jeg er svært takknemlig for muligheten jeg fikk der.

Formålet med det jeg gjør, var og er svært viktig for meg. Slik var det også i hæren. Jeg kunne se at Adalloms tilnærming med å koble seg til SaaS-løsninger, overvåke aktiviteten til brukere og ressurser og finne avvik ville være fremtidens arbeidsmåte. Derfor så jeg Adallom som et selskap som ville lykkes.

Jeg var ansvarlig for hele arkitekturen til ML-infrastrukturen vår og opplevde mangelen på egnede verktøy på nært hold. Det var tydelig at det måtte finnes en dedikert løsning med ett sentralt sted der man kunne se alle modellene, hvilke beslutninger de tok for virksomheten, og følge opp ML-målene proaktivt. Noen ganger oppdaget vi problemer med modellene altfor sent, noe som var dårlig for både brukerne og virksomheten. Her begynte ideen til Aporia å ta form.

Kunne du dele opphavet til Aporia?

Min egen personlige erfaring med maskinlæring starter i 2008, som en del av et samarbeidsprosjekt på Weizmann-instituttet, sammen med University of Bath og et kinesisk forskningssenter. Der bygde jeg et biometrisk identifikasjonssystem ved å analysere bilder av iris. Jeg klarte å oppnå 94% nøyaktighet. Prosjektet var en suksess og ble applaudert fra et forskningsperspektiv. Men for meg, hadde jeg bygget programvare siden jeg var 10 år gammel, og noe føltes på en måte ikke virkelig. Identifikasjonssystemet kunne ikke brukes i det virkelige liv, fordi det bare fungerte godt på det bestemte datasettet jeg hadde brukt. Resultatene var ikke deterministiske nok.

Dette er bare litt bakgrunn. Når du bygger et maskinlæringsystem, for eksempel for biometrisk identifikasjon, ønsker du at forutsagnene skal være deterministiske – du ønsker å vite at systemet nøyaktig identifiserer en bestemt person, rett? Akkurat som hvordan iPhone ikke låser opp hvis den ikke gjenkjenner den riktige personen ved riktig vinkel, dette er det ønskede resultatet. Men dette var ikke tilfelle med maskinlæring da jeg først kom inn i feltet.

Omtrent syv år senere opplevde jeg på nært hold, i Adallom, virkeligheten av å kjøre produksjonsmodeller uten pålitelige sikkerhetsmekanismer, da de tar beslutninger for vårt bedrift som påvirker våre kunder. Deretter var jeg heldig å jobbe som investor i Vertex Ventures, i tre år. Jeg så hvordan flere og flere organisasjoner brukte ML, og hvordan selskaper gikk over fra å bare snakke om ML til å faktisk gjøre maskinlæring. Men disse selskapene tok opp ML bare for å bli utfordret av samme problemene vi hadde i Adallom.

Alle skyndte seg å ta i bruk ML og forsøkte å bygge egne overvåkingssystemer. Dette var ikke kjernevirksomheten deres, og utfordringene var komplekse. Da forsto jeg at dette var min mulighet til å gjøre en stor forskjell.

AI tas i bruk i nesten alle bransjer, blant annet helsevesen, finans og bilindustri, og vil berøre oss alle.

Aporia viser sin sanne verdi – muliggjør alle disse livsforbedrende bruksområdene å fungere som tiltent og hjelpe til å forbedre samfunnet. Fordi, som med all programvare, vil du få feil, og maskinlæring er ingen unntak. Hvis ubehandlet, kan disse ML-problemene virkelig skade bedriftens kontinuitet og påvirke samfunnet med uønskede bias-resultater. Ta Amazons forsøk på å implementere en AI-rekrutteringsverktøy (AMZN ) – uønsket bias forårsaket at maskinlæringsmodellen sterkt anbefalte mannlige kandidater over kvinnelige. Dette er åpenbart et uønsket resultat. Derfor trengs det en dedikert løsning for å oppdage uønsket bias før det kommer til nyhetene og påvirker sluttbrukerne.

For at organisasjoner skal kunne stole på maskinlæring og dra nytte av den, må de vite når den ikke fungerer riktig. Nye regler gjør også at ML-brukere ofte trenger måter å forklare modellenes prediksjoner på. Forskning og utvikling av nye modeller og innovative prosjekter er avgjørende, men når modellene møter den virkelige verden og tar reelle beslutninger for mennesker, virksomheter og samfunnet, trengs en helhetlig observabilitetsløsning som gjør det mulig å stole på AI.

Kan du forklare betydningen av gjennomsiktig og forklarbar AI?

Mens det kan se ut som om det er lignende, er det en viktig forskjell å gjøre mellom tradisjonell programvare og maskinlæring. I programvare har du en programvare-utvikler, som skriver kode, definerer logikken til applikasjonen, vi vet eksakt hva som vil skje i hver kodeflyt. Det er deterministisk. Dette er hvordan programvare vanligvis bygges, utviklerne lager testtilfeller, tester kanttilfeller, får til 70% – 80% dekning – du føler deg godt nok til å kunne utgi til produksjon. Hvis noen varsler dukker opp, kan du enkelt feilsøke og forstå hva som gikk galt, og fikse det.

Dette er ikke tilfelle med maskinlæring. I stedet for at et menneske definerer logikken, defineres den som en del av modellens treningprosess. Når vi snakker om logikk, er det ikke et sett med regler, men heller en matrise med millioner og milliarder av tall som representerer maskinlæringsmodellens “hjerne”. Og dette er en svart boks, vi vet ikke meningen av hvert enkelt tall i denne matrisen. Men vi vet statistisk, så dette er probabilistisk, og ikke deterministisk. Det kan være nøyaktig i 83% eller 93% av tiden. Dette bringer opp mange spørsmål, rett? Først, hvordan kan vi stole på et system som vi ikke kan forklare hvordan det kommer til sine forutsagn? Andre, hvordan kan vi forklare forutsagn for høyt regulerte industrier – som finanssektoren. For eksempel, i USA, er finansinstitusjoner forpliktet av loven til å forklare til sine kunder hvorfor de ble avvist for en lånesøknad.

Manglende evne til å forklare maskinlæringsprediksjoner i tekst som mennesker kan lese kan være en stor hindring for bred innføring av ML over industrier. Vi ønsker å vite, som samfunn, at modellen ikke tar bias-beslutninger. Vi ønsker å sikre at vi forstår hva som fører modellen til en bestemt beslutning. Dette er hvor forklarbarhet og gjennomsiktighet er ekstremt kritisk.

Hvordan fungerer Aporias gjennomsiktige og forklarbare AI-verktøy?

Aporias verktøy for forklarbar AI inngår i et samlet system for observabilitet i maskinlæring. Uten god innsikt i produksjonsmodeller og pålitelig overvåking og varsling er det vanskelig å stole på forklarbar AI: Det er ingen vits i å forklare prediksjoner dersom resultatet er upålitelig. Aporia gir ett samlet overblikk over alle aktive modeller, tilpassbar overvåking, varsling, feilsøkingsverktøy, rotårsaksanalyse og forklarbar AI. Det er en dedikert observabilitetsløsning for hele stakken og alle problemer som oppstår i produksjon.

Aporia-plattformen er teknologiuavhengig og gir AI-orienterte virksomheter, datavitenskapsteam og ML-team et sentralt dashbord med full innsikt i modellenes tilstand, prediksjoner og beslutninger. Dermed kan de stole på sin AI. Med ett klikk kan organisasjoner forklare ML-beslutninger og holde relevante interessenter orientert, få menneskelesbare forklaringer på konkrete prediksjoner eller simulere «Hva om?»-situasjoner. Aporia følger kontinuerlig dataene som mates inn i modellen og prediksjonene, og varsler proaktivt om ytelsesfall, utilsiktet skjevhet, datadrift og muligheter for forbedring. Undersøkelsesverktøyene lar deg finne rotårsaken til hendelser, rette problemer og forbedre modeller i produksjon.

Noen av funksjonene er verktøy for undersøkelse av datapunkter og tidsserier. Hvordan bidrar disse til å forhindre AI-skjevhet og drift?

Datapunkter gir et direkte innblikk i dataene modellen mottar og prediksjonene den lager for virksomheten. En løpende datastrøm gjør det mulig å forstå nøyaktig hva som skjer. Denne innsikten er avgjørende for åpenhet. Ting endrer seg over tid, og flere endringer kan være korrelerte. Det er her undersøkelse av tidsserier kommer inn.

Nylig sviktet alle AI-prediksjonsverktøyene til store detaljhandlere i å forutsi problemer i forsyningskjeden. Hvordan ville Aporia løse dette?

Hovedutfordringen er at vi snakker om fremtidige prediksjoner: Vi har forutsagt at noe vil skje eller ikke skje, for eksempel hvor mange som vil kjøpe en bestemt skjorte eller en ny PlayStation.

Det tar tid å samle inn de faktiske resultatene, mer enn noen få uker. Først da kan vi fastslå den reelle etterspørselen. Totalt går det noen måneder fra modellen lager prediksjonen til virksomheten vet om den var riktig. Da er det ofte for sent: Virksomheten har enten tapt potensielle inntekter eller fått redusert margin fordi overskuddslager må selges med store rabatter.

Her er Aporia nyttig. Først gir plattformen åpenhet og innsikt i beslutningene: Er det svingninger? Er det noe som ikke gir mening? Store detaljhandlere har dessuten enorme lagre som nesten ikke kan følges manuelt. Aporia er et automatisert og tilpassbart overvåkingssystem som er aktivt døgnet rundt. Det følger data og prediksjoner, analyserer prediksjonenes statistiske atferd og kan forutse og oppdage endringer i forbrukeratferd og data straks de oppstår. I stedet for å vente seks måneder på å oppdage at etterspørselsprognosen var feil, kan man identifisere feil retning etter noen dager. Aporia forkorter dermed perioden fra noen måneder til noen dager. Dette er et stort fremskritt for alle som arbeider med ML.

Er det noe annet du ønsker å dele om Aporia?

Vi vokser kontinuerlig og søker etter flotte mennesker med strålende sinn til å slutte seg til Aporias reise. Se våre åpne stillinger.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Aporia.