Liran Hason, medgrunnlegger og CEO av Aporia – Intervju-serie

Liran Hason er medgrunnlegger og CEO av Aporia, en full-stack ML-observabilitetsplattform som brukes av Fortune 500-selskaper og data science-team over hele verden for å sikre ansvarlig AI. Aporia integrerer sømløst med alle ML-infrastrukturer. Uansett om det er en FastAPI-server på toppen av Kubernetes, et åpen kilde-deployment-verktøy som MLFlow eller en maskinlæringsplattform som AWS Sagemaker

Før han grunnla Aporia, var Liran en ML-arkitekt i Adallom (kjøpt av Microsoft), og senere en investor i Vertex Ventures.

Jeg begynte å kode da jeg var 10 år gammel, hva var det som først tiltalte deg om datamaskiner, og hva jobbet du med?

Det var i 1999, og en venn av meg ringte meg og sa at han hadde bygget en nettside. Etter å ha skrevet inn en 200 tegn lang adresse i nettleseren min, så jeg en nettside med hans navn på den. Jeg var forbløffet over at han hadde laget noe på sin datamaskin og at jeg kunne se det på min egen datamaskin. Dette gjorde meg veldig nysgjerrig på hvordan det fungerte og hvordan jeg kunne gjøre det samme. Jeg spurte moren min om å kjøpe meg en HTML-bok, som var mitt første skritt inn i programmering.

Jeg finner stor glede i å ta på meg tekniske utfordringer, og etter hvert som tiden gikk, vokste min nysgjerrighet bare. Jeg lærte ASP, PHP og Visual Basic, og konsumerte alt jeg kunne.

Da jeg var 13 år gammel, hadde jeg allerede begynt å ta på meg freelance-jobb, bygge nettsider og desktop-applikasjoner.

Når jeg ikke hadde noen aktive jobber, jobbet jeg med mine egne prosjekter – vanligvis forskjellige nettsider og applikasjoner som skulle hjelpe andre mennesker å nå sine mål:

Blue-White Programming – er et hebraisk programmeringsspråk, lignende HTML, som jeg bygde etter å ha innsett at barn i Israel som ikke har et høyt nivå av engelsk er begrenset eller frarådes fra verden av kode.

Blinky – Besteforeldrene mine er døve og bruker tegnspråk til å kommunisere med venner. Da videokonferanseprogrammer som Skype og ooVoo dukket opp, enablet de dem for første gang å snakke med venner selv om de ikke var i samme rom (som vi alle gjør med våre telefoner). Men, da de ikke kunne høre, visste de ikke når de hadde en innkommende samtale. For å hjelpe dem, skrev jeg en programvare som identifiserte innkommende videomeldinger og varslet dem ved å blinke en LED-matrise i en liten maskinvare-enhet jeg hadde bygget og koblet til deres datamaskin.

Dette er bare noen av prosjektene jeg bygde som tenåring. Min nysgjerrighet stoppet aldri, og jeg fant meg selv lærende C, C++, Assembly og hvordan operativsystemer fungerer, og prøvde å lære så mye som mulig.

Kunne du dele historien om din reise som maskinlæringsarkitekt i Microsoft-eide Adallom?

Jeg startet min reise i Adallom etter min militærtjeneste. Etter 5 år i hæren som kaptein, så jeg en stor mulighet til å slutte meg til et oppkommande selskap og marked – som en av de første ansatte. Selskapet ble ledet av store grunnleggere, som jeg kjente fra min militærtjeneste, og ble støttet av topp-klassens VCs – som Sequoia. Eksplosjonen av skyteknologier på markedet var fortsatt i sin relative barndom, og vi bygde en av de aller første sky-sikkerhetsløsningene på den tiden. Bedrifter var bare begynt å gå over fra lokale til sky, og vi så nye bransjestandarder dukke opp – som Office 365, Dropbox, Marketo, Salesforce og andre.

I mine første par uker, visste jeg allerede at jeg ville starte mitt eget selskap en dag. Jeg følte, fra et teknisk perspektiv, at jeg var klar for alle utfordringer som kom mine vei, og hvis ikke jeg selv, visste jeg de rette menneskene å hjelpe meg å overvinne alt.

Adallom hadde behov for noen som hadde dypt kunnskap om teknologien, men også kunne være kunde-orientert. Et par uker senere, og jeg var på et fly til USA, for første gang i mitt liv, for å møte folk fra LinkedIn (pre-Microsoft). Et par uker senere, og de ble våre første betalende kunder i USA. Dette var bare ett av mange store selskaper – Netflix, Disney og Safeway – som jeg hjalp å løse kritiske sky-problemer for. Det var super utdannende og en sterk tillitsbygger.

For meg, å slutte meg til Adallom, var det samme som å slutte meg til et sted hvor jeg trodde på markedet, jeg trodde på teamet, og jeg trodde på visjonen. Jeg er ekstremt takknemlig for muligheten jeg fikk der.

Formålet med det jeg gjør, var og er veldig viktig. For meg, var det det samme i hæren, det var alltid viktig. Jeg kunne lett se hvordan Adalloms tilnærming til å koble til SaaS-løsninger, deretter overvåke aktivitetene til brukerne, finne avvik og så videre, var hvordan ting ville bli gjort. Jeg innsett at dette ville være tilnærmingen til fremtiden. Så jeg så definitivt Adallom som et selskap som ville bli suksessfullt.

Jeg var ansvarlig for hele arkitekturen til vår ML-infrastruktur. Og jeg så og opplevde førstehånds mangelen på ordentlig verktøy for økosystemet. Ja, det var klart for meg at det måtte finnes en dedikert løsning på ett sentralisert sted hvor du kan se alle dine modeller; hvor du kan se hva beslutninger de tar for din forretning; hvor du kan spore og bli proaktiv med dine ML-mål. For eksempel, hadde vi ganger hvor vi lærte om problemer i våre maskinlæringsmodeller langt for sent, og det er ikke bra for brukerne og definitivt ikke for forretningen. Dette er hvor idéen til Aporia begynte å ta form.

Kunne du dele opphavsfortellingen bak Aporia?

Min egen personlige erfaring med maskinlæring starter i 2008, som en del av et samarbeidsprosjekt på Weizmann-instituttet, sammen med University of Bath og et kinesisk forskningssenter. Der bygde jeg et biometrisk identifikasjonssystem ved å analysere bilder av iris. Jeg klarte å oppnå 94% nøyaktighet. Prosjektet var en suksess og ble applaudert fra et forskningsperspektiv. Men for meg, hadde jeg bygget programvare siden jeg var 10 år gammel, og noe føltes på en måte, ikke virkelig. Du kunne ikke virkelig bruke det biometriske identifikasjonssystemet jeg bygde i virkeligheten, fordi det bare fungerte bra for den spesifikke datasett jeg brukte. Det er ikke deterministisk nok.

Dette er bare litt bakgrunn. Når du bygger et maskinlæringsystem, for eksempel for biometrisk identifikasjon, ønsker du at forutsagnene skal være deterministiske – du ønsker å vite at systemet nøyaktig identifiserer en bestemt person, rett? Akkurat som hvordan din iPhone ikke låser opp hvis den ikke gjenkjenner riktig person på riktig vinkel, dette er det ønskede resultatet. Men dette var ikke tilfelle med maskinlæring da jeg først kom inn i rommet.

Om syv år senere, og jeg opplevde førstehånds virkeligheten av å kjøre produksjonsmodeller uten pålitelige retningslinjer, da de tar beslutninger for vår forretning som påvirker våre kunder. Deretter var jeg heldig å jobbe som investor i Vertex Ventures, i tre år. Jeg så hvordan flere og flere organisasjoner brukte ML, og hvordan selskaper gikk over fra bare å snakke om ML til faktisk å gjøre maskinlæring. Men disse selskapene tok opp ML bare for å bli utfordret av de samme problemene vi hadde i Adallom.

Alle ruslet for å bruke ML, og de prøvde å bygge overvåkningssystemer internt. Det var åpenbart ikke deres kjerneforretning, og disse utfordringene er ganske komplekse. Her er hvor jeg også innsett at dette er min mulighet til å gjøre en enorm innvirkning.

AI blir adoptert over nesten alle industrier, inkludert helse, finansielle tjenester, bil og andre, og det vil berøre alle menneskers liv og påvirke oss alle. Dette er hvor Aporia viser sin sanne verdi – å muliggjøre alle disse livs-endrende bruksområdene å fungere som tiltent og hjelpe å forbedre vårt samfunn. For, som med alle programvare, kommer du til å ha feil, og maskinlæring er ikke forskjellig. Hvis de blir ignorert, kan disse ML-problemene virkelig skade forretningskontinuitet og påvirke samfunnet med uforvollte bias-resultater. Ta Amazons forsøk på å implementere en AI-rekrutteringsverktøy – uforvollt bias forårsaket at maskinlæringsmodellen anbefalte mannlig kandidater over kvinnelige. Dette er åpenbart et uønsket resultat. Derfor trengs det en dedikert løsning for å oppdage uforvollt bias før det kommer til nyhetene og påvirker sluttbrukerne.

For organisasjoner å kunne stole på og nyte fordelen av maskinlæring, må de vite når det ikke fungerer riktig, og nå med nye regler, ofte vil ML-brukere trenger måter å forklare sine modellforutsagn. Til slutt, er det kritisk å forske og utvikle nye modeller og innovative prosjekter, men når disse modellene møter den virkelige verden og tar virkelige beslutninger for mennesker, bedrifter og samfunnet, er det en klar behov for en omfattende overvåkingsløsning for å sikre at de kan stole på AI.

Kan du forklare betydningen av gjennomsiktig og forklarbar AI?

Mens det kan se ut som om det er lignende, er det en viktig distinksjon å gjøre mellom tradisjonell programvare og maskinlæring. I programvare har du en programvare-utvikler, som skriver kode, definerer logikken til applikasjonen, vi vet eksakt hva som vil skje i hver kode-strøm. Det er deterministisk. Dette er hvordan programvare vanligvis blir bygget, utviklerne lager test-tilfeller, tester kanter, får til 70% – 80% dekning – du føler deg godt nok til å kunne utgi til produksjon. Hvis noen varsler dukker opp, kan du enkelt feilsøke og forstå hva som gikk galt, og fikse det.

Dette er ikke tilfelle med maskinlæring. I stedet for at en menneske definerer logikken, defineres det som en del av treningsprosessen til modellen. Når vi snakker om logikk, er det ikke en samling regler, men heller en matrise av millioner og milliarder av tall som representerer maskinlæringsmodellens “hjerne”. Og dette er en svart boks, vi vet ikke meningen bak hver enkelt tall i denne matrisen. Men vi vet statistisk, så dette er probabilistisk, og ikke deterministisk. Det kan være nøyaktig i 83% eller 93% av tiden. Dette fører opp en rekke spørsmål, rett? Først, hvordan kan vi stole på et system som vi ikke kan forklare hvordan det kommer til sine forutsagn? Andre, hvordan kan vi forklare forutsagn for høyt regulerte industrier – som den finansielle sektoren. For eksempel, i USA, er finansielle selskaper forpliktet av lov til å forklare til kundene hvorfor de ble avvist for en lånesøknad.

Uevnen til å forklare maskinlæringsforutsagn i menneskelig lesbar tekst kan være en stor hindring for mass-adoptsjon av ML over industrier. Vi ønsker å vite, som samfunn, at modellen ikke tar bias-beslutninger. Vi ønsker å sikre at vi forstår hva som fører modellen til en bestemt beslutning. Dette er hvor forklarbarhet og gjennomsiktighet er ekstremt kritisk.

Hvordan fungerer Aporias gjennomsiktige og forklarbare AI-verktøy-løsning?

Aporias forklarbare AI-verktøy fungerer som en del av et samlet maskinlærings-overvåkningssystem. Uten dyp visibilitet til produksjonsmodeller og en pålitelig overvåkings- og varslingløsning, er det vanskelig å stole på forklarbare AI-innsikter – det er ingen behov for å forklare forutsagn hvis utgangen er uansvarlig. Og så, det er her Aporia kommer inn, og tilbyr en enkelt pane-glass visibilitet over alle kjørende modeller, tilpassbar overvåking, varslingsevner, feilsøkingsverktøy, årsak-undersøkelse og forklarbar AI. En dedikert, full-stack overvåkingsløsning for alle problemer som dukker opp i produksjon.

Aporia-plattformen er agnostisk og utstyrer AI-orienterte bedrifter, data science- og ML-team med en sentralisert dashboard og full visibilitet inn i modellens helse, forutsagn og beslutninger – og muliggjør dem å stole på sin AI. Ved å bruke Aporias forklarbare AI, kan organisasjoner holde alle relevante interessenter i løkken ved å forklare maskinlæringsbeslutninger med et klikk på en knapp – få menneskelig lesbar innsikt i bestemte modellforutsagn eller simulere “Hva hvis?”-situationer. I tillegg sporer Aporia konstant data som mates inn i modellen, samt forutsagnene, og sender deg varsler ved viktige hendelser, inkludert ytelsesnedgang, uforvollt bias, data-drift og sogar muligheter til å forbedre din modell. Til slutt, med Aporias undersøkelsesverktøy kan du komme til årsaken til enhver hendelse og fikse og forbedre enhver modell i produksjon.

Noen av funksjonene som tilbys, inkluderer Data Points og Time Series Investigation Tools, hvordan hjelper disse verktøyene med å forebygge AI-bias og drift?

Data Points gir en live-visning av dataene modellen mottar og forutsagnene den gjør for bedriften. Du kan få en live-strøm av dette og forstå eksakt hva som skjer i din bedrift. Så, denne evnen til visibilitet er kritisk for gjennomsiktighet. Noen ganger endrer ting seg over tid, og det er en korrelasjon mellom flere endringer over tid – dette er rollen til tidsserien-undersøkelse.

Nylig har store detaljhandlere hatt alle sine AI-prediksjonsverktøy feile når det kommer til å prediktere forsyningskjede-problemer, hvordan ville Aporia-plattformen løse dette?

Hovedutfordringen i å identifisere disse problemene ligger i at vi snakker om fremtidige forutsagn. Det betyr at vi forutså noe ville skje eller ikke skje i fremtiden. For eksempel, hvor mange mennesker kommer til å kjøpe en bestemt skjorte eller kjøpe en ny PlayStation.

Deretter tar det noen tid å samle alle faktiske resultater – mer enn noen uker. Deretter kan vi sammenfatte og si, ok, dette var den faktiske etterspørselen vi så. Denne tidsrammen, snakker vi om noen måneder sammen. Dette er hva tar oss fra øyeblikket modellen gjør forutsagnet til bedriften vet eksakt om det var riktig eller feil. Og ved den tid, er det vanligvis for sent, bedriften har enten tapt potensielle inntekter eller marginalen ble klemmet, fordi de måtte selge overskudd på enorme rabatter.

Dette er en utfordring. Og dette er akkurat hvor Aporia kommer inn i bildet og blir veldig, veldig nyttig for disse organisasjonene. Først, lar det organisasjonene enkelt få gjennomsiktighet og visibilitet inn i hva beslutninger som tas – Er det noen fluktuasjoner? Er det noe som ikke gjør mening? Andre, da vi snakker om store detaljhandlere, snakker vi om enorme mengder lager, og å spore dem manuelt er nesten umulig. Her er hvor bedrifter og maskinlærings-team verdsetter Aporia mest, som et 24/7 automatisk og tilpassbart overvåkningssystem. Aporia sporer konstant dataene og forutsagnene, det analyserer det statistiske atferden til disse forutsagnene, og det kan forutse og identifisere endringer i atferden til forbrukerne og endringer i data-atferden så snart det skjer. I stedet for å vente seks måneder for å innse at etterspørselsforutsagnet var feil, kan du på noen få dager identifisere at vi er på feil vei med våre etterspørselsforutsagn. Så Aporia forkorter denne tidsrammen fra noen måneder til noen dager. Dette er en stor spill-ender for alle ML-praktikere.

Er det noe annet du ønsker å dele om Aporia?

Vi vokser konstant og søker etter fantastiske mennesker med strålende sinn til å slutte seg til Aporia-reisen. Se våre åpne stillinger.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, bør besøke Aporia.