Liran Hason, Medstifter og CEO af Aporia – Interviewserie

Liran Hason er medstifter og CEO af Aporia, en full-stack ML-overvågningsplatform, der bruges af Fortune 500-virksomheder og datavidenskabsteams over hele verden til at sikre ansvarlig AI. Aporia integrerer sammen med enhver ML-infrastruktur. Uanset om det er en FastAPI-server på toppen af Kubernetes, et åbent kilde-deployment-værktøj som MLFlow eller en maskinlæringsplatform som AWS Sagemaker

Før han stiftede Aporia, var Liran ML-arkitekt hos Adallom (opkøbt af Microsoft (MSFT )), og senere investor hos Vertex Ventures.

Hvad var det, der fik dig til at begynde at programmere, da du var 10 år gammel, og hvad arbejdede du på?

Det var i 1999, og en ven af mine ringede til mig og sagde, at han havde bygget en hjemmeside. Efter at have skrevet en 200 tegn lang adresse i min browser, så jeg en hjemmeside med hans navn på. Jeg var meget imponeret over, at han havde skabt noget på sin computer, og at jeg kunne se det på min egen computer. Dette gjorde mig meget nysgerrig på, hvordan det fungerede, og hvordan jeg selv kunne gøre det samme. Jeg bad min mor om at købe mig en HTML-bog, som var mit første skridt ind i programmering.

Jeg finder stor glæde i at tage på tekniske udfordringer, og som tiden gik, voksede min nysgerrighed kun. Jeg lærte ASP, PHP og Visual Basic, og jeg slugte alt, hvad jeg kunne.

Da jeg var 13 år gammel, havde jeg allerede taget på mig nogle freelance-jobs, hvor jeg byggede hjemmesider og desktop-applikationer.

Når jeg ikke havde noget aktivt arbejde, arbejdede jeg på mine egne projekter – som regel forskellige hjemmesider og applikationer, der skulle hjælpe andre mennesker med at opnå deres mål:

Blue-White Programming – er et hebraisk programmeringssprog, der ligner HTML, som jeg byggede efter at have indset, at børn i Israel, der ikke har et højt niveau af engelsk, er begrænsede eller holdes væk fra verden af programmering.

Blinky – Mine bedsteforældre er døve og bruger tegnsprog til at kommunikere med deres venner. Da videokonferencesoftware som Skype og ooVoo dukkede op, kunne de for første gang tale med venner, selv om de ikke var i samme rum (ligesom vi alle gør med vores mobiltelefoner). Men da de ikke kunne høre, var de ikke i stand til at vide, når de havde en indkommende opkald. For at hjælpe dem ud, skrev jeg software, der kunne identificere indkommende videoopkald og advare dem ved at blinke en LED-array i en lille hardwareenhed, som jeg havde bygget og forbundet til deres computer.

Disse er kun nogle af de projekter, jeg byggede som teenager. Min nysgerrighed stoppede aldrig, og jeg fandt mig selv lærende C, C++, Assembly og hvordan operativsystemer fungerer, og jeg prøvede virkelig at lære så meget som muligt.

Kunne du dele historien om din rejse som maskinlæringsarkitekt hos Microsoft-opkøbte Adallom?

Jeg startede min rejse hos Adallom efter min militærtjeneste. Efter 5 år i hæren som kaptajn, så jeg en stor mulighed for at tilslutte mig en opkomment virksomhed og marked – som en af de første medarbejdere. Virksomheden blev ledet af store grundlæggere, som jeg kendte fra min militærtjeneste, og blev støttet af top-tier-VC’er – som Sequoia. Udviklingen af cloud-teknologier på markedet var stadig i sin relative barndom, og vi byggede en af de allerførste cloud-sikkerheds løsninger på det tidspunkt. Virksomheder var lige begyndt at gå over fra on-premise til cloud, og vi så nye branchestandarder dukke op – som Office 365, Dropbox (DBX ), Marketo, Salesforce og andre.

Under mine første par uger havde jeg allerede besluttet, at jeg ville starte min egen virksomhed en dag. Jeg følte virkelig, fra et teknisk synspunkt, at jeg var parat til enhver udfordring, der blev kastet min vej, og hvis ikke jeg selv, så kendte jeg de rette mennesker til at hjælpe mig med at overvinde alt.

Adallom havde brug for nogen, der havde dyb viden om teknologi, men også kunne være kundeorienteret. Et par uger senere var jeg på et fly til USA for første gang i mit liv, for at mødes med mennesker fra LinkedIn (før Microsoft). Et par uger senere blev de vores første betalende kunde i USA. Dette var kun ét af mange store korporationer – Netflix , Disney og Safeway – som jeg hjalp med at løse kritiske cloud-problemer.

For mig var det at tilslutte mig Adallom virkelig om at tilslutte mig et sted, hvor jeg troede på markedet, jeg troede på holdet, og jeg troede på visionen. Jeg er ekstremt taknemlig for den mulighed, jeg fik der.

Formålet med, hvad jeg gjorde, var og er meget vigtigt. For mig var det det samme i hæren, det var altid vigtigt. Jeg kunne let se, hvordan Adalloms tilgang til at tilslutte sig SaaS-løsninger, derefter overvåge brugeraktivitet, ressourcer, finde anomalier og så videre, var, hvordan tingene ville blive gjort. Jeg indså, at dette ville være fremtidens tilgang. Så jeg så Adallom som en virksomhed, der ville være succesfuld.

Jeg var ansvarlig for hele arkitekturen af vores ML-infrastruktur. Og jeg så og oplevede førstehånds manglen på ordentlig værktøj til økosystemet. Ja, det var klart for mig, at der skulle være en dedikeret løsning på et centralt sted, hvor man kunne se alle sine modeller; hvor man kunne se, hvilke beslutninger de træffer for sin forretning; hvor man kunne spore og blive proaktiv med sine ML-mål. For eksempel havde vi perioder, hvor vi fik at vide om problemer i vores maskinlæringsmodeller for sent, og det er ikke godt for brugerne og bestemt ikke for forretningen. Dette er, hvor idéen til Aporia begyndte at tage form.

Kunne du dele historien bag Aporia?

Min egen personlige erfaring med maskinlærning begyndte i 2008 som en del af et samarbejdsprojekt på Weizmann-instituttet sammen med University of Bath og et kinesisk forskningscenter. Der byggede jeg et biometrisk identifikationssystem ved at analysere billeder af iris. Jeg kunne opnå 94% nøjagtighed. Projektet var en succes og blev rost fra et forskningsperspektiv. Men for mig havde jeg bygget software, siden jeg var 10 år gammel, og noget føltes på en måde, ikke rigtigt. Du kunne ikke rigtigt bruge det biometriske identifikationssystem, jeg byggede, i virkeligheden, fordi det kun virkede godt for det specifikke dataset, jeg brugte. Det er ikke deterministisk nok.

Dette er bare lidt baggrund. Når du bygger et maskinlæringsystem, for eksempel til biometrisk identifikation, vil du have, at forudsigelserne er deterministiske – du vil vide, at systemet nøjagtigt identificerer en bestemt person, rigtigt? Ligesom din iPhone ikke låser op, hvis den ikke genkender den rigtige person i den rigtige vinkel, dette er det ønskede resultat. Men dette var virkelig ikke tilfældet med maskinlærning dengang, da jeg først kom ind i feltet.

Omkring syv år senere oplevede jeg førstehånds virkeligheden af at køre produktionsmodeller uden pålidelige sikkerhedsforanstaltninger, som træffer beslutninger for vores forretning, der påvirker vores kunder. Derefter var jeg heldig at kunne arbejde som investor hos Vertex Ventures i tre år. Jeg så, hvordan mere og mere organisationer brugte ML, og hvordan virksomheder gik fra at tale om ML til faktisk at gøre maskinlærning. Men disse virksomheder adopterede ML kun for at blive udfordret af de samme problemer, vi havde hos Adallom.

Alle skyndte sig at bruge ML, og de prøvede at bygge overvågnings-systemer internt. Det var åbenbart ikke deres kerneforretning, og disse udfordringer er ret komplekse. Her indså jeg også, at dette er min chance til at have en stor indvirkning.

AI bliver adopteret over næsten alle brancher, herunder sundhedssektoren, finansielle tjenester, bilindustrien og andre, og det vil berøre alle menneskers liv og påvirke os alle. Dette er, hvor Aporia viser sin sande værdi – ved at aktivere alle disse livsforbedrende use-cases til at fungere, som det er tænkt, og hjælpe med at forbedre vores samfund. For, ligesom med enhver software, vil du have bugs, og maskinlærning er ikke anderledes. Hvis de ikke bliver overvåget, kan disse ML-problemer virkelig skade forretningskontinuitet og påvirke samfundet med uønskede bias-resultater. Tag Amazons forsøg på at implementere et AI-rekrutteringsværktøj – uønsket bias fik maskinlæringsmodellen til at anbefale mandlige kandidater over feminine. Dette er åbenbart et uønsket resultat. Derfor er der brug for en dedikeret løsning til at detektere uønsket bias, før det når nyhederne og påvirker slutbrugere.

For organisationer at kunne stole på og nyde fordelene ved maskinlærning, skal de vide, når det ikke fungerer rigtigt, og nu med nye regler, skal ML-brugere ofte have måder at forklare deres model-forudsigelser på. Til sidst er det kritisk at forskning og udvikle nye modeller og innovative projekter, men når disse modeller møder den virkelige verden og træffer beslutninger for mennesker, virksomheder og samfund, er der et klart behov for en omfattende overvågningsløsning til at sikre, at de kan stole på AI.

Kan du forklare betydningen af gennemsigtig og forklarbar AI?

mens det måske kan synes lignende, er der en vigtig forskel at gøre mellem traditionel software og maskinlærning. I software har du en software-ingeniør, der skriver kode, definerer logikken i applikationen, vi ved nøjagtigt, hvad der vil ske i hver kodeflow. Det er deterministisk. Sådan er software som regel bygget, ingeniørerne laver testcases, tester edge-cases, får 70% – 80% dækning – du føler dig godt nok til, at du kan udgive til produktion. Hvis der kommer nogen alerts op, kan du let debugge og forstå, hvad flow gik galt, og fikse det.

Dette er ikke tilfældet med maskinlærning. I stedet for en menneskelig definition af logikken, defineres den som en del af træningsprocessen for modellen. Når vi taler om logik, er det ikke en samling regler, men snarere en matrix af millioner og milliarder af numre, der repræsenterer maskinlæringsmodellens “hjerne”. Og dette er en sort boks, vi ved ikke rigtigt, hvad hver enkelt nummer i denne matrix betyder. Men vi ved statistisk, så dette er probabilistisk, og ikke deterministisk. Det kan være nøjagtigt i 83% eller 93% af tiden. Dette rejser mange spørgsmål, rigtigt? Først, hvordan kan vi stole på et system, som vi ikke kan forklare, hvordan det kommer til sine forudsigelser? Anden, hvordan kan vi forklare forudsigelser for højt regulerede brancher – som den finansielle sektor. For eksempel i USA er finansielle firmaer forpligtet af loven til at forklare deres kunder, hvorfor de blev afvist for en låneansøgning.

Uevnen til at forklare maskinlæringsforudsigelser i menneskeligt læseligt tekst kan være en stor hindring for masse-adopteringsgraden af ML på tværs af brancher. Vi vil vide, som samfund, at modellen ikke træffer bias-beslutninger. Vi vil sikre os, at vi forstår, hvad der fører modellen til en bestemt beslutning. Dette er, hvor forklarbarhed og gennemsigtighed er ekstremt kritiske.

Hvordan fungerer Aporias gennemsigtige og forklarbare AI-værktøjsløsning?

Aporias forklarbare AI-værktøjsløsning fungerer som en del af et samlet maskinlærings-overvågnings-system. Uden dyb indsigt i produktionsmodeller og en pålidelig overvågnings- og alert-løsning er det svært at stole på de forklarbare AI-indsigter – der er ingen grund til at forklare forudsigelser, hvis output er upålideligt. Og så er det her, Aporia kommer ind i billedet, ved at tilbyde en enkelt pane af glassigt overblik over alle kørende modeller, tilpasset overvågning, alert-kapaciteter, fejlfinding-værktøjer, rod-årsags-undersøgelse og forklarbar AI. En dedikeret, full-stack overvågningsløsning til enhver og alle problemer, der opstår i produktion.

Aporia-platformen er agnostisk og udstyrer AI-orienterede virksomheder, datavidenskab og ML-team med en central dashboard og fuld indsigt i modellens sundhed, forudsigelser og beslutninger – hvilket giver dem mulighed for at stole på deres AI. Ved at bruge Aporias forklarbare AI kan organisationer holde alle relevante interessenter informeret ved at forklare maskinlærings-beslutninger med et klik på en knap – få menneskeligt læselige indsigter i bestemte model-forudsigelser eller simulere “Hvad hvis?”-situationer. Derudover sporer Aporia konstant data, der fødes ind i modellen, samt forudsigelserne, og sender proaktivt alerts ved vigtige begivenheder, herunder præstationsnedgang, uønsket bias, data-drift og selv muligheder for at forbedre modellen. Til sidst giver Aporias undersøgelsesværktøj dig mulighed for at komme til roden af enhver begivenhed og afhjælpe og forbedre enhver model i produktion.

Nogle af de funktioner, der tilbydes, inkluderer Data Points og Time Series Investigation Tools, hvordan hjælper disse værktøjer med at forhindre AI-bias og drift?

Data Points giver en live-visning af de data, modellen modtager, og de forudsigelser, den laver for forretningen. Du kan få en live-feed af dette og forstå nøjagtigt, hvad der sker i din forretning. Denne evne til gennemsigtighed er afgørende for transparens. Nogle gange sker der ændringer over tid, og der er en korrelation mellem flere ændringer over tid – dette er rollen for tids-serie-undersøgelse.

For nylig har større detailhandlere haft alle deres AI-forudsigelsesværktøjer fejlet, når det kom til at forudsige forsyningskæde-problemer, hvordan ville Aporia-platformen løse dette?

Den største udfordring i at identificere disse problemer ligger i, at vi taler om fremtidige forudsigelser. Det betyder, at vi forudsagde noget ville ske eller ikke ske i fremtiden. For eksempel, hvor mange mennesker vil købe en bestemt skjorte eller en ny PlayStation.

Derefter tager det nogle uger at samle alle de faktiske resultater – mere end nogle uger. Derefter kan vi sammenfatte og sige, okay, dette var de faktiske resultater, vi så. Denne tidsramme, vi taler om, er på flere måneder i alt. Dette er, hvad der tager os fra det øjeblik, modellen laver forudsigelsen, til forretningen ved, om det var rigtigt eller forkert. Og på det tidspunkt er det som regel for sent, forretningen har enten tabt potentiale indtægter eller har måttet sælge overstock til store rabatter.

Dette er en udfordring. Og dette er præcis, hvor Aporia kommer ind i billedet og bliver meget, meget nyttig for disse organisationer. Først giver det organisationer mulighed for let at få gennemsigtighed og indsigt i, hvilke beslutninger der træffes – Er der nogen fluktuationer? Er der noget, der ikke giver mening? Anden, da vi taler om store detailhandlere, taler vi om enorme mængder af lager, og det er næsten umuligt at spore dem manuelt. Her er, hvor forretninger og maskinlærings-team værdsætter Aporia mest, som en 24/7 automatiseret og tilpasset overvågnings-system. Aporia sporer konstant data og forudsigelser, analyserer det statistiske adfærd af disse forudsigelser og kan forudse og identificere ændringer i forbrugernes adfærd og ændringer i data-adfærden, så snart det sker. I stedet for at vente seks måneder for at indse, at forsyningskæde-forudsigelserne var forkerte, kan du på få dage identificere, at vi er på den forkerte vej med vores forsyningskæde-forudsigelser. Så Aporia forkorter denne tidsramme fra flere måneder til få dage. Dette er en stor game-changer for enhver ML-praktiker.

Er der noget andet, du gerne vil dele om Aporia?

Vi er konstant voksende og søger efter fantastiske mennesker med brillante tanker til at tilslutte sig Aporias rejse. Se vores åbne stillinger.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Aporia.