Liran Hason, medgrundare och VD för Aporia – Intervjuserie

Liran Hason är medgrundare och VD för Aporia, en full-stack ML-övervakningsplattform som används av Fortune 500-företag och data science-team över hela världen för att säkerställa ansvarsfull AI. Aporia integreras sömlöst med alla ML-infrastrukturer. Oavsett om det är en FastAPI-server ovanpå Kubernetes, ett öppen källkodsverktyg för distribution som MLFlow eller en maskinläringsplattform som AWS Sagemaker

Innan han grundade Aporia var Liran ML-arkitekt på Adallom (förvärvat av Microsoft (MSFT )), och senare investerare på Vertex Ventures.

Du började koda när du var 10, vad var det som initialt drog dig till datorer, och vad arbetade du med?

Det var 1999, och en kompis till mig ringde och sa att han hade byggt en webbplats. Efter att ha skrivit in en 200 tecken lång adress i min webbläsare såg jag en webbplats med hans namn på den. Jag blev förvånad över att han hade skapat något på sin dator och att jag kunde se det på min egen dator. Detta gjorde mig super nyfiken på hur det fungerade och hur jag kunde göra samma sak. Jag bad min mamma att köpa en HTML-bok, som var min första steg in i programmering.

Jag finner stor glädje i att ta på mig tekniska utmaningar, och ju mer tid som gick desto mer växte min nyfikenhet. Jag lärde mig ASP, PHP och Visual Basic, och verkligen absorberade allt jag kunde.

När jag var 13 år gammal hade jag redan börjat ta på mig några frilansuppdrag, byggde webbplatser och skapade desktopapplikationer.

När jag inte hade något aktivt arbete arbetade jag på mina egna projekt – vanligtvis olika webbplatser och applikationer som syftade till att hjälpa andra människor uppnå sina mål:

Blue-White Programming – är ett hebreiskt programmeringsspråk, liknande HTML, som jag byggde efter att ha insett att barn i Israel som inte har en hög nivå av engelska begränsas eller hålls borta från programmeringens värld.

Blinky – Min far- och morföräldrar är döva och använder teckenspråk för att kommunicera med sina vänner. När videokonferensprogram som Skype och ooVoo dök upp kunde de för första gången prata med vänner även om de inte var i samma rum (liksom vi alla gör med våra telefoner). Men eftersom de inte kunde höra kunde de inte veta när de hade ett inkommande samtal. För att hjälpa dem skrev jag ett program som identifierade inkommande videosamtal och varnade dem genom att blinka en LED-matris i en liten hårdvaruenhet som jag hade byggt och anslutit till deras dator.

Detta är bara några av de projekt jag byggde som tonåring. Min nyfikenhet upphörde aldrig och jag fann mig själv lära mig C, C++, Assembly och hur operativsystem fungerar, och jag försökte lära mig så mycket som möjligt.

Kan du dela historien om din resa som maskinlärningsarkitekt på Microsoft-förvärvade Adallom?

Jag började min resa på Adallom efter min militärtjänst. Efter 5 år i armén som kapten såg jag en stor möjlighet att ansluta mig till ett framväxande företag och marknad – som en av de första anställda. Företaget leddes av fantastiska grundare, som jag kände från min militärtjänst, och backades av topp-Venture Capitalister – som Sequoia. Explosionen av molnteknologier på marknaden var fortfarande i sin relativa barndom, och vi byggde en av de allra första molnsäkerhetslösningarna vid den tiden. Företag började precis övergå från lokal till moln, och vi såg nya branschstandarder dyka upp – som Office 365, Dropbox (DBX ), Marketo, Salesforce och andra.

Under mina första veckor visste jag redan att jag ville starta mitt eget företag en dag. Jag kände verkligen, från ett tekniskt perspektiv, att jag var redo för vilken utmaning som helst, och om inte jag själv, så visste jag rätt personer som kunde hjälpa mig övervinna allt.

Adallom hade behov av någon som hade djupgående kunskap om tekniken men också kunde vara kundorienterad. Framåt som en månad och jag var på ett plan till USA, för första gången i mitt liv, för att möta människor från LinkedIn (före Microsoft). Ett par veckor senare och de blev våra första betalande kunder i USA. Detta var bara ett av många stora företag – Netflix , Disney och Safeway – som jag hjälpte lösa kritiska molnproblem för. Det var superutbildande och en stark förtroendeskapare.

För mig var att ansluta mig till Adallom verkligen att ansluta mig till en plats där jag trodde på marknaden, jag trodde på teamet och jag trodde på visionen. Jag är extremt tacksam för den möjlighet som jag fick där.

Syftet med vad jag gör var och är mycket viktigt. För mig var det samma i armén, det var alltid viktigt. Jag kunde lätt se hur Adalloms tillvägagångssätt för att ansluta till SaaS-lösningar, sedan övervaka användaraktivitet, hitta avvikelser och så vidare, var hur saker och ting skulle göras. Jag insåg att detta skulle vara tillvägagångssättet för framtiden. Så jag såg definitivt Adallom som ett företag som skulle bli framgångsrikt.

Jag var ansvarig för hela arkitekturen för vår ML-infrastruktur. Och jag såg och upplevde förstahands den brist på ordentlig verktyg för ekosystemet. Ja, det var tydligt för mig att det måste finnas en dedikerad lösning på en central plats där du kan se alla dina modeller; där du kan se vilka beslut de fattar för ditt företag; där du kan spåra och bli proaktiv med dina ML-mål. Till exempel hade vi gånger när vi lärde oss om problem i våra maskinlärningsmodeller alldeles för sent, och det är inte bra för användarna och definitivt inte för företaget. Detta är där idén för Aporia började ta form.

Kan du dela ursprunget till Aporia?

Min egen personliga erfarenhet av maskinlärning börjar 2008, som en del av ett samarbetsprojekt på Weizmann-institutet, tillsammans med University of Bath och ett kinesiskt forskningscenter. Där byggde jag ett biometriskt identifieringssystem genom att analysera bilder av iris. Jag kunde uppnå 94% noggrannhet. Projektet var en framgång och hyllades från ett forskningsperspektiv. Men för mig, som hade byggt programvaror sedan jag var 10 år gammal, kändes det på något sätt inte riktigt. Du kunde inte verkligen använda det biometriska identifieringssystem jag byggde i verkligheten, eftersom det fungerade bra bara för den specifika datamängd jag använde. Det är inte tillräckligt deterministiskt.

Detta är bara lite bakgrund. När du bygger ett maskinlärningssystem, till exempel för biometrisk identifiering, vill du att förutsägelserna ska vara deterministiska – du vill veta att systemet korrekt identifierar en viss person, rätt? Precis som hur din iPhone inte låser upp om den inte känner igen rätt person i rätt vinkel, detta är det önskade resultatet. Men detta var verkligen inte fallet med maskinlärning för några år sedan, när jag först kom in i området.

Ungefär sju år senare och jag upplevde förstahands, på Adallom, verkligheten av att köra produktionsmodeller utan tillförlitliga skydd, eftersom de fattar beslut för våra företag som påverkar våra kunder. Senare var jag lycklig att arbeta som investerare på Vertex Ventures, i tre år. Jag såg hur fler och fler organisationer använde ML, och hur företag gick från att bara prata om ML till att faktiskt göra maskinlärning. Men dessa företag antog ML bara för att utmanas av samma problem vi stod inför på Adallom.

Alla skyndade sig att använda ML, och de försökte bygga övervakningssystem internt. Tyvärr var det inte deras kärnverksamhet, och dessa utmaningar är ganska komplexa. Här insåg jag också att detta var min chans att göra en enorm inverkan.

AI antas över nästan alla branscher, inklusive hälsovård, finansiella tjänster, bilar och andra, och det kommer att påverka alla människors liv och ha en inverkan på oss alla. Detta är där Aporia visar sin verkliga värde – att möjliggöra alla dessa livsförändrande användningsfall att fungera som avsett och hjälpa till att förbättra vårt samhälle. Eftersom, liksom med alla programvaror, kommer du att ha buggar, och maskinlärning är inget undantag. Om den lämnas oövervakad kan dessa ML-problem verkligen skada affärskontinuitet och påverka samhället med oavsiktliga biasresultat. Ta Amazons försök att implementera ett AI-rekryteringsverktyg – oavsiktlig bias orsakade maskinlärningsmodellen att starkt rekommendera manliga kandidater över kvinnliga. Detta är uppenbarligen ett önskat resultat. Alltså behövs det en dedikerad lösning för att upptäcka oavsiktlig bias innan den hamnar i nyheterna och påverkar slutanvändare.

För organisationer att ordentligt lita på och njuta av fördelarna med maskinlärning behöver de veta när det inte fungerar rätt, och nu med nya regleringar, kommer ML-användare ofta att behöva sätt att förklara sina modellförutsägelser. Till slut är det kritiskt att forska och utveckla nya modeller och innovativa projekt, men när dessa modeller möter den riktiga världen och fattar riktiga beslut för människor, företag och samhälle, finns det ett tydligt behov av en omfattande övervakningslösning för att säkerställa att de kan lita på AI.

Kan du förklara vikten av transparent och förklarbar AI?

Medan det kan verka liknande, finns det en viktig distinktion att göra mellan traditionell programvara och maskinlärning. I programvara har du en programvaruutvecklare som skriver kod, definierar logiken för applikationen, vi vet exakt vad som kommer att hända i varje kodflöde. Det är deterministiskt. Så är programvara vanligtvis byggt, utvecklarna skapar testfall, testar gränsfall, får till 70% – 80% täckning – du känner dig tillräckligt bra för att släppa till produktion. Om några larm dyker upp kan du enkelt felsöka och förstå vad som gick fel och fixa det.

Detta är inte fallet med maskinlärning. Istället för att en människa definierar logiken, definieras den som en del av modellens träningsprocess. När vi pratar om logik, är det inte en uppsättning regler, utan snarare en matris med miljontals och miljarder tal som representerar maskinlärningsmodellens hjärna. Och detta är en svart låda, vi vet inte meningen med varje enskilt tal i denna matris. Men vi vet statistiskt, så detta är probabilistiskt och inte deterministiskt. Det kan vara korrekt 83% eller 93% av tiden. Detta väcker många frågor, rätt? Först, hur kan vi lita på ett system som vi inte kan förklara hur det kommer till sina förutsägelser? Andra, hur kan vi förklara förutsägelser för starkt reglerade branscher – som den finansiella sektorn. Till exempel i USA, är finansiella företag skyldiga enligt lag att förklara för sina kunder varför de nekades en låneansökan.

Oförmågan att förklara maskinlärningsförutsägelser i mänskligt läsbart text kan vara en stor blockerare för massanvändning av ML över branscher. Vi vill veta, som samhälle, att modellen inte fattar biasbeslut. Vi vill säkerställa att vi förstår vad som leder modellen till ett specifikt beslut. Detta är där förklarbarhet och transparens är extremt viktiga.

Hur fungerar Aporias transparenta och förklarbara AI-verktygslåda?

Aporias förklarbara AI-verktygslåda fungerar som en del av ett enhetligt maskinlärningsövervakningssystem. Utan djup insikt i produktionsmodeller och en tillförlitlig övervaknings- och larmfunktion är det svårt att lita på de förklarbara AI-insikterna – det finns ingen anledning att förklara förutsägelser om utdata är opålitliga. Och så, det är där Aporia kommer in, och tillhandahåller en enda glasruta med synlighet över alla körande modeller, anpassningsbara övervaknings- och larmfunktioner, felsökningsverktyg, rotorsaksutredning och förklarbar AI. En dedikerad, full-stack-övervakningslösning för alla och varje problem som uppstår i produktion.

Aporia-plattformen är agnostisk och utrustar AI-inriktade företag, data science- och ML-team med en centraliserad instrumentpanel och fullständig insikt i modellens hälsa, förutsägelser och beslut – vilket möjliggör för dem att lita på sin AI. Genom att använda Aporias förklarbara AI kan organisationer hålla alla relevanta intressenter informerade genom att förklara maskinlärningsbeslut med ett knapptryck – få mänskligt läsbart insikt i specifika modellförutsägelser eller simulera “Vad om?”-situationer. Dessutom spårar Aporia ständigt den data som matas in i modellen samt förutsägelserna, och skickar proaktivt larm vid viktiga händelser, inklusive prestandaförsämring, oavsiktlig bias, dataavvikelse och till och med möjligheter att förbättra din modell. Slutligen, med Aporias utredningsverktyg kan du komma till roten av varje händelse för att avhjälpa och förbättra varje modell i produktion.

Några av de funktioner som erbjuds inkluderar Data Points och Time Series Investigation Tools, hur hjälper dessa verktyg till att förhindra AI-bias och avvikelse?

Data Points ger en direkt vy av den data som modellen får och de förutsägelser den gör för företaget. Du kan få en direkt vy av detta och förstå exakt vad som händer i ditt företag. Så, denna förmåga till synlighet är avgörande för transparens. Ibland förändras saker över tid och det finns en korrelation mellan flera förändringar över tid – detta är rollen för tidsserieutredning.

Nyligen har stora detaljhandlare haft alla sina AI-prediktionsverktyg misslyckas när det gäller att förutsäga leveransproblem, hur skulle Aporia-plattformen lösa detta?

Den största utmaningen i att identifiera dessa typer av problem ligger i det faktum att vi pratar om framtida förutsägelser. Det betyder att vi förutsåg att något skulle hända eller inte hända i framtiden. Till exempel, hur många människor kommer att köpa en viss skjorta eller en ny PlayStation.

Sedan tar det några veckor att samla in alla faktiska resultat – mer än några veckor. Sedan kan vi sammanfatta och säga, okej, detta var den faktiska efterfrågan som vi såg. Denna tidsram, vi pratar om några månader totalt. Detta är vad som tar oss från det ögonblick modellen gör förutsägelsen tills företaget vet exakt om det var rätt eller fel. Och vid den tidpunkten är det vanligtvis för sent, företaget har antingen förlorat potentiella intäkter eller marginalen har pressats, eftersom de måste sälja överlager till stora rabatter.

Detta är en utmaning. Och detta är exakt där Aporia kommer in i bilden och blir mycket, mycket hjälpsam för dessa organisationer. Först, det tillåter organisationer att enkelt få insikt och synlighet i vilka beslut som fattas – Finns det några fluktuationer? Finns det något som inte stämmer? Andra, eftersom vi pratar om stora detaljhandlare, pratar vi om enorma mängder lager, och att spåra dem manuellt är nästan omöjligt. Här är där företag och maskinlärningsteam värdesätter Aporia mest, som ett 24/7-automatiserat och anpassningsbart övervakningssystem. Aporia spårar ständigt data och förutsägelser, det analyserar det statistiska beteendet hos dessa förutsägelser, och det kan förutse och identifiera förändringar i konsumenternas beteende och förändringar i datans beteende så fort det händer. Istället för att vänta sex månader för att inse att efterfrågeprognosen var fel, kan du på några dagar identifiera att vi är på fel väg med våra efterfrågeprognoser. Så Aporia förkortar denna tidsram från några månader till några dagar. Detta är en stor vinst för alla ML-praktiker.

Finns det något annat du vill dela om Aporia?

Vi växer konstant och letar efter fantastiska människor med briljanta sinnen att ansluta sig till Aporias resa. Kolla in våra öppna positioner.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Aporia.