Liran Hason, mede-oprichter en CEO van Aporia – Interviewreeks

Liran Hason is de mede-oprichter en CEO van Aporia, een full-stack ML-observatieplatform dat wordt gebruikt door Fortune 500-bedrijven en datascience-teams over de hele wereld om verantwoorde AI te garanderen. Aporia integreert naadloos met elke ML-infrastructuur. Of het nu gaat om een FastAPI-server op Kubernetes, een open-source-implementatietool zoals MLFlow of een machine learning-platform zoals AWS Sagemaker

Voor hij Aporia oprichtte, was Liran ML-architect bij Adallom (overgenomen door Microsoft (MSFT )) en later investeerder bij Vertex Ventures.

U bent begonnen met programmeren toen u 10 jaar oud was, wat trok u aanvankelijk aan bij computers en waaraan werkte u?

Het was 1999 en een vriend van mij belde me en zei dat hij een website had gebouwd. Na een adres van 200 tekens lang in mijn browser in te voeren, zag ik een website met zijn naam erop. Ik was verbijsterd door het feit dat hij iets op zijn computer had gemaakt en ik het op mijn eigen computer kon zien. Dit maakte me super nieuwsgierig naar hoe het werkte en hoe ik hetzelfde kon doen. Ik vroeg mijn moeder om een HTML-boek voor me te kopen, wat mijn eerste stap was in programmeren.

Ik vind het geweldig om technische uitdagingen aan te gaan en naarmate de tijd verstreek, groeide mijn nieuwsgierigheid alleen maar. Ik leerde ASP, PHP en Visual Basic en nam alles tot me wat ik kon.

Toen ik 13 jaar oud was, nam ik al freelance-opdrachten aan, waarbij ik websites en desktop-apps bouwde.

Wanneer ik geen actieve opdrachten had, werkte ik aan mijn eigen projecten – meestal verschillende websites en applicaties die bedoeld waren om anderen te helpen hun doelen te bereiken:

Blue-White Programming – is een Hebreeuwse programmeertaal, vergelijkbaar met HTML, die ik bouwde nadat ik besefte dat kinderen in Israël die geen hoog niveau van Engels hebben, beperkt of weggehouden worden van de wereld van programmeren.

Blinky – Mijn grootouders zijn doof en gebruiken gebarentaal om met hun vrienden te communiceren. Toen videobelsoftware zoals Skype en ooVoo opdook, konden ze voor het eerst met vrienden praten, ook al waren ze niet in dezelfde kamer (net zoals wij allemaal met onze telefoons doen). Echter, aangezien ze niets kunnen horen, waren ze niet in staat om te weten wanneer ze een inkomend gesprek hadden. Om hen te helpen, schreef ik software die inkomende videogesprekken identificeerde en hen waarschuwde door een LED-array te laten knipperen in een klein hardware-apparaat dat ik had gebouwd en aansloot op hun computer.

Dit zijn slechts een paar van de projecten die ik als tiener bouwde. Mijn nieuwsgierigheid stopte nooit en ik leerde C, C++, Assembly en hoe besturingssystemen werken en probeerde zo veel mogelijk te leren.

Kunt u het verhaal vertellen over uw reis als machine learning-architect bij Microsoft-overgenomen Adallom?

Ik begon mijn reis bij Adallom na mijn militaire dienst. Na 5 jaar in het leger als kapitein, zag ik een geweldige kans om een opkomend bedrijf en een opkomende markt te joinen – als een van de eerste medewerkers. Het bedrijf werd geleid door geweldige oprichters, die ik kende van mijn militaire dienst, en werd gesteund door top-tier venture capitalists – zoals Sequoia. De explosie van clouddiensten op de markt was nog in zijn relatieve jeugd en wij bouwden een van de allereerste clouddiensten oplossingen op dat moment. Ondernemingen begonnen net over te stappen van on-premise naar cloud en wij zagen nieuwe industrienormen ontstaan – zoals Office 365, Dropbox (DBX ), Marketo, Salesforce en anderen.

Tijdens mijn eerste weken wist ik al dat ik op een dag mijn eigen bedrijf wilde starten. Ik voelde me, vanuit een technisch oogpunt, klaar voor elke uitdaging die op mijn pad kwam en als ik het zelf niet kon, wist ik de juiste mensen om me te helpen om elke uitdaging te overwinnen.

Adallom had iemand nodig die diepgaande kennis van de technologie had, maar ook klantgericht kon zijn. Een maand later en ik was op een vliegtuig naar de VS, voor het eerst in mijn leven, om mensen van LinkedIn (voor Microsoft) te ontmoeten. Een paar weken later en zij werden onze eerste betalende klant in de VS. Dit was slechts een van de vele grote ondernemingen – Netflix , Disney en Safeway – die ik hielp om kritieke clouduitdagingen op te lossen. Het was supereducatief en een sterke vertrouwensopbouwer.

Voor mij was het joinen van Adallom echt joinen van een plek waar ik in geloofde, een markt waar ik in geloofde, een team waar ik in geloofde en een visie waar ik in geloofde. Ik ben enorm dankbaar voor de kans die ik daar kreeg.

Het doel van wat ik doe was en is heel belangrijk. Voor mij was het hetzelfde in het leger, het was altijd belangrijk. Ik kon heel duidelijk zien hoe de aanpak van Adallom om verbinding te maken met SaaS-oplossingen, vervolgens de activiteit van gebruikers en resources te monitoren, afwijkingen te vinden enzovoort, de manier was waarop dingen gedaan zouden worden. Ik realiseerde me dat dit de aanpak van de toekomst zou zijn. Dus ik zag Adallom zeker als een bedrijf dat succesvol zou zijn.

Ik was verantwoordelijk voor de hele architectuur van onze ML-infrastructuur. En ik zag en ervoer als eerste de gebrek aan juiste tooling voor het ecosysteem. Ja, het was duidelijk voor me dat er een toegewijd oplossing nodig was in een centraal plaats waar je alle modellen kunt zien; waar je kunt zien welke beslissingen ze nemen voor je bedrijf; waar je de ML-doelen kunt volgen en proactief kunt zijn. Bijvoorbeeld, wij hadden tijden waarop wij te laat te horen kregen over problemen in onze machine learning-modellen en dat is niet goed voor de gebruikers en zeker niet voor het bedrijf. Dit is waar het idee voor Aporia begon te ontstaan.

Kunt u het verhaal vertellen achter Aporia?

Mijn eigen persoonlijke ervaring met machine learning begint in 2008, als onderdeel van een gezamenlijk project aan het Weizmann Instituut, samen met de Universiteit van Bath en een Chinees onderzoekscentrum. Daar bouwde ik een biometrisch identificatiesysteem door het analyseren van beelden van de iris. Ik kon 94% nauwkeurigheid bereiken. Het project was een succes en werd vanuit een onderzoeksstandpunt toegejuicht. Maar voor mij, ik had al sinds mijn 10e software gebouwd en iets voelde op een manier niet echt. Je kon het biometrische identificatiesysteem dat ik had gebouwd niet echt in het echte leven gebruiken, omdat het alleen goed werkte voor het specifieke dataset dat ik had gebruikt. Het is niet deterministisch genoeg.

Dit is gewoon een beetje achtergrond. Wanneer je een machine learning-systeem bouwt, bijvoorbeeld voor biometrische identificatie, wil je dat de voorspellingen deterministisch zijn – je wilt weten dat het systeem een bepaalde persoon nauwkeurig identificeert, recht? Net zoals hoe je iPhone niet ontgrendelt als het de juiste persoon niet herkent op de juiste hoek, dit is het gewenste resultaat. Maar dit was echt niet het geval met machine learning toen ik voor het eerst in deze ruimte kwam.

Ongeveer zeven jaar later en ik ervoer als eerste de realiteit van het uitvoeren van productiemodellen zonder betrouwbare guardrails, die beslissingen nemen voor ons bedrijf die onze klanten beïnvloeden. Toen was ik gelukkig genoeg om als investeerder bij Vertex Ventures te werken, voor drie jaar. Ik zag hoe meer en meer organisaties ML gebruikten en hoe bedrijven overstapten van alleen over ML te praten naar het daadwerkelijk gebruiken van machine learning. Echter, deze bedrijven namen ML alleen maar over om vervolgens uitgedaagd te worden door dezelfde problemen die wij bij Adallom tegenkwamen.

Iedereen haastte zich om ML te gebruiken en ze probeerden monitoringssystemen in-house te bouwen. Het was duidelijk dat dit niet hun core business was en deze uitdagingen zijn vrij complex. Hier realiseerde ik me dat dit mijn kans was om een enorme impact te maken.

AI wordt overgenomen in bijna elke industrie, waaronder gezondheidszorg, financiële diensten, automotive en anderen, en het zal ieders leven aanraken en ons allemaal beïnvloeden. Dit is waar Aporia zijn waarde laat zien – het mogelijk maken van al deze levensveranderende use cases om te functioneren zoals bedoeld en ons te helpen de samenleving te verbeteren. Omdat, net als bij elke software, je bugs hebt en machine learning is geen uitzondering. Als deze ML-problemen ongecontroleerd blijven, kunnen ze echt bedrijfscontinuïteit schaden en de samenleving beïnvloeden met onbedoelde biasresultaten. Neem Amazon’s poging om een AI-wervingsgereedschap te implementeren (AMZN ) – onbedoelde bias zorgde ervoor dat het machine learning-model voornamelijk mannelijke kandidaten aanbeval boven vrouwelijke. Dit is duidelijk een ongewenst resultaat. Dus er moet een toegewijde oplossing zijn om onbedoelde bias te detecteren voordat het in het nieuws komt en eindgebruikers beïnvloedt.

Voor organisaties om goed te kunnen vertrouwen op en te genieten van de voordelen van machine learning, moeten ze weten wanneer het niet goed werkt en met de nieuwe regelgeving, zullen ML-gebruikers vaak manieren nodig hebben om hun modelvoorspellingen te verklaren. Uiteindelijk is het cruciaal om nieuwe modellen en innovatieve projecten te onderzoeken en te ontwikkelen, maar zodra deze modellen de echte wereld ontmoeten en echte beslissingen nemen voor mensen, bedrijven en de samenleving, is er een duidelijke behoefte aan een alomvattende observatieoplossing om ervoor te zorgen dat ze AI kunnen vertrouwen.

Kunt u de belangrijkheid van transparante en verklarende AI uitleggen?

Terwijl het misschien lijkt op traditionele software, is er een belangrijk onderscheid te maken tussen traditionele software en machine learning. In software heb je een software-ontwikkelaar die code schrijft, de logica van de applicatie definieert, we weten exact wat er gebeurt in elke codeflow. Het is deterministisch. Zo wordt software meestal gebouwd, de ontwikkelaars maken testcases, testen randgevallen, krijgen 70% – 80% dekking – je voelt je goed genoeg dat je het naar productie kunt brengen. Als er waarschuwingen verschijnen, kun je gemakkelijk debuggen en begrijpen welke flow verkeerd ging en het fixen.

Dit is niet het geval met machine learning. In plaats van een mens die de logica definieert, wordt het gedefinieerd als onderdeel van het trainingsproces van het model. Wanneer we het over logica hebben, is het niet een set regels, maar eerder een matrix van miljoenen en miljarden nummers die de geest, het brein van het machine learning-model vertegenwoordigen. En dit is een black box, we weten niet echt de betekenis van elk nummer in deze matrix. Maar we weten statistisch, dus dit is probabilistisch en niet deterministisch. Het kan 83% of 93% van de tijd nauwkeurig zijn. Dit roept veel vragen op, recht? Ten eerste, hoe kunnen we een systeem vertrouwen dat we niet kunnen verklaren hoe het tot zijn voorspellingen komt? Ten tweede, hoe kunnen we voorspellingen verklaren voor zeer gereguleerde industrieën – zoals de financiële sector. Bijvoorbeeld, in de VS zijn financiële bedrijven wettelijk verplicht om aan hun klanten uit te leggen waarom ze zijn afgewezen voor een leningaanvraag.

Het onvermogen om machine learning-voorspellingen in menselijke tekst te verklaren, kan een grote belemmering zijn voor de massale adoptie van ML in verschillende industrieën. We willen weten, als samenleving, dat het model geen bevooroordeelde beslissingen neemt. We willen er zeker van zijn dat we begrijpen wat de model tot een specifieke beslissing leidt. Dit is waar verklarende en transparante AI extreem cruciaal zijn.

Hoe werkt Aporia’s transparante en verklarende AI-toolbox-oplossing?

Aporia’s verklarende AI-toolbox werkt als onderdeel van een geïntegreerd machine learning-observatiesysteem. Zonder diepe zichtbaarheid van productiemodellen en een betrouwbare monitoring- en waarschuwingssysteem is het moeilijk om de verklarende AI-inzichten te vertrouwen – er is geen behoefte om voorspellingen te verklaren als de output onbetrouwbaar is. En dus, dat is waar Aporia binnenkomt, met een enkel paneel van glas zichtbaarheid over alle lopende modellen, aanpasbare monitoring, waarschuwingsmogelijkheden, debugtools, root cause-onderzoek en verklarende AI. Een toegewijde, full-stack observatieoplossing voor elk enkel probleem dat in productie optreedt.

Het Aporia-platform is agnostisch en voorziet AI-georiënteerde bedrijven, datascience- en ML-teams van een centraal dashboard en complete zichtbaarheid in de gezondheid van hun modellen, voorspellingen en beslissingen – waardoor ze hun AI kunnen vertrouwen. Door Aporia’s verklarende AI te gebruiken, kunnen organisaties elke relevante stakeholder op de hoogte houden door machine learning-beslissingen te verklaren met één klik – menselijk leesbare inzichten in specifieke modelvoorspellingen of simuleren van “Wat als?”-situaties. Bovendien volgt Aporia constant de data die in het model wordt gevoerd, evenals de voorspellingen, en stuurt u waarschuwingen bij belangrijke gebeurtenissen, waaronder prestatieverslechtering, onbedoelde bias, data-drift en zelfs kansen om uw model te verbeteren. Tenslotte kunt u met Aporia’s onderzoekstool naar de root cause van elke gebeurtenis gaan om deze te verhelpen en elk model in productie te verbeteren.

Enkele van de functionaliteiten die worden aangeboden, zijn Data Points en Time Series Investigation Tools, hoe helpen deze tools bij het voorkomen van AI-bias en -drift?

Data Points biedt een live-weergave van de data die het model krijgt en de voorspellingen die het maakt voor het bedrijf. U kunt een live-feed van dat krijgen en precies weten wat er gebeurt in uw bedrijf. Deze zichtbaarheid is cruciaal voor transparantie. Soms veranderen dingen over tijd en is er een correlatie tussen meerdere veranderingen over tijd – dat is de rol van time series-onderzoek.

Onlangs hebben grote retailers al hun AI-voorspellingsgereedschap laten falen bij het voorspellen van supply chain-problemen, hoe lost het Aporia-platform dit op?

De belangrijkste uitdaging bij het identificeren van dit soort problemen is dat we het hebben over toekomstige voorspellingen. Dat wil zeggen, we voorspellen dat iets zal gebeuren of niet in de toekomst. Bijvoorbeeld, hoeveel mensen zullen een specifiek shirt kopen of een nieuwe PlayStation kopen.

Vervolgens duurt het enige tijd om alle werkelijke resultaten te verzamelen – meer dan een paar weken. Dan kunnen we samenvatten en zeggen, oké, dit was de werkelijke vraag die we zagen. Deze tijd, praten we over een paar maanden in totaal. Dit is wat ons brengt van het moment dat het model de voorspelling maakt tot het moment dat het bedrijf precies weet of het goed of fout was. En tegen die tijd is het meestal te laat, het bedrijf heeft ofwel potentiële inkomsten verloren of de marge is onder druk komen te staan, omdat ze overstock moeten verkopen met enorme kortingen.

Dit is een uitdaging. En dit is precies waar Aporia binnenkomt en heel, heel behulpzaam is voor deze organisaties. Ten eerste, het stelt organisaties in staat om gemakkelijk transparantie en zichtbaarheid te krijgen in de beslissingen die worden genomen – Zijn er fluctuaties? Is er iets dat niet logisch is? Ten tweede, aangezien we het hebben over grote retailers, hebben we het over enorme, enorme hoeveelheden voorraad, en het handmatig volgen ervan is bijna onmogelijk. Hier is waar bedrijven en machine learning-teams Aporia het meest waarderen, als een 24/7 geautomatiseerd en aanpasbaar monitortool. Aporia volgt constant de data en de voorspellingen, analyseert het statistische gedrag van deze voorspellingen en kan veranderingen in het gedrag van consumenten en veranderingen in het gedrag van de data anticiperen zodra het gebeurt. In plaats van te wachten tot zes maanden om te realiseren dat de vraagvoorspelling verkeerd was, kunt u in een paar dagen identificeren dat we op de verkeerde weg zitten met onze vraagvoorspellingen. Dus Aporia verkort deze tijd van een paar maanden tot een paar dagen. Dit is een enorme game-changer voor elke ML-practicus.

Is er nog iets anders dat u zou willen delen over Aporia?

We groeien constant en zoeken naar geweldige mensen met briljante geesten om de Aporia-reis te joinen. Bekijk onze open posities.

Bedankt voor het geweldige interview, lezers die meer willen leren over Aporia, moeten Aporia bezoeken.