Liran Hason, Co-Fondator și CEO al Aporia – Seria de Interviuri

Liran Hason este Co-Fondator și CEO al Aporia, o platformă de observabilitate ML full-stack utilizată de companiile din Fortune 500 și de echipele de știință a datelor din întreaga lume pentru a asigura un AI responsabil. Aporia se integrează perfect cu orice infrastructură ML. Indiferent dacă este vorba de un server FastAPI pe Kubernetes, un instrument de implementare open-source precum MLFlow sau o platformă de învățare automată precum AWS Sagemaker

Înainte de a fonda Aporia, Liran a fost Arhitect ML la Adallom (achiziționat de Microsoft (MSFT )), iar mai târziu, investitor la Vertex Ventures.

Ați început să programați la vârsta de 10 ani, ce v-a atras inițial la calculatoare și la ce lucrați?

Era anul 1999, și un prieten al meu m-a sunat și mi-a spus că a construit un site web. După ce am tastat o adresă de 200 de caractere în browser, am văzut un site web cu numele lui pe el. Am fost uimit de faptul că el a creat ceva pe computerul lui și că eu puteam să văd pe computerul meu. Acest lucru m-a făcut foarte curios despre modul în care funcționează și cum pot face și eu la fel. I-am cerut mamei mele să-mi cumpere o carte de HTML, care a fost primul meu pas în programare.

Îmi place să iau provocări tehnice, și pe măsură ce timpul a trecut, curiozitatea mea a crescut și mai mult. Am învățat ASP, PHP și Visual Basic, și am consumat orice informație pe care am putut-o găsi.

Când aveam 13 ani, luam deja contracte de freelancer, construind site-uri web și aplicații desktop.

Când nu aveam niciun proiect activ, lucram la proiectele mele – de obicei, site-uri web și aplicații menite să ajute oamenii să-și atingă obiectivele:

Programare Albastră-Albă – este o limbaj de programare în ebraică, similară cu HTML, pe care am creat-o după ce am realizat că copiii din Israel care nu au un nivel ridicat de engleză sunt limitați sau îndepărtați de lumea programării.

Blinky – Bunicii mei sunt surzi și folosesc limbajul semnelor pentru a comunica cu prietenii lor. Când au apărut programe de videoconferință precum Skype și ooVoo, le-a permis pentru prima dată să vorbească cu prietenii lor, chiar dacă nu se aflau în aceeași cameră (la fel ca noi toți cu telefoanele noastre). Cu toate acestea, deoarece nu puteau auzi, nu știau când aveau apeluri intrări. Pentru a-i ajuta, am scris un software care identifică apelurile video intrări și le alertează prin clipirea unui led pe un dispozitiv hardware mic pe care l-am construit și conectat la computerul lor.

Acestea sunt doar câteva dintre proiectele pe care le-am construit ca adolescent. Curiozitatea mea nu s-a oprit niciodată și m-am găsit învățând C, C++, Assembly și cum funcționează sistemele de operare, și am încercat să învăț cât mai mult posibil.

Puteți împărtăși povestea călătoriei dvs. ca arhitect de mașini de învățare la Adallom, achiziționat de Microsoft?

Am început călătoria mea la Adallom după serviciul militar. După 5 ani în armată, ca căpitan, am văzut o oportunitate excelentă de a adera la o companie emergentă și la o piață – ca unul dintre primii angajați. Compania era condusă de fondatori grozavi, pe care îi cunoșteam din serviciul militar, și sprijinită de VC-uri de top – precum Sequoia. Explozia tehnologiilor cloud pe piață era încă în stadiul său relativ de început, și noi construiam una dintre primele soluții de securitate cloud la acea vreme. Întreprinderile abia începeau să treacă de la soluții on-premise la cloud, și am văzut apariția unor noi standarde ale industriei – precum Office 365, Dropbox (DBX ), Marketo, Salesforce și altele.

În primele mele săptămâni, știam deja că vreau să îmi creez propria companie într-o zi. Mă simțeam, din punct de vedere tehnic, că sunt pregătit pentru orice provocare care mi se ivea în cale, și dacă nu eu, știam exact pe cine să chem să mă ajute să depășesc orice obstacol. Adallom avea nevoie de cineva care să aibă cunoștințe aprofundate despre tehnologie, dar care să poată fi și orientat către client. Înainte de a trece o lună, eram în avion spre Statele Unite, pentru prima dată în viața mea, pentru a mă întâlni cu oameni de la LinkedIn (înainte de a fi achiziționat de Microsoft). La câteva săptămâni după aceea, ei au devenit primii noștri clienți plătitori din Statele Unite. Acesta a fost doar unul dintre multele corporații majore – Netflix , Disney, Safeway – pentru care i-am ajutat să rezolve probleme critice de cloud.

Pentru mine, a adera la Adallom a fost cu adevărat despre a adera la un loc în care cred în piață, cred în echipă și cred în viziune. Sunt extrem de recunoscător pentru oportunitatea pe care am avut-o acolo.

Scopul a ceea ce fac este și a fost foarte important. Pentru mine, a fost la fel și în armată, a fost întotdeauna important. Am putut vedea cu ușurință cum abordarea Adallom de a se conecta la soluțiile SaaS, de a monitoriza activitatea utilizatorilor, de a găsi anomalii și așa mai departe, a fost modul în care lucrurile urmau să se facă. Am realizat că aceasta va fi abordarea viitorului. Așa că, am văzut cu adevărat Adallom ca o companie care va fi de succes.

Eram responsabil pentru întreaga arhitectură a infrastructurii noastre ML. Și am văzut și am experimentat din primă mână lipsa de instrumente adecvate pentru ecosistem. Da, mi-a fost clar că trebuie să existe o soluție dedicată într-un singur loc centralizat unde poți vedea toate modelele tale; unde poți vedea ce decizii iau pentru afacerea ta; unde poți urmări și deveni proactiv cu obiectivele tale ML. De exemplu, am avut momente în care am aflat despre probleme în modelele noastre de învățare automată mult prea târziu, și acest lucru nu este bun pentru utilizatori și, cu siguranță, nu este bun pentru afacere. Acesta este momentul în care ideea pentru Aporia a început să se contureze.

Puteți împărtăși povestea de origine din spatele Aporia?

Experiența mea personală cu învățarea automată începe în 2008, ca parte a unui proiect colaborativ la Institutul Weizmann, împreună cu Universitatea din Bath și un centru de cercetare chinez. Acolo, am construit un sistem de identificare biometrică prin analizarea imaginilor irisului. Am reușit să obțin o acuratețe de 94%. Proiectul a fost un succes și a fost aplaudat din punct de vedere al cercetării. Dar, pentru mine, am construit software de la vârsta de 10 ani, și ceva părea, într-un fel, nefiresc. Nu puteai folosi în realitate sistemul de identificare biometrică pe care l-am construit, pentru că funcționa bine doar pentru setul de date specific pe care l-am folosit. Nu este suficient de determinist.

Acesta este doar un pic de fundal. Când construiți un sistem de învățare automată, de exemplu, pentru identificarea biometrică, doriți ca predicțiile să fie deterministe – doriți să știți că sistemul identifică cu acuratețe o anumită persoană, nu? La fel cum iPhone-ul dvs. nu se deblochează dacă nu recunoaște persoana potrivită la unghiul potrivit, acesta este rezultatul dorit. Dar acest lucru nu a fost cazul învățării automate atunci când am intrat pentru prima dată în acest domeniu.

La aproximativ șapte ani mai târziu, experimentam din primă mână realitatea de a rula modele de producție fără garduri de siguranță fiabile, care iau decizii pentru afacerea noastră care afectează clienții noștri. Apoi, am avut norocul de a lucra ca investitor la Vertex Ventures, timp de trei ani. Am văzut cum tot mai multe organizații utilizează ML și cum companiile au trecut de la a vorbi despre ML la a face învățare automată. Cu toate acestea, aceste companii au adoptat ML doar pentru a fi provocate de aceleași probleme cu care ne confruntam la Adallom.

Toată lumea s-a grăbit să utilizeze ML și au încercat să construiască sisteme de monitorizare în interior. Evident, nu era afacerea lor de bază, iar aceste provocări sunt destul de complexe. Aici am realizat și eu că aceasta este oportunitatea mea de a avea un impact uriaș.

Inteligența artificială este adoptată în aproape toate industriile, inclusiv sănătate, servicii financiare, automotive și altele, și va atinge viața fiecăruia și ne va afecta pe toți. Aici Aporia își arată valoarea reală – permițând toate aceste cazuri de utilizare care pot schimba viața să funcționeze așa cum sunt menite și să ajute la îmbunătățirea societății noastre. Pentru că, la fel ca orice software, veți avea bug-uri, și învățarea automată nu este diferită. Dacă nu sunt controlate, aceste probleme de ML pot afecta cu adevărat continuitatea afacerii și pot avea rezultate nedorite cu bias neintenționat. Luați, de exemplu, încercarea Amazon de a implementa un instrument de recrutare AI (AMZN ) – bias neintenționat a făcut ca modelul de învățare automată să recomande puternic candidații bărbați în detrimentul celor femei. Acesta este un rezultat nedorit. Prin urmare, trebuie să existe o soluție dedicată pentru a detecta bias neintenționat înainte de a ajunge în știri și de a afecta utilizatorii finali.

Pentru ca organizațiile să se bazeze corect pe învățarea automată și să se bucure de beneficiile acesteia, ele trebuie să știe când nu funcționează corect, și acum, cu noile reglementări, utilizatorii de ML vor avea nevoie de modalități de a explica predicțiile modelului. În cele din urmă, este crucial să se cerceteze și să se dezvolte noi modele și proiecte inovatoare, dar odată ce aceste modele întâlnesc lumea reală și iau decizii reale pentru oameni, afaceri și societate, există o nevoie clară de o soluție cuprinzătoare de observabilitate pentru a asigura că se poate avea încredere în AI.

Puteți explica importanța inteligenței artificiale transparente și explicabile?

Deși poate părea similar, există o distincție importantă de făcut între software-ul tradițional și învățarea automată. În software, aveți un inginer de software care scrie cod, definește logica aplicației, știm exact ce se va întâmpla în fiecare flux al codului. Este determinist. Acesta este modul în care se construiește de obicei software-ul, inginerii creează teste de caz, testează cazurile limită, ajungând la aproximativ 70% – 80% din acoperire – ne simțim suficient de bine pentru a putea lansa în producție. Dacă apar alerte, putem ușor depana și înțelege ce flux a mers prost și remedia.

Acesta nu este cazul învățării automate. În loc de a defini logică, aceasta este definită ca parte a procesului de antrenament al modelului. Când vorbim despre logică, nu este un set de reguli, ci mai degrabă o matrice de milioane și miliarde de numere care reprezintă mintea, creierul modelului de învățare automată. Și aceasta este o cutie neagră, nu știm cu adevărat sensul fiecărui număr din această matrice. Dar știm statistic, deci acesta este un lucru probabilistic, și nu determinist. Poate fi precis în 83% sau 93% din timp. Acest lucru ridică multe întrebări, nu? În primul rând, cum putem avea încredere într-un sistem pe care nu-l putem explica modul în care ajunge la predicțiile sale? În al doilea rând, cum putem explica predicții pentru industrii puternic reglementate – precum sectorul financiar. De exemplu, în Statele Unite, firmele financiare sunt obligate prin lege să explice clienților lor de ce au fost respinse pentru o cerere de împrumut.

Incapacitatea de a explica predicțiile de învățare automată în text lizibil pentru oameni poate fi un blocator major pentru adoptarea în masă a ML în industrii. Vrem să știm, ca societate, că modelul nu ia decizii cu bias. Vrem să ne asigurăm că înțelegem ce conduce modelul la o anumită decizie. Aici sunt extrem de importante explicabilitatea și transparența.

Cum funcționează soluția de inteligență artificială transparentă și explicabilă a cutiei de instrumente Aporia?

Cutia de instrumente explicabile AI a Aporia funcționează ca parte a unui sistem unificat de observabilitate a învățării automate. Fără o vizibilitate profundă a modelelor de producție și o soluție de monitorizare și alertă fiabilă, este greu să aveți încredere în insight-urile explicabile AI – nu există nevoie să explicați predicții dacă ieșirea este nefiabilă. Și astfel, acolo este unde Aporia intervine, oferind o singură fereastră de vizualizare pentru toate modelele care rulează, monitorizare personalizabilă, capacitate de alertă, instrumente de depanare, anchetă de cauză și inteligență artificială explicabilă. O soluție dedicată, full-stack de observabilitate pentru orice problemă care apare în producție.

Platforma Aporia este agnostică și echipă afacerile orientate către AI, echipele de știință a datelor și ML cu un tablou de bord centralizat și o vizibilitate completă asupra sănătății modelului, predicțiilor și deciziilor – permițându-le să aibă încredere în AI-ul lor. Prin utilizarea inteligenței artificiale explicabile a Aporia, organizațiile pot ține toți stakeholderii relevanți în buclă, explicând deciziile de învățare automată cu un singur clic – obținând insight-uri lizibile pentru oameni în predicții specifice ale modelului sau simulând situații “Ce se întâmplă dacă?”. În plus, Aporia urmărește în mod constant datele care sunt introduse în model, precum și predicțiile, și trimite alerte proactive la evenimente importante, inclusiv degradarea performanței, bias neintenționat, drift de date și chiar oportunități de îmbunătățire a modelului. În cele din urmă, cu cutia de instrumente de anchetă a Aporia, puteți ajunge la cauza rădăcină a oricărui eveniment pentru a remedia și îmbunătăți orice model în producție.

Unele dintre funcționalitățile oferite includ Instrumente de investigare a punctelor de date și a seriilor de timp, cum ajută aceste instrumente la prevenirea bias-ului și a derapajului AI?

Punctele de date oferă o vedere în timp real a datelor pe care modelul le primește și a predicțiilor pe care le face pentru afacere. Puteți obține o alimentare în timp real a acestora și înțelege exact ce se întâmplă în afacerea dvs. Deci, această capacitate de vizibilitate este crucială pentru transparență. Uneori, lucrurile se schimbă în timp și există o corelație între multiple schimbări în timp – acesta este rolul investigării seriilor de timp.

Recent, retailerii importanți au avut toate instrumentele de predicție AI care au eșuat atunci când a venit vorba de predicția problemelor lanțului de aprovizionare, cum ar rezolva platforma Aporia această problemă?

Principala provocare în identificarea acestor tipuri de probleme este înrădăcinată în faptul că vorbim despre predicții despre viitor. Adică, am prezis că ceva se va întâmpla sau nu se va întâmpla în viitor. De exemplu, câți oameni vor cumpăra o cămașă specifică sau vor cumpăra un nou PlayStation.

Apoi, durează câteva săptămâni pentru a strânge toate rezultatele reale – mai mult de câteva săptămâni. Apoi, putem rezuma și spune, ok, aceasta a fost cererea reală pe care am văzut-o. Acest cadru de timp, vorbim despre câteva luni în total. Acesta este ceea ce ne duce de la momentul în care modelul face predicția până la momentul în care afacerea știe exact dacă a fost corect sau nu. Și, până atunci, de obicei, este prea târziu, afacerea a pierdut venituri potențiale sau a văzut marja strânsă, deoarece trebuie să vândă stocul în exces la reduceri mari.

Aceasta este o provocare. Și acesta este exact locul în care Aporia intervine și devine foarte, foarte utilă pentru aceste organizații. În primul rând, le permite organizațiilor să obțină ușor transparență și vizibilitate asupra deciziilor care sunt luate – Există fluctuații? Există ceva care nu are sens? În al doilea rând, deoarece vorbim despre retaileri mari, vorbim despre cantități uriașe de stoc, și urmărirea lor manuală este aproape imposibilă. Aici este unde afacerile și echipele de învățare automată valorizează Aporia cel mai mult, ca sistem de monitorizare automată și personalizabilă 24/7. Aporia urmărește în mod constant datele și predicțiile, analizează comportamentul statistic al acestor predicții și poate anticipa și identifica schimbări în comportamentul consumatorilor și schimbări în comportamentul datelor de îndată ce se întâmplă. În loc să așteptăm șase luni pentru a realiza că previziunile cererii erau greșite, putem identifica în câteva zile că suntem pe drumul greșit cu previziunile noastre de cerere. Acesta este un schimbător de jocuri pentru orice practician de ML.

Există altceva pe care ați dori să-l împărtășiți despre Aporia?

Suntem într-o creștere constantă și căutăm oameni minunați cu minți strălucite pentru a se alătura călătoriei Aporia. Verificați pozițiile noastre deschise.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe despre Aporia ar trebui să viziteze Aporia.