Liran Hason, Co-Fondatore e CEO di Aporia – Serie di Interviste

Liran Hason è il Co-Fondatore e CEO di Aporia, una piattaforma di osservabilità ML full-stack utilizzata da aziende Fortune 500 e team di data science in tutto il mondo per garantire un’intelligenza artificiale responsabile. Aporia si integra perfettamente con qualsiasi infrastruttura ML. Che si tratti di un server FastAPI su Kubernetes, di uno strumento di deploy open-source come MLFlow o di una piattaforma di machine learning come AWS Sagemaker

Prima di fondare Aporia, Liran era un architetto ML in Adallom (acquisita da Microsoft), e in seguito un investitore in Vertex Ventures.

Ha iniziato a programmare all’età di 10 anni, cosa l’ha inizialmente attratto verso i computer, e su cosa stava lavorando?

Era il 1999, e un mio amico mi ha chiamato e mi ha detto che aveva costruito un sito web. Dopo aver digitato un indirizzo di 200 caratteri nel mio browser, ho visto un sito web con il suo nome su di esso. Ero sbalordito dal fatto che avesse creato qualcosa sul suo computer e che io potessi vederlo sul mio computer. Questo mi ha reso super curioso su come funzionava e su come potevo farlo anch’io. Ho chiesto a mia madre di comprarmi un libro su HTML, che è stato il mio primo passo nella programmazione.

Mi piace molto affrontare sfide tecniche, e con il passare del tempo la mia curiosità è cresciuta. Ho imparato ASP, PHP e Visual Basic, e ho davvero consumato tutto ciò che potevo.

Quando avevo 13 anni, stavo già lavorando su alcuni progetti freelance, costruendo siti web e applicazioni desktop.

Quando non avevo lavori attivi, stavo lavorando sui miei progetti – di solito siti web e applicazioni diverse volte per aiutare gli altri a raggiungere i loro obiettivi:

Blue-White Programming – è un linguaggio di programmazione in ebraico, simile a HTML, che ho costruito dopo aver capito che i bambini in Israele che non hanno un alto livello di inglese sono limitati o allontanati dal mondo della programmazione.

Blinky – I miei nonni sono sordi e utilizzano la lingua dei segni per comunicare con i loro amici. Quando sono emersi software di videoconferenza come Skype e ooVoo, hanno abilitato per la prima volta la possibilità di parlare con gli amici anche se non sono nella stessa stanza (come facciamo tutti con i nostri telefoni). Tuttavia, poiché non possono sentire, non erano in grado di sapere quando avevano una chiamata in entrata. Per aiutarli, ho scritto un software che identifica le chiamate in entrata e li avvisa facendo lampeggiare una matrice di led in un piccolo dispositivo hardware che ho costruito e collegato al loro computer.

Questi sono solo alcuni dei progetti che ho costruito da teenager. La mia curiosità non si è mai fermata e ho continuato a imparare C, C++, Assembly e come funzionano i sistemi operativi, e ho davvero cercato di imparare il più possibile.

Potrebbe condividere la storia del suo percorso come architetto di machine learning in Adallom, acquisita da Microsoft?

Ho iniziato il mio percorso in Adallom dopo il mio servizio militare. Dopo 5 anni nell’esercito come capitano, ho visto una grande opportunità di unirmi a una società emergente e a un mercato – come uno dei primi dipendenti. La società era guidata da grandi fondatori, che conoscevo dal mio servizio militare, e sostenuta da venture capital di alto livello – come Sequoia. L’esplosione delle tecnologie cloud sul mercato era ancora nella sua infanzia relativa, e stavamo costruendo una delle prime soluzioni di sicurezza cloud. Le aziende stavano iniziando a passare da on-premise a cloud, e abbiamo visto emergere nuovi standard di settore – come Office 365, Dropbox, Marketo, Salesforce e altri.

Durante le prime settimane, avevo già capito che volevo fondare la mia società un giorno. Mi sentivo, dal punto di vista tecnico, che ero pronto per qualsiasi sfida che mi venisse lanciata, e se non io, sapevo le persone giuste per aiutarmi a superare tutto.

Adallom aveva bisogno di qualcuno che avesse una conoscenza approfondita della tecnologia, ma che potesse anche essere customer-facing. Un mese dopo, ero su un aereo per gli Stati Uniti, per la prima volta nella mia vita, per incontrare le persone di LinkedIn (pre-Microsoft). Un paio di settimane dopo, sono diventati i nostri primi clienti paganti negli Stati Uniti. Questo è stato solo uno dei molti grandi corporation – Netflix, Disney, Safeway – che ho aiutato a risolvere problemi cloud critici.

Per me, unirmi a Adallom è stato realmente unirmi a un posto in cui credevo nel mercato, credevo nel team e credevo nella visione. Sono estremamente grato per l’opportunità che mi è stata data lì.

Lo scopo di ciò che sto facendo era e è molto importante. Per me, è stato lo stesso nell’esercito, è sempre stato importante. Potevo facilmente vedere come l’approccio di Adallom di connettersi alle soluzioni SaaS, quindi monitorare l’attività degli utenti, delle risorse, trovare anomalie e così via, era come sarebbero state fatte le cose. Ho capito che questo sarebbe stato l’approccio del futuro. Quindi, ho sicuramente visto Adallom come una società che sarebbe stata di successo.

Ero responsabile dell’intera architettura della nostra infrastruttura ML. E ho visto e sperimentato di persona la mancanza di strumenti adeguati per l’ecosistema. Sì, era chiaro per me che doveva esserci una soluzione dedicata in un posto centralizzato dove potessi vedere tutti i modelli; dove potessi vedere quali decisioni stavano prendendo per il tuo business; dove potessi tracciare e diventare proattivo con i tuoi obiettivi ML. Ad esempio, abbiamo avuto volte in cui abbiamo appreso di problemi nei nostri modelli di machine learning troppo tardi, e questo non è grande per gli utenti e sicuramente non per l’azienda. È qui che l’idea per Aporia ha iniziato a prendere forma.

Potrebbe condividere la storia di genesi di Aporia?

La mia esperienza personale con il machine learning inizia nel 2008, come parte di un progetto di collaborazione presso il Weizmann Institute, insieme all’Università di Bath e a un centro di ricerca cinese. Lì, ho costruito un sistema di identificazione biometrica analizzando immagini dell’iride. Sono riuscito a raggiungere un’accuratezza del 94%. Il progetto è stato un successo e è stato applaudito da un punto di vista di ricerca. Ma per me, avevo costruito software fin dall’età di 10 anni, e qualcosa sembrava in un certo senso, non reale. Non potevi realmente utilizzare il sistema di identificazione biometrica che avevo costruito nella vita reale perché funzionava bene solo per il set di dati specifico che avevo utilizzato. Non era deterministico abbastanza.

Questo è solo un po’ di background. Quando costruiamo un sistema di machine learning, ad esempio per l’identificazione biometrica, vogliamo che le previsioni siano deterministiche – vogliamo sapere che il sistema identifica con precisione una certa persona, giusto? Proprio come il tuo iPhone non si sblocca se non riconosce la persona giusta all’angolo giusto, questo è il risultato desiderato. Ma questo non era il caso del machine learning quando mi sono entrato nello spazio.

Circa sette anni dopo e stavo sperimentando di persona, in Adallom, la realtà di eseguire modelli di produzione senza guardrail affidabili, poiché prendevano decisioni per il nostro business che influenzavano i nostri clienti. Poi, sono stato fortunato abbastanza da lavorare come investitore in Vertex Ventures, per tre anni. Ho visto come sempre più organizzazioni utilizzavano ML, e come le aziende passavano da solo parlare di ML a realmente fare machine learning. Tuttavia, queste aziende adottavano ML solo per essere sfidate dagli stessi problemi che stavamo affrontando in Adallom.

Tutti si sono precipitati a utilizzare ML, e stavano cercando di costruire sistemi di monitoraggio in-house. Ovviamente, non era il loro core business, e queste sfide sono abbastanza complesse. È qui che ho anche capito che questa è la mia opportunità di fare un grande impatto.

L’AI sta essere adottata in quasi ogni industria, inclusi sanità, servizi finanziari, automotive e altri, e toccherà la vita di tutti e avrà un impatto su di noi. È qui che Aporia mostra il suo vero valore – abilitando tutti questi casi d’uso che cambiano la vita a funzionare come previsto e aiutare a migliorare la nostra società. Perché, come con qualsiasi software, avrai bug, e il machine learning non è diverso. Se lasciato incontrollato, questi problemi di ML possono realmente danneggiare la continuità aziendale e avere un impatto sulla società con esiti di bias non intenzionali. Prendi il tentativo di Amazon di implementare uno strumento di reclutamento AI – il bias non intenzionale ha causato il modello di machine learning a raccomandare fortemente candidati maschi rispetto a quelli femmine. Questo è ovviamente un esito non desiderato. Quindi, c’è bisogno di una soluzione dedicata per rilevare il bias non intenzionale prima che arrivi alle notizie e influenzi gli utenti finali.

Per le organizzazioni di affidarsi correttamente e godere dei benefici del machine learning, devono sapere quando non funziona correttamente, e adesso con le nuove regolamentazioni, spesso gli utenti di ML avranno bisogno di modi per spiegare le previsioni dei loro modelli. Alla fine, è critico condurre ricerche e sviluppare nuovi modelli e progetti innovativi, ma una volta che questi modelli incontrano il mondo reale e prendono decisioni reali per le persone, le aziende e la società, c’è un chiaro bisogno di una soluzione di osservabilità completa per garantire che possano fidarsi dell’AI.

Potrebbe spiegare l’importanza di un’intelligenza artificiale trasparente e spiegabile?

Mentre può sembrare simile, c’è una distinzione importante da fare tra software tradizionale e machine learning. Nel software, hai un ingegnere software, che scrive codice, definisce la logica dell’applicazione, sappiamo esattamente cosa accadrà in ogni flusso del codice. È deterministico. È così che il software è solitamente costruito, gli ingegneri creano casi di test, testano casi limite, arrivano a circa il 70% – 80% di copertura – ti senti abbastanza sicuro che puoi rilasciare in produzione. Se si verificano alert, puoi facilmente eseguire il debug e capire cosa è andato storto e correggerlo.

Questo non è il caso del machine learning. Invece di un umano che definisce la logica, è definito come parte del processo di training del modello. Quando parliamo di logica, a differenza del software tradizionale, non è un set di regole, ma piuttosto una matrice di milioni e miliardi di numeri che rappresentano la mente, il cervello del modello di machine learning. E questo è un black box, non sappiamo realmente il significato di ogni numero in questa matrice. Ma sappiamo statisticamente, quindi questo è probabilistico, e non deterministico. Può essere accurato nel 83% o 93% del tempo. Questo solleva molte domande, giusto? Primo, come possiamo fidarci di un sistema che non possiamo spiegare come arriva alle sue previsioni? Secondo, come possiamo spiegare le previsioni per settori altamente regolamentati – come il settore finanziario. Ad esempio, negli Stati Uniti, le società finanziarie sono obbligate per legge a spiegare ai loro clienti perché sono stati rifiutati per una richiesta di prestito.

L’incapacità di spiegare le previsioni di machine learning in testo leggibile dall’uomo potrebbe essere un grande ostacolo per l’adozione di massa di ML attraverso i settori. Vogliamo sapere, come società, che il modello non sta prendendo decisioni di bias. Vogliamo assicurarci di capire cosa sta portando il modello a una decisione specifica. È qui che la spiegabilità e la trasparenza sono estremamente cruciali.

Come funziona la soluzione di intelligenza artificiale trasparente e spiegabile di Aporia?

La casella degli attrezzi di intelligenza artificiale spiegabile di Aporia funziona come parte di un sistema di osservabilità di machine learning unificato. Senza una visibilità approfondita dei modelli di produzione e una soluzione di monitoraggio e allarme affidabile, è difficile fidarsi delle informazioni spiegabili dell’AI – non c’è bisogno di spiegare le previsioni se l’output non è affidabile. Ecco dove entra in gioco Aporia, fornendo un’unica visibilità su tutti i modelli in esecuzione, un monitoraggio personalizzabile, capacità di allarme, strumenti di debug, indagine sulla causa radice e intelligenza artificiale spiegabile. Una soluzione di osservabilità dedicata e full-stack per qualsiasi problema che si verifichi in produzione.

La piattaforma Aporia è agnostica e fornisce alle aziende orientate all’AI, ai team di data science e ML uno strumento centrale e completa visibilità sulla salute dei loro modelli, previsioni e decisioni – abilitandoli a fidarsi della loro AI. Utilizzando l’intelligenza artificiale spiegabile di Aporia, le organizzazioni sono in grado di tenere tutti gli stakeholder rilevanti nel loop spiegando le decisioni di machine learning con un clic del mouse – ottenere informazioni leggibili dall’uomo su previsioni di modello specifiche o simulare situazioni “Cosa succede se?”. Inoltre, Aporia traccia costantemente i dati che vengono alimentati nel modello, nonché le previsioni, e invia proattivamente alert in caso di eventi importanti, inclusi degrado delle prestazioni, bias non intenzionale, deriva dei dati e anche opportunità per migliorare il modello. Infine, con la casella degli attrezzi di indagine di Aporia, puoi arrivare alla causa radice di qualsiasi evento per rimediare e migliorare qualsiasi modello in produzione.

Alcune delle funzionalità offerte includono Strumenti di indagine sui punti di dati e sulla serie temporale, come aiutano questi strumenti a prevenire il bias e la deriva dell’AI?

I punti di dati forniscono una visibilità live dei dati che il modello sta ricevendo e delle previsioni che sta facendo per l’azienda. Puoi ottenere un flusso live di questo e capire esattamente cosa sta succedendo nel tuo business. Quindi, questa capacità di visibilità è cruciale per la trasparenza. A volte le cose cambiano nel tempo e c’è una correlazione tra più cambiamenti nel tempo – questo è il ruolo della serie temporale di indagine.

Di recente, i grandi retailer hanno avuto tutti i loro strumenti di previsione AI fallire quando si trattava di prevedere problemi di catena di approvvigionamento, come risolverebbe la piattaforma Aporia questo?

La principale sfida nell’identificare questo tipo di problemi è radicata nel fatto che stiamo parlando di previsioni future. Ciò significa che abbiamo previsto che qualcosa sarebbe successo o non sarebbe successo nel futuro. Ad esempio, quanti persone compreranno una specifica maglia o un nuovo PlayStation.

Poi ci vuole un po’ di tempo per raccogliere tutti i risultati effettivi – più di alcune settimane. Poi, possiamo riassumere e dire, ok, questa è stata la domanda effettiva che abbiamo visto. Questo timeframe, stiamo parlando di alcuni mesi nel complesso. Questo è ciò che ci porta dal momento in cui il modello fa la previsione fino a quando l’azienda sa esattamente se era giusto o sbagliato. E a quel punto, è solitamente troppo tardi, l’azienda ha perso entrate potenziali o il margine è stato compresso, perché devono vendere lo stock in eccesso a sconti enormi.

Questa è una sfida. E questo è esattamente dove Aporia entra in gioco e diventa molto, molto utile per queste organizzazioni. Primo, consente alle organizzazioni di ottenere facilmente la trasparenza e la visibilità su quali decisioni vengono prese – Ci sono fluttuazioni? C’è qualcosa che non ha senso? Secondo, poiché stiamo parlando di grandi retailer, stiamo parlando di enormi quantità di scorte, e tracciare manualmente è quasi impossibile. È qui che le aziende e i team di machine learning valorizzano di più Aporia, come un sistema di monitoraggio personalizzabile e automatizzato 24/7. Aporia traccia costantemente i dati e le previsioni, analizza il comportamento statistico di queste previsioni e può anticipare e identificare cambiamenti nel comportamento dei consumatori e cambiamenti nei dati non appena si verificano. Invece di aspettare sei mesi per rendersi conto che la previsione della domanda era sbagliata, puoi in pochi giorni identificare che siamo sulla strada sbagliata con le nostre previsioni di domanda. Quindi Aporia accorcia questo timeframe da alcuni mesi a pochi giorni. Questo è un grande cambiamento per qualsiasi praticante di ML.

C’è qualcos’altro che vorrebbe condividere su Aporia?

Stiamo crescendo costantemente e cerchiamo persone incredibili con menti brillanti per unirsi al viaggio di Aporia. Controlla le nostre posizioni aperte.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Aporia.