Liran Hason, Co-Fondatore e Amministratore Delegato di Aporia – Serie di Interviste

Liran Hason è il Co-Fondatore e Amministratore Delegato di Aporia, una piattaforma di osservabilità ML full-stack utilizzata da aziende Fortune 500 e team di data science in tutto il mondo per garantire un’intelligenza artificiale responsabile. Aporia si integra senza problemi con qualsiasi infrastruttura ML. Che si tratti di un server FastAPI su Kubernetes, di uno strumento di deploy open-source come MLFlow o di una piattaforma di machine learning come AWS Sagemaker

Prima di fondare Aporia, Liran è stato un Architetto ML in Adallom (acquisita da Microsoft (MSFT )), e in seguito un investitore in Vertex Ventures.

Ha iniziato a programmare all’età di 10 anni, cosa l’ha inizialmente attratto verso i computer, e su cosa stava lavorando?

Era il 1999, e un amico mi ha chiamato e mi ha detto che aveva costruito un sito web. Dopo aver digitato un indirizzo di 200 caratteri nel mio browser, ho visto un sito web con il suo nome. Ero sbalordito dal fatto che avesse creato qualcosa sul suo computer e che io potessi vederlo sul mio computer. Questo mi ha reso super curioso su come funzionava e su come potevo farlo anch’io. Ho chiesto a mia madre di comprarmi un libro su HTML, che è stato il mio primo passo nella programmazione.

Trovo grande gioia nel prendere sfide tecniche, e con il passare del tempo la mia curiosità è cresciuta. Ho imparato ASP, PHP e Visual Basic, e ho consumato tutto ciò che potevo.

Quando avevo 13 anni, stavo già lavorando su alcuni progetti freelance, costruendo siti web e applicazioni desktop.

Quando non avevo lavoro attivo, stavo lavorando sui miei progetti – di solito siti web e applicazioni diverse volte per aiutare gli altri a raggiungere i loro obiettivi:

Blue-White Programming – è un linguaggio di programmazione in ebraico, simile a HTML, che ho costruito dopo aver capito che i bambini in Israele che non hanno un alto livello di inglese sono limitati o allontanati dal mondo della programmazione.

Blinky – I miei nonni sono sordi e utilizzano la lingua dei segni per comunicare con i loro amici. Quando sono emersi software di videoconferenza come Skype e ooVoo, hanno abilitato per la prima volta la possibilità di parlare con gli amici anche se non sono nella stessa stanza (come facciamo tutti con i nostri telefoni). Tuttavia, poiché non possono sentire, non erano in grado di sapere quando avevano una chiamata in entrata. Per aiutarli, ho scritto un software che identifica le chiamate in entrata e li avvisa facendo lampeggiare una matrice di LED in un piccolo dispositivo hardware che ho costruito e collegato al loro computer.

Questi sono solo alcuni dei progetti che ho costruito da teenager. La mia curiosità non si è mai fermata e mi sono trovato a imparare C, C++, Assembly e a capire come funzionano i sistemi operativi, e ho cercato di imparare il più possibile.

Potrebbe condividere la storia del suo percorso come Architetto di machine learning in Adallom, acquisita da Microsoft?

Ho iniziato il mio percorso in Adallom dopo il mio servizio militare. Dopo 5 anni nell’esercito come Capitano, ho visto una grande opportunità di unirmi a una società emergente e a un mercato – come uno dei primi dipendenti. La società era guidata da grandi fondatori, che conoscevo dal mio servizio militare, e sostenuta da importanti soci di venture capital – come Sequoia. L’esplosione delle tecnologie cloud sul mercato era ancora nella sua infanzia relativa, e stavamo costruendo una delle prime soluzioni di sicurezza cloud – in quel momento. Le imprese stavano solo iniziando a passare da on-premise a cloud, e abbiamo visto emergere nuovi standard di settore – come Office 365, Dropbox (DBX ), Marketo, Salesforce e altri.

Durante le prime settimane, avevo già capito che volevo fondare la mia società un giorno. Mi sentivo, dal punto di vista tecnico, pronto per qualsiasi sfida che mi si presentasse, e se non io, sapevo le persone giuste per aiutarmi a superare qualsiasi cosa.

Adallom aveva bisogno di qualcuno che avesse una conoscenza approfondita della tecnologia, ma che potesse anche essere rivolto ai clienti. Un mese dopo, ero su un aereo per gli Stati Uniti, per la prima volta nella mia vita, per incontrare le persone di LinkedIn (pre-Microsoft). Un paio di settimane dopo, erano diventati i nostri primi clienti paganti negli Stati Uniti. Questo era solo uno dei molti grandi corporation – Netflix , Disney e Safeway – che stavo aiutando a risolvere problemi critici di cloud.

Per me, unirmi ad Adallom era davvero unirmi a un posto in cui credevo nel mercato, credevo nel team e credevo nella visione. Sono estremamente grato per l’opportunità che mi è stata data lì.

Lo scopo di ciò che sto facendo era e rimane molto importante. Per me, era lo stesso nell’esercito, era sempre importante. Potevo facilmente vedere come l’approccio di Adallom di connettersi alle soluzioni SaaS, quindi monitorare l’attività degli utenti, delle risorse, trovare anomalie e così via, era come le cose sarebbero state fatte. Ho capito che questo sarebbe stato l’approccio del futuro. Quindi, ho visto Adallom come una società che sarebbe stata di successo.

Ero responsabile dell’intera architettura della nostra infrastruttura ML. E ho visto e sperimentato in prima persona la mancanza di strumenti adeguati per l’ecosistema. Sì, era chiaro per me che ci doveva essere una soluzione dedicata in un posto centralizzato dove poter vedere tutti i modelli; dove poter vedere quali decisioni stanno prendendo per il tuo business; dove poter tracciare e diventare proattivo con i tuoi obiettivi ML. Ad esempio, abbiamo avuto volte in cui abbiamo appreso di problemi nei nostri modelli di machine learning troppo tardi, e questo non è grande per gli utenti e sicuramente non per il business. Questo è dove l’idea per Aporia ha iniziato a prendere forma.

Potrebbe condividere la storia di genesi di Aporia?

La mia esperienza personale con la machine learning inizia nel 2008, come parte di un progetto collaborativo presso l’Istituto Weizmann, insieme all’Università di Bath e a un centro di ricerca cinese. Lì, ho costruito un sistema di identificazione biometrica analizzando immagini dell’iride. Sono riuscito a raggiungere il 94% di accuratezza. Il progetto è stato un successo e è stato applaudito da un punto di vista di ricerca. Ma per me, che avevo costruito software fin dall’età di 10 anni, qualcosa sembrava in un certo senso non reale. Non potevi realmente utilizzare il sistema di identificazione biometrica che avevo costruito nella vita reale perché funzionava bene solo per il dataset specifico che avevo utilizzato. Non era abbastanza deterministico.

Questo è solo un po’ di background. Quando costruisci un sistema di machine learning, ad esempio per l’identificazione biometrica, vuoi che le previsioni siano deterministiche – vuoi sapere che il sistema identifica con precisione una certa persona, giusto? Proprio come il tuo iPhone non si sblocca se non riconosce la persona giusta all’angolo giusto, questo è il risultato desiderato. Ma questo non era il caso della machine learning quando mi sono avvicinato per la prima volta allo spazio.

Circa sette anni dopo, stavo sperimentando in prima persona, in Adallom, la realtà di eseguire modelli di produzione senza guardrail affidabili, poiché prendevano decisioni per il nostro business che influenzavano i nostri clienti. Poi, sono stato fortunato a lavorare come investitore in Vertex Ventures, per tre anni. Ho visto come sempre più organizzazioni utilizzavano ML, e come le società passavano da parlare di ML a effettivamente fare machine learning. Tuttavia, queste società adottavano ML solo per essere sfidate dagli stessi problemi che stavamo affrontando in Adallom.

Tutti si sono precipitati a utilizzare ML, e stavano cercando di costruire sistemi di monitoraggio in-house. Ovviamente, non era il loro core business, e queste sfide sono abbastanza complesse. È qui che ho anche capito che questa è la mia opportunità di fare un grande impatto.

L’AI sta essere adottata in quasi ogni industria, inclusi sanità, servizi finanziari, automotive e altri, e toccherà la vita di tutti e avrà un impatto su di noi. Questo è dove Aporia mostra il suo vero valore – abilitando tutti questi casi d’uso che cambiano la vita a funzionare come previsto e aiutare a migliorare la nostra società. Perché, come con qualsiasi software, avrai bug, e la machine learning non è diversa. Se lasciati incontrollati, questi problemi di ML possono realmente danneggiare la continuità aziendale e avere un impatto sulla società con esiti di bias non intenzionali. Prendi il tentativo di Amazon di implementare uno strumento di recruiting AI (AMZN ) – il bias non intenzionale ha causato il modello di machine learning a raccomandare fortemente i candidati maschi rispetto alle candidate femmine. Questo è ovviamente un esito non desiderato. Quindi c’è bisogno di una soluzione dedicata per rilevare il bias non intenzionale prima che arrivi alle notizie e influenzi gli utenti finali.

Perché le organizzazioni possano fare affidamento correttamente e godere dei benefici della machine learning, devono sapere quando non funziona correttamente, e adesso, con le nuove regolamentazioni, gli utenti di ML avranno spesso bisogno di modi per spiegare le previsioni dei loro modelli. Alla fine, è critico condurre ricerche e sviluppare nuovi modelli e progetti innovativi, ma una volta che questi modelli incontrano il mondo reale e prendono decisioni reali per le persone, le aziende e la società, c’è un chiaro bisogno di una soluzione di osservabilità completa per garantire che possano fidarsi dell’AI.

Potrebbe spiegare l’importanza di un’AI trasparente e spiegabile?

Sebbene possa sembrare simile, c’è una distinzione importante da fare tra software tradizionale e machine learning. Nel software, hai un ingegnere software, che scrive codice, definisce la logica dell’applicazione, sappiamo esattamente cosa accadrà in ogni flusso del codice. È deterministico. È così che il software è solitamente costruito, gli ingegneri creano casi di test, testano casi limite, arrivano al 70% – 80% di copertura – ti senti abbastanza sicuro che puoi rilasciare in produzione. Se si verificano alert, puoi facilmente eseguire il debug e capire cosa è andato storto e correggerlo.

Questo non è il caso della machine learning. Invece di un essere umano che definisce la logica, è definito come parte del processo di formazione del modello. Quando parliamo di logica, a differenza del software tradizionale, non è un insieme di regole, ma piuttosto una matrice di milioni e miliardi di numeri che rappresentano la mente, il cervello del modello di machine learning. E questo è una scatola nera, non sappiamo realmente il significato di ogni numero in questa matrice. Ma sappiamo statisticamente, quindi questo è probabilistico, e non deterministico. Può essere accurato nel 83% o 93% del tempo. Questo solleva molte domande, giusto? Primo, come possiamo fidarci di un sistema che non possiamo spiegare come arriva alle sue previsioni? Secondo, come possiamo spiegare previsioni per settori altamente regolamentati – come il settore finanziario. Ad esempio, negli Stati Uniti, le società finanziarie sono obbligate per legge a spiegare ai loro clienti perché sono stati rifiutati per una richiesta di prestito.

L’incapacità di spiegare le previsioni di machine learning in testo leggibile dall’uomo potrebbe essere un grande ostacolo per l’adozione di massa di ML attraverso i settori. Vogliamo sapere, come società, che il modello non sta prendendo decisioni di bias. Vogliamo assicurarci di capire cosa sta portando il modello a una decisione specifica. Questo è dove la spiegabilità e la trasparenza sono estremamente cruciali.

Com’è che funziona la soluzione di AI trasparente e spiegabile di Aporia?

La casella degli attrezzi di AI spiegabile di Aporia funziona come parte di un sistema di osservabilità di machine learning unificato. Senza una visibilità approfondita dei modelli di produzione e una soluzione di monitoraggio e allarme affidabile, è difficile fidarsi delle informazioni spiegabili dell’AI – non c’è bisogno di spiegare le previsioni se l’output non è affidabile. Ecco dove Aporia entra in gioco, fornendo una visibilità a 360 gradi su tutti i modelli in esecuzione, monitoraggio personalizzabile, capacità di allarme, strumenti di debug, indagine sulle cause radice e AI spiegabile. Una soluzione di osservabilità completa e dedicata per qualsiasi problema che si verifichi in produzione.

La piattaforma Aporia è agnostica e fornisce alle aziende orientate all’AI, ai team di data science e ML, un dashboard centralizzato e una visibilità completa sulla salute del modello, sulle previsioni e sulle decisioni – consentendo loro di fidarsi del loro AI. Utilizzando l’AI spiegabile di Aporia, le organizzazioni sono in grado di tenere ogni stakeholder rilevante nella loop, spiegando le decisioni di machine learning con un clic del mouse – ottenere informazioni leggibili dall’uomo su previsioni specifiche del modello o simulare situazioni “Cosa se…”. Inoltre, Aporia traccia costantemente i dati che vengono alimentati nel modello, nonché le previsioni, e invia alert proattivamente in caso di eventi importanti, inclusi degrado delle prestazioni, bias non intenzionale, deriva dei dati e anche opportunità per migliorare il modello. Infine, con la casella degli attrezzi di indagine di Aporia, puoi arrivare alla causa radice di qualsiasi evento per rimediare e migliorare qualsiasi modello in produzione.

Alcune delle funzionalità offerte includono Strumenti di indagine dei punti di dati e dei dati temporali, come aiutano questi strumenti a prevenire il bias e la deriva dell’AI?

I punti di dati forniscono una visibilità live dei dati che il modello sta ricevendo e delle previsioni che sta facendo per l’azienda. Puoi ottenere un flusso live di questo e capire esattamente cosa sta succedendo nel tuo business. Quindi, questa capacità di visibilità è cruciale per la trasparenza. A volte le cose cambiano nel tempo e c’è una correlazione tra più cambiamenti nel tempo – questo è il ruolo dello strumento di indagine temporale.

Di recente, grandi rivenditori hanno avuto tutti i loro strumenti di previsione AI fallire quando si trattava di prevedere problemi di catena di approvvigionamento, come risolverebbe la piattaforma Aporia questo?

La principale sfida nell’identificazione di questo tipo di problemi è radicata nel fatto che stiamo parlando di previsioni future. Ciò significa che abbiamo previsto che qualcosa sarebbe successo o non sarebbe successo nel futuro. Ad esempio, quanti persone compreranno una certa maglia o un nuovo PlayStation.

Poi ci vuole del tempo per raccogliere tutti i risultati effettivi – più di alcune settimane. Poi, possiamo riassumere e dire, ok, questa è stata la domanda effettiva che abbiamo visto. Questo lasso di tempo, stiamo parlando di alcuni mesi nel complesso. Questo è ciò che ci porta dal momento in cui il modello fa la previsione fino a quando l’azienda sa esattamente se era giusto o sbagliato. E a quel punto, è solitamente troppo tardi, l’azienda ha perso potenziali entrate o il margine è stato compresso, perché devono vendere lo stock in eccesso a sconti enormi.

Questa è una sfida. E questo è esattamente dove Aporia entra in scena e diventa molto, molto utile a queste organizzazioni. Primo, consente alle organizzazioni di ottenere facilmente trasparenza e visibilità sulle decisioni che vengono prese – Ci sono fluttuazioni? C’è qualcosa che non ha senso? Secondo, poiché stiamo parlando di grandi rivenditori, stiamo parlando di enormi quantità di scorte, e tracciarle manualmente è quasi impossibile. Ecco dove le aziende e i team di machine learning valorizzano di più Aporia, come un sistema di monitoraggio automatizzato e personalizzabile 24/7. Aporia traccia costantemente i dati e le previsioni, analizza il comportamento statistico di queste previsioni, e può anticipare e identificare cambiamenti nel comportamento dei consumatori e cambiamenti nei dati non appena si verificano. Invece di aspettare sei mesi per rendersi conto che la previsione della domanda era sbagliata, puoi identificare in pochi giorni che siamo sulla strada sbagliata con le nostre previsioni di domanda. Quindi Aporia riduce questo lasso di tempo da alcuni mesi a pochi giorni. Questo è un grande cambiamento per qualsiasi praticante di ML.

C’è qualcos’altro che vorrebbe condividere su Aporia?

Siamo costantemente in crescita e cerchiamo persone incredibili con menti brillanti per unirsi al viaggio di Aporia. Controlla le nostre posizioni aperte.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Aporia.