Yotam Oren, CEO e co-fondatore di Mona Labs – Serie di interviste

Yotam Oren è il CEO e co-fondatore di Mona Labs, una piattaforma che consente alle aziende di trasformare le iniziative di intelligenza artificiale da esperimenti di laboratorio in operazioni aziendali scalabili, comprendendo veramente come i modelli di apprendimento automatico si comportano nei processi e nelle applicazioni aziendali reali.

Mona analizza automaticamente il comportamento dei modelli di apprendimento automatico attraverso segmenti di dati protetti e nel contesto delle funzioni aziendali, al fine di rilevare potenziali pregiudizi nell’intelligenza artificiale. Mona offre la possibilità di generare rapporti di completezza che soddisfano gli standard e le norme del settore e offrono la fiducia che l’applicazione dell’intelligenza artificiale sia conforme e priva di pregiudizi.

Cosa ti ha inizialmente attirato verso l’informatica?

L’informatica è una carriera popolare nella mia famiglia, quindi è sempre stata un’opzione valida. Naturalmente, la cultura israeliana è molto pro-tecnologia. Celebriamo tecnologi innovativi e ho sempre avuto la percezione che l’informatica mi offrisse una possibilità di crescita e realizzazione.

Nonostante ciò, è diventata una mia passione personale solo quando ho raggiunto l’età universitaria. Non ero uno di quei ragazzi che iniziavano a programmare alle scuole medie. Nella mia giovinezza, ero troppo impegnato a giocare a pallacanestro per prestare attenzione ai computer. Dopo le scuole superiori, ho trascorso quasi 5 anni nell’esercito, in ruoli di leadership operativa/combat. Quindi, in un certo senso, ho iniziato a imparare l’informatica solo quando ho dovuto scegliere una materia di studio all’università. Ciò che ha catturato la mia attenzione immediatamente è stato che l’informatica combinava la risoluzione di problemi e l’apprendimento di una lingua (o lingue). Due cose che mi interessavano particolarmente. Da allora, ero affascinato.

Dal 2006 al 2008 hai lavorato sulla mappatura e sulla navigazione per una piccola startup, quali sono state alcune delle tue principali considerazioni in quel periodo?

Il mio ruolo in Telmap era quello di costruire un motore di ricerca su dati di mappe e localizzazione.

Questi erano i primi giorni dei “big data” nel settore aziendale. Non li chiamavamo ancora così, ma stavamo acquisendo enormi set di dati e cercando di trarre le informazioni più importanti e rilevanti per mostrare ai nostri utenti finali.

Una delle realizzazioni più significative che ho avuto è stato rendersi conto che le aziende (compresa la nostra) utilizzavano solo una piccola parte dei loro dati (per non parlare dei dati pubblicamente disponibili esterni). C’era un enorme potenziale per nuove informazioni, processi e esperienze migliori.

L’altra considerazione è stata che essere in grado di ottenere più dati dipendeva, naturalmente, dall’avere migliori architetture, migliori infrastrutture e così via.

Puoi condividere la storia di come è nata Mona Labs?

I tre fondatori, abbiamo lavorato con prodotti basati su dati per tutta la nostra carriera.

Nemo, il direttore tecnico, è il mio amico e compagno di università, e uno dei primi dipendenti di Google (GOOGL ) Tel Aviv. Ha iniziato un prodotto lì chiamato Google Trends, che aveva un sacco di analisi avanzate e apprendimento automatico basato sui dati dei motori di ricerca. Itai, l’altro co-fondatore e direttore del prodotto, era nel team di Nemo a Google (e io e lui ci siamo conosciuti attraverso Nemo). I due erano sempre frustrati dal fatto che i sistemi guidati dall’intelligenza artificiale fossero lasciati incontrollati dopo lo sviluppo iniziale e il testing. Nonostante la difficoltà di testare correttamente questi sistemi prima della produzione, i team non sapevano mai quanto bene funzionassero i loro modelli predittivi nel tempo. Inoltre, sembrava che l’unica volta in cui sentivano feedback sui sistemi di intelligenza artificiale era quando le cose andavano male e il team di sviluppo veniva chiamato per un “allarme rosso” per risolvere problemi catastrofici.

Intorno allo stesso periodo, ero un consulente a McKinsey & Co, e una delle più grandi barriere che vedevo per i programmi di intelligenza artificiale e Big Data nelle grandi aziende era la mancanza di fiducia che gli stakeholder aziendali avevano in quei programmi.

Il filo comune qui divenne chiaro a Nemo, Itai e me stesso nelle conversazioni. L’industria aveva bisogno di un’infrastruttura per monitorare i sistemi di intelligenza artificiale in produzione. Siamo arrivati alla visione di fornire questa visibilità per aumentare la fiducia degli stakeholder aziendali e consentire ai team di intelligenza artificiale di avere sempre il controllo su come funzionavano i loro sistemi e di iterare più efficientemente.

Ecco quando è nata Mona.

Quali sono alcune delle attuali problematiche relative alla mancanza di trasparenza dell’intelligenza artificiale?

In molti settori, le organizzazioni hanno già speso decine di milioni di dollari nei loro programmi di intelligenza artificiale e hanno visto alcuni successi iniziali nel laboratorio e nella distribuzione su piccola scala. Tuttavia, scalare, raggiungere un’adozione ampia e far sì che l’azienda si affidi veramente all’intelligenza artificiale è stata una sfida enorme per quasi tutti.

Perché sta succedendo? Bene, inizia con il fatto che una grande ricerca non si traduce automaticamente in grandi prodotti (un cliente ci ha detto una volta: “I modelli di apprendimento automatico sono come le auto, il momento in cui escono dal laboratorio, perdono il 20% del loro valore”). I grandi prodotti hanno sistemi di supporto. Ci sono strumenti e processi per garantire che la qualità sia mantenuta nel tempo e che i problemi vengano individuati presto e risolti efficientemente. I grandi prodotti hanno anche un ciclo di feedback continuo, hanno un ciclo di miglioramento e una roadmap. Di conseguenza, i grandi prodotti richiedono una trasparenza delle prestazioni costante.

Quando c’è una mancanza di trasparenza, si finisce con:

• Problemi che rimangono nascosti per un po’ di tempo e poi esplodono in superficie, causando “allarmi rossi”
• Indagini e mitigazioni lunghe e manuali
• Un programma di intelligenza artificiale che non è affidabile per gli utenti aziendali e gli sponsor e alla fine non riesce a scalare

Quali sono alcune delle sfide dietro la trasparenza dei modelli predittivi e la loro affidabilità?

La trasparenza è un fattore importante per raggiungere la fiducia, naturalmente. La trasparenza può assumere molte forme. C’è la trasparenza di singole previsioni, che può includere la visualizzazione del livello di fiducia all’utente o la fornitura di una spiegazione/ragione per la previsione. La trasparenza di singole previsioni è principalmente finalizzata ad aiutare l’utente a sentirsi a suo agio con la previsione. E poi, c’è la trasparenza generale, che può includere informazioni sull’accuratezza predittiva, sui risultati inaspettati e sui potenziali problemi. La trasparenza generale è necessaria per il team di intelligenza artificiale.

La parte più impegnativa della trasparenza generale è rilevare i problemi presto, allertare il team membro rilevante in modo che possa prendere azioni correttive prima che si verifichino catastrofi.

Perché è difficile rilevare i problemi presto:

• I problemi spesso iniziano piccoli e si sviluppano, prima di esplodere in superficie.
• I problemi spesso iniziano a causa di fattori esterni o incontrollabili, come le fonti di dati.
• C’è più di un modo per “dividere il mondo” e cercare esaurientemente problemi in piccole aree può portare a molto rumore (fatica degli allarmi), almeno quando questo viene fatto con un approccio ingenuo.

Un altro aspetto impegnativo della fornitura di trasparenza è la proliferazione dei casi d’uso dell’intelligenza artificiale. Ciò rende un approccio “una taglia unica” quasi impossibile. Ogni caso d’uso dell’intelligenza artificiale può includere strutture di dati diverse, cicli aziendali diversi, metriche di successo diverse e spesso approcci tecnici diversi e anche stack diversi.

Quindi, è una sfida monumentale, ma la trasparenza è così fondamentale per il successo dei programmi di intelligenza artificiale, quindi devi farla.

Puoi condividere alcuni dettagli sulle soluzioni per i modelli NLU / NLP e i chatbot?

L’intelligenza artificiale conversazionale è uno dei settori chiave di Mona. Siamo orgogliosi di supportare aziende innovative con una vasta gamma di casi d’uso di intelligenza artificiale conversazionale, tra cui modelli linguistici, chatbot e altro.

Un fattore comune tra questi casi d’uso è che i modelli operano vicino (e a volte visibilmente) ai clienti, quindi i rischi di prestazioni inconsistenti o di cattivo comportamento sono più alti. Diventa così importante per i team di intelligenza artificiale conversazionale capire il comportamento del sistema a livello granulare, che è un’area di forza della soluzione di monitoraggio di Mona.

Ciò che fa la soluzione di Mona in modo unico è setacciare sistematicamente gruppi di conversazioni e trovare aree in cui i modelli (o i bot) si comportano male. Ciò consente ai team di intelligenza artificiale conversazionale di identificare i problemi presto e prima che i clienti li notino. Questa capacità è un fattore di decisione critico per i team di intelligenza artificiale conversazionale quando si selezionano soluzioni di monitoraggio.

Per riassumere, Mona fornisce una soluzione end-to-end per il monitoraggio dell’intelligenza artificiale conversazionale. Inizia con la garanzia che ci sia una singola fonte di informazioni per il comportamento dei sistemi nel tempo e continua con il tracciamento continuo degli indicatori chiave di prestazione e con insight proattivi su aree di cattivo comportamento – abilitando i team a prendere misure correttive efficienti e preventive.

Puoi offrire alcuni dettagli sul motore di insight di Mona?

Certo. Cominciamo con la motivazione. L’obiettivo del motore di insight è quello di portare alla superficie le anomalie agli utenti, con solo la giusta quantità di informazioni di contesto e senza creare rumore o portare a fatica degli allarmi.

Il motore di insight è un flusso di lavoro analitico unico. In questo flusso di lavoro, il motore cerca anomalie in tutti i segmenti dei dati, consentendo la rilevazione precoce di problemi quando sono ancora “piccoli” e prima che influenzino l’intero set di dati e gli indicatori chiave di prestazione aziendale. Quindi, utilizza un algoritmo proprietario per rilevare le cause radice delle anomalie e assicurarsi che ogni anomalia venga segnalata solo una volta in modo da evitare il rumore. I tipi di anomalie supportate includono: anomalie di serie temporali, deriva, valori estremi, degrado del modello e altro.

Il motore di insight è altamente personalizzabile tramite la configurazione no-code/low-code intuitiva di Mona. La configurabilità del motore rende Mona la soluzione più flessibile sul mercato, coprendo una vasta gamma di casi d’uso (ad esempio, batch e streaming, con/without feedback aziendale / verità fondamentale, tra versioni di modello o tra formazione e inferenza, e altro).

Infine, questo motore di insight è supportato da un pannello di visualizzazione, in cui le informazioni possono essere visualizzate, e da un set di strumenti di indagine per consentire l’analisi della causa radice e l’esplorazione ulteriore delle informazioni di contesto. Il motore di insight è anche completamente integrato con un motore di notifiche che consente di alimentare le informazioni agli ambienti di lavoro degli utenti, tra cui posta elettronica, piattaforme di collaborazione e altro.

Il 31 gennaio, Mona ha presentato la sua nuova soluzione di equità dell’intelligenza artificiale, puoi condividere con noi i dettagli su cosa è questa funzione e perché è importante?

L’equità dell’intelligenza artificiale riguarda la garanzia che gli algoritmi e i sistemi guidati dall’intelligenza artificiale prendano decisioni imparziali ed eque. Affrontare e prevenire i pregiudizi nei sistemi di intelligenza artificiale è cruciale, poiché possono portare a conseguenze significative nel mondo reale. Con la crescente importanza dell’intelligenza artificiale, l’impatto sulla vita quotidiana delle persone sarà visibile in più e più luoghi, tra cui l’automazione della nostra guida, la rilevazione delle malattie in modo più preciso, il miglioramento della nostra comprensione del mondo e persino la creazione di arte. Se non possiamo fidarci che sia equo e imparziale, come possiamo permettere che continui a diffondersi?

Una delle principali cause dei pregiudizi nell’intelligenza artificiale è semplicemente la capacità dei dati di formazione del modello di rappresentare il mondo reale in pieno. Ciò può derivare da discriminazione storica, sotto-rappresentazione di determinati gruppi o anche manipolazione intenzionale dei dati. Ad esempio, un sistema di riconoscimento facciale addestrato su individui con pelle chiara è probabile che abbia un tasso di errore più alto nel riconoscimento di individui con pelle più scura. Allo stesso modo, un modello linguistico addestrato su dati testuali da un insieme ristretto di fonti può sviluppare pregiudizi se i dati sono distorti verso determinate prospettive, su argomenti come la religione, la cultura e così via.

La soluzione di equità dell’intelligenza artificiale di Mona dà ai team di intelligenza artificiale e aziendale la fiducia che il loro sistema di intelligenza artificiale sia libero da pregiudizi. Nei settori regolamentati, la soluzione di Mona può preparare i team per la conformità.

La soluzione di equità di Mona è speciale perché si trova sulla piattaforma di Mona – un ponte tra i dati e i modelli di intelligenza artificiale e le loro implicazioni nel mondo reale. Mona esamina tutte le parti del processo aziendale che il modello di intelligenza artificiale serve in produzione, per correlare tra dati di formazione, comportamento del modello e risultati reali nel mondo reale al fine di fornire la valutazione più completa dell’equità.

In secondo luogo, ha un motore analitico unico che consente una segmentazione flessibile dei dati per controllare i parametri rilevanti. Ciò consente valutazioni di correlazione accurate nel contesto giusto, evitando il paradosso di Simpson e fornendo un punteggio di pregiudizio “reale” per qualsiasi metrica di prestazione e su qualsiasi caratteristica protetta.

Quindi, nel complesso, direi che Mona è un elemento fondamentale per i team che devono costruire e scalare un’intelligenza artificiale responsabile.

Qual è la tua visione per il futuro dell’intelligenza artificiale?

È una grande domanda.

Credo che sia abbastanza semplice prevedere che l’intelligenza artificiale continuerà a crescere nell’uso e nell’impatto in vari settori e aspetti della vita delle persone. Tuttavia, è difficile prendere sul serio una visione che è dettagliata e che cerca di coprire tutti i casi d’uso e le implicazioni dell’intelligenza artificiale nel futuro. Perché nessuno sa abbastanza per dipingere quel quadro in modo credibile.

Detto ciò, ciò che sappiamo per certo è che l’intelligenza artificiale sarà nelle mani di più persone e servirà a più scopi. La necessità di governance e trasparenza aumenterà quindi in modo significativo.

Una vera visibilità sull’intelligenza artificiale e su come funziona svolgerà due ruoli principali. In primo luogo, aiuterà a instillare fiducia nelle persone e a sollevare le barriere di resistenza per un’adozione più rapida. In secondo luogo, aiuterà chiunque operi l’intelligenza artificiale a garantire che non sfugga al controllo.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Mona Labs.