Omri Kohl, CEO e Co-Fondatore di Pyramid Analytics – Serie di Interviste

Omri Kohl è il CEO e co-fondatore di Pyramid Analytics. La piattaforma di Pyramid Decision Intelligence fornisce informazioni basate sui dati per consentire a chiunque di prendere decisioni più rapide e intelligenti. Lui guida la strategia e le operazioni dell’azienda attraverso un mercato di dati e analisi in rapida crescita. Kohl porta una profonda comprensione delle tecnologie di analisi e intelligenza artificiale, un’esperienza di gestione preziosa e una naturale capacità di sfidare il pensiero convenzionale. Kohl è un imprenditore molto esperto con un curriculum provato nel sviluppo e nella gestione di aziende in rapida crescita. Ha studiato economia, finanza e gestione aziendale all’Università Bar-Ilan e ha un MBA in gestione internazionale aziendale presso la New York University, Leonard N. Stern School of Business.

Potresti iniziare spiegando cosa è GenBI e come integra l’intelligenza artificiale generativa con l’intelligenza aziendale per migliorare i processi decisionali?

GenBI è il framework e la meccanica per portare il potere di GenAI, LLM e intelligenza artificiale generale nell’analisi, nell’intelligenza aziendale e nella presa di decisioni.

Al momento, non è pratico utilizzare GenAI da solo per accedere alle informazioni sui set di dati. Potrebbe richiedere più di una settimana per caricare abbastanza dati nel tuo strumento GenAI per ottenere risultati significativi. Ciò non è semplicemente fattibile, poiché i dati aziendali sono troppo dinamici e troppo sensibili per essere utilizzati in questo modo. Con GenBI, chiunque può estrarre informazioni preziose dai propri dati, semplicemente chiedendo una domanda in linguaggio naturale e vedendo i risultati sotto forma di dashboard di intelligenza aziendale. Ciò richiede solo 30 secondi per ricevere una risposta rilevante e utile.

Quali sono le principali innovazioni tecnologiche dietro GenBI che consentono di comprendere ed eseguire compiti di intelligenza aziendale complessi attraverso il linguaggio naturale?

Beh, senza rivelare tutti i nostri segreti, ci sono essenzialmente tre componenti. In primo luogo, GenBI fornisce a LLM tutti gli elementi necessari per produrre i passaggi analitici corretti che produrranno l’informazione richiesta. Ciò consente all’utente di formare query utilizzando il linguaggio naturale e anche in termini vaghi, senza sapere esattamente che tipo di grafico, indagine o formato richiedere.

In seguito, la soluzione GenBI di Pyramid Analytics applica questi passaggi ai dati dell’azienda, indipendentemente dalle specifiche della situazione. Stiamo parlando dei set di dati più basilari e delle query più semplici, fino ai casi d’uso più sofisticati e ai database più complessi.

In terzo luogo, Pyramid può eseguire queste query sui dati sottostanti e manipolare i risultati al volo. Un LLM da solo non può produrre un’analisi approfondita su un database. È necessario un elemento robotico per trovare tutte le informazioni necessarie, interpretare la richiesta dell’utente per produrre informazioni e passarle alla piattaforma di intelligenza aziendale per articolare i risultati sia in linguaggio piano che come visualizzazione dinamica che può essere successivamente raffinata attraverso query di follow-up.

Come GenBI democratizza l’analisi dei dati, in particolare per gli utenti non tecnici?

Semplicemente, GenBI consente a chiunque di accedere alle informazioni di cui ha bisogno, indipendentemente dal proprio livello di competenza. Gli strumenti di intelligenza aziendale tradizionali richiedono all’utente di conoscere la tecnica di manipolazione dei dati migliore per ottenere i risultati necessari. Ma la maggior parte delle persone non pensa in grafici a torta, grafici a dispersione o tabelle. Non vogliono dover lavorare per capire quale visualizzazione sia la più efficace per la loro situazione – vogliono solo risposte alle loro domande.

GenBI fornisce queste risposte a chiunque, indipendentemente dalla propria competenza. L’utente non deve conoscere tutti i termini professionali o lavorare per capire se un grafico a dispersione o un grafico a torta sia l’opzione migliore, e non deve sapere come codificare le query del database. Possono esplorare i dati utilizzando le proprie parole in una conversazione naturale.

La pensiamo come la differenza tra utilizzare una mappa cartacea per pianificare il percorso e utilizzare Google Maps o un’altra app di navigazione. Con una mappa tradizionale, devi lavorare per capire le strade migliori da prendere, pensare ai possibili ingorghi stradali e confrontare le diverse possibilità di percorso. Oggi, le persone inseriscono semplicemente la destinazione nell’app e partono – c’è molta fiducia negli algoritmi, quindi nessuno mette in discussione il percorso suggerito. Vorremmo pensare che GenBI stia portando la stessa magia automatizzata ai set di dati aziendali.

Qual è stato il feedback degli utenti early adopter sull’esperienza d’uso e sulla curva di apprendimento?

Abbiamo ricevuto un feedback estremamente positivo. Il modo migliore per riassumerlo è: “Wow!” Gli utenti e i tester apprezzano molto la facilità d’uso, le funzionalità potenti e le informazioni significative di Pyramid.

Pyramid Analytics ha una curva di apprendimento virtualmente nulla, quindi non c’è nulla che tenga le persone indietro dall’adottarlo sul posto. Circa tre quarti di tutte le squadre aziendali che hanno testato la nostra soluzione l’hanno adottata e la utilizzano oggi, perché è così facile e efficace.

Puoi condividere come GenBI ha trasformato i processi decisionali all’interno delle organizzazioni che l’hanno implementato? Ci sono casi di studio specifici o esempi?

Sebbene lo stiamo sviluppando da molto tempo, abbiamo appena lanciato GenBI alcune settimane fa, quindi sono sicuro che capisci che non abbiamo ancora casi di studio completi che possiamo condividere, o esempi di clienti che possiamo nominare. Tuttavia, posso dirti che le organizzazioni che hanno migliaia di utenti stanno diventando veramente guidate dai dati, perché chiunque può accedere alle informazioni. Gli utenti possono ora sbloccare il vero valore di tutti i loro dati.

GenBI sta avendo un effetto trasformativo su settori come assicurazioni, banche e finanza, nonché retail, manifattura e molti altri settori verticali. Improvvisamente, è possibile per i consulenti finanziari, ad esempio, accedere a suggerimenti istantanei sul modo migliore per ottimizzare il portafoglio di un cliente.

Quali sono stati i principali sfidi che hai affrontato nello sviluppare GenBI e come li hai superati?

Pyramid Analytics stava già sfruttando l’AI per l’analisi da molti anni prima di lanciare la nuova soluzione, quindi la maggior parte degli sfidi sono stati risolti da tempo.

L’elemento principale è l’aggiunta di una tecnologia di generazione di query sofisticata che funziona con qualsiasi LLM per produrre risultati accurati, mantenendo i dati privati. Abbiamo raggiunto ciò scollegando i dati dalla query (ne parleremo tra un attimo).

Un altro grande sfida che abbiamo dovuto affrontare è stata quella della velocità. Stiamo parlando dell’era di Google, dove le persone si aspettano risposte ora, non in un’ora o anche solo mezz’ora. Ci siamo assicurati di accelerare l’elaborazione e di ottimizzare tutti i flussi di lavoro per ridurre l’attrito.

Poi c’è la necessità di prevenire l’allucinazione. I chatbot sono propensi all’allucinazione, che distorce i risultati e compromette l’affidabilità. Abbiamo lavorato duramente per evitare ciò, mantenendo comunque risultati dinamici.

Come gestisci le questioni relative alla sicurezza e alla privacy dei dati?

È una grande domanda, perché la sicurezza e la privacy dei dati sono il più grande ostacolo all’analisi di GenAI di successo. Tutti sono – giustamente – preoccupati all’idea di esporre dati aziendali altamente sensibili a motori di intelligenza artificiale di terze parti, ma vogliono anche le capacità di interpretazione del linguaggio e le informazioni sui dati che questi motori possono fornire.

È per questo che non condividiamo mai i dati effettivi con gli LLM con cui lavoriamo. Pyramid capovolge l’intera premessa, fungendo da intermediario tra le informazioni dell’azienda e l’LLM. Ci consentono di inviare la richiesta e poi di passarla all’LLM insieme alle descrizioni degli ingredienti, fondamentalmente solo i metadati.

L’LLM restituisce quindi una “ricetta”, che spiega come trasformare la domanda dell’utente in un prompt di analisi dei dati. Quindi Pyramid esegue questa ricetta sui dati che hai già connesso in modo sicuro nella tua installazione self-hosted, in modo che nessun dato raggiunga mai l’LLM. Mescoliamo i risultati per servirli in un formato facilmente comprensibile e visivo. In sostanza, nulla che potrebbe compromettere la sicurezza e la privacy viene esposto o lascia la sicurezza del firewall dell’organizzazione.

Per le organizzazioni che desiderano integrare GenBI nelle loro infrastrutture di dati esistenti, cosa comporta il processo di implementazione? Ci sono requisiti o preparativi necessari?

Il processo di implementazione per Pyramid Analytics non potrebbe essere più semplice o veloce. Gli utenti necessitano di pochi requisiti e preparativi e puoi avere tutto funzionante in meno di un’ora. Non è necessario spostare i dati in un nuovo framework o cambiare nulla nella strategia dei dati, perché Pyramid interroga i dati direttamente dove risiedono.

Non c’è nemmeno bisogno di spiegare i dati alla soluzione o di definire le colonne. È sufficiente caricare un set di dati CSV o connettere il database SQL. Lo stesso vale per qualsiasi database relazionale di qualsiasi tipo. Ci vogliono solo pochi minuti per connettere i dati e poi puoi fare la tua prima domanda pochi secondi dopo.

Detto questo, puoi regolare la struttura se lo desideri, come cambiare il modello di unione o ridefinire le colonne. Ciò richiede un po’ di tempo e sforzo, ma stiamo parlando di minuti, non di un progetto di sviluppo che dura mesi. I nostri clienti sono spesso scioccati dal fatto che Pyramid sia funzionante sui loro data warehouse o data lake classici in cinque minuti o meno.

Non è necessario nemmeno elaborare domande molto specifiche, accurate o intelligenti per ottenere risultati potenti. Puoi fare errori di battitura e utilizzare una fraseologia errata e Pyramid sbroglierà tutto e produrrà una risposta significativa e preziosa. Quello di cui hai bisogno è una certa conoscenza dei dati a cui stai facendo riferimento.

Guardando avanti, qual è la tua visione strategica per Pyramid Analytics nei prossimi cinque anni? Come vedi l’evoluzione delle tue soluzioni per soddisfare le esigenze del mercato in cambiamento?

La prossima grande frontiera è il supporto a query scalabili e altamente specifiche. Gli utenti sono ansiosi di poter fare domande molto precise, come domande su entità personalizzate, e gli LLM non possono ancora produrre risposte intelligenti in questi casi, perché non hanno quel tipo di insight dettagliato sul database.

Stiamo affrontando la sfida di come utilizzare i modelli di linguaggio per chiedere informazioni sui dettagli dei dati senza collegare istantaneamente l’intero enorme lago di dati all’LLM. Come si fa a fine-tuning dell’LLM sui dati che vengono riidratati ogni due secondi? Possiamo gestire ciò per punti fissi come paesi, posizioni e persino date, ma non per qualcosa di idiosincratico come i nomi, anche se siamo molto vicini a ciò oggi.

Un’altra sfida è quella di consentire agli utenti di chiedere le proprie interpretazioni matematiche dei dati, applicando le proprie formule. È difficile non perché la formula è difficile da attuare, ma perché capire cosa vuole l’utente e ottenere la sintassi corretta è una sfida. Stiamo lavorando per risolvere entrambe queste sfide e quando lo faremo, avremo superato il prossimo punto di svolta.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Pyramid Analytics.