Donny White, CEO e co-fondatore di Satisfi Labs – Serie di interviste

Fondata nel 2016, Satisfi Labs è un'azienda leader nel settore dell'intelligenza artificiale conversazionale. Il successo iniziale è arrivato dal suo lavoro con i New York Mets, Macy's e gli US Open, consentendo un facile accesso a informazioni spesso non disponibili sui siti web.

Donny ha trascorso 15 anni presso Bloomberg prima di entrare nel mondo delle start-up e ha conseguito un MBA presso la Cornell University e un BA presso il Baruch College. Sotto la guida di Donny, Satisfi Labs ha visto una crescita significativa nei settori dello sport, dell'intrattenimento e del turismo, ricevendo investimenti da Google, MLB e Red Light Management.

Sei stato a Bloomberg per 14 anni quando hai sentito per la prima volta il prurito imprenditoriale. Perché essere un imprenditore è diventato improvvisamente il tuo radar?

Durante il mio primo anno di college, ho fatto domanda per un lavoro come receptionist presso Bloomberg. Una volta messo piede nella porta, ho detto ai miei colleghi che se fossero stati disposti a insegnarmi, avrei potuto imparare velocemente. Durante il mio ultimo anno, ero un dipendente a tempo pieno e avevo spostato tutte le mie lezioni in lezioni serali in modo da poter fare entrambe le cose. Invece di andare a laurearmi all’età di 21 anni, ho trascorso quel tempo a gestire la mia prima squadra. Da quel momento in poi, ho avuto la fortuna di lavorare in un contesto meritocratico e sono stato elevato più volte. A 25 anni gestivo il mio dipartimento. Da lì sono passato alla gestione regionale e poi allo sviluppo del prodotto, fino a gestire le vendite in tutte le Americhe. Nel 2013 ho iniziato a chiedermi se potevo fare qualcosa di più grande. Ho partecipato ad alcuni colloqui presso giovani aziende tecnologiche e un fondatore mi ha detto: "Non sappiamo se sei bravo tu o Bloomberg è bravo". Fu allora che capii che qualcosa doveva cambiare e sei mesi dopo ero il vicepresidente delle vendite presso la mia prima startup, Datahug. Poco dopo sono stato reclutato da un gruppo di investitori che volevano rivoluzionare Yelp. Sebbene Yelp sia ancora valido e in salute, nel 2016 ci siamo allineati su una nuova visione e ho co-fondato Satisfi Labs con gli stessi investitori.

Potresti condividere la storia della genesi di Satisfi Labs?

Ero a una partita di baseball al Citi Field con Randy, attuale CTO e cofondatore di Satisfi, quando ho sentito parlare di una delle loro specialità, il bacon su un bastone. Abbiamo fatto il giro dell'atrio e abbiamo chiesto informazioni al personale, ma non siamo riusciti a trovarlo da nessuna parte. Si è scoperto che era nascosto a un'estremità dello stadio, il che ha fatto capire che sarebbe stato molto più conveniente informarsi direttamente con la squadra tramite chat. È qui che è nata la nostra prima idea. Randy e io proveniamo entrambi da un background finanziario e di trading algoritmico, il che ci ha portato a prendere il concetto di abbinare richieste e risposte per costruire la nostra PNL per domande iper-specifiche che verrebbero poste in luoghi. L'idea originale era quella di costruire singoli bot che fossero esperti in un particolare campo della conoscenza, in particolare conoscenze che non sono facilmente accessibili su un sito web. Da lì, il nostro sistema avrebbe un “conduttore” in grado di intercettare ciascun bot quando necessario. Questa è l'architettura di sistema originale che viene utilizzata ancora oggi.

Satisfi Labs aveva progettato il proprio motore NLP ed era sul punto di pubblicare un comunicato stampa quando OpenAI ha sconvolto il tuo stack tecnologico con il rilascio di ChatGPT. Puoi parlare di questo periodo di tempo e di come ciò abbia costretto Satisfi Labs a riorientare la propria attività?

Avevamo programmato un comunicato stampa per annunciare il nostro aggiornamento NLP basato sul contesto in attesa di brevetto per il 6 dicembre 2022. Il 30 novembre 2022, OpenAI ha annunciato ChatGPT. L'annuncio di ChatGPT ha cambiato non solo la nostra tabella di marcia ma anche il mondo. Inizialmente, noi, come tutti gli altri, stavamo lottando per comprendere la potenza e i limiti di ChatGPT e capire cosa significasse per noi. Ci siamo presto resi conto che il nostro sistema di PNL contestuale non era in concorrenza con ChatGPT, ma poteva effettivamente migliorare l'esperienza LLM. Ciò ha portato alla rapida decisione di diventare partner aziendali di OpenAI. Poiché il nostro sistema è iniziato con l'idea di comprendere e rispondere alle domande a livello granulare, siamo stati in grado di combinare la progettazione del sistema "bot conduttore" e sette anni di dati sugli intenti per aggiornare il sistema per incorporare LLM.

Satisfi Labs ha recentemente lanciato un brevetto per un sistema di risposta Context LLM, di cosa si tratta nello specifico?

Questo luglio abbiamo presentato il nostro sistema di risposta Context LLM in attesa di brevetto. Il nuovo sistema combina la potenza del nostro sistema di risposta contestuale in attesa di brevetto con ampie funzionalità di modelli linguistici per rafforzare l'intero sistema Answer Engine. La nuova tecnologia Context LLM integra ampie funzionalità del modello linguistico in tutta la piattaforma, che vanno dal miglioramento dell'instradamento degli intenti alla generazione di risposte e all'indicizzazione degli intenti, che guida anche le sue esclusive capacità di reporting. La piattaforma porta l'intelligenza artificiale conversazionale oltre il tradizionale chatbot sfruttando la potenza di LLM come GPT-4. La nostra piattaforma consente ai brand di rispondere sia con risposte di intelligenza artificiale generativa che con risposte pre-scritte a seconda della necessità di controllo nella risposta.

Puoi discutere dell'attuale disconnessione tra la maggior parte dei siti Web aziendali e le piattaforme LLM nel fornire risposte sul marchio?

ChatGPT è addestrato per comprendere un'ampia gamma di informazioni e pertanto non dispone del livello di formazione granulare necessario per rispondere a domande specifiche del settore con il livello di specificità che la maggior parte dei marchi si aspetta. Inoltre, l'accuratezza delle risposte fornite dai LLM è buona quanto i dati forniti. Quando utilizzi ChatGPT, acquisisce dati da Internet, il che può essere impreciso. ChatGPT non dà priorità ai dati di un marchio rispetto ad altri dati. Negli ultimi sette anni abbiamo servito vari settori, acquisendo preziose informazioni sulle milioni di domande poste ogni giorno dai clienti. Ciò ci ha permesso di capire come ottimizzare il sistema con un contesto più ampio per settore e fornire funzionalità di reporting delle intenzioni solide e granulari, che sono cruciali data l’ascesa di modelli linguistici di grandi dimensioni. Sebbene i LLM siano efficaci nel comprendere le intenzioni e nel generare risposte, non possono riferire sulle domande poste. Utilizzando anni di dati estesi sugli intenti, abbiamo creato in modo efficiente report standardizzati attraverso il loro sistema di indicizzazione degli intenti.

Che ruolo svolgono i linguisti nel migliorare le capacità delle tecnologie LLM?

Il ruolo del prompt engineer è emerso con questa nuova tecnologia, che richiede a una persona di progettare e perfezionare i prompt che suscitano una risposta specifica da parte dell'intelligenza artificiale. I linguisti hanno una grande comprensione della struttura del linguaggio come la sintassi e la semantica, tra le altre cose. Uno dei nostri ingegneri IA di maggior successo ha un background in linguistica, che le consente di essere molto efficace nel trovare modi nuovi e sfumati per stimolare l'IA. Piccoli cambiamenti nel prompt possono avere effetti profondi sull'accuratezza e sull'efficienza con cui viene generata una risposta, il che fa la differenza quando gestiamo milioni di domande su più clienti.

Che aspetto ha la messa a punto sul backend?

Disponiamo del nostro modello di dati proprietario che utilizziamo per mantenere in linea il LLM. Ciò ci consente di costruire le nostre recinzioni per tenere sotto controllo il LLM, invece di dover cercare recinzioni. In secondo luogo, possiamo sfruttare strumenti e funzionalità utilizzati da altre piattaforme, il che ci consente di supportarli sulle nostre piattaforme.

L'ottimizzazione dei dati di formazione e l'utilizzo del Reinforcement Learning (RL) nella nostra piattaforma possono aiutare a mitigare il rischio di disinformazione. La messa a punto, invece di interrogare la base di conoscenza per fatti specifici da aggiungere, crea una nuova versione del LLM addestrata su questa conoscenza aggiuntiva. D'altra parte, RL forma un agente con feedback umano e apprende una politica su come rispondere alle domande. Ciò si è rivelato efficace nella costruzione di modelli con ingombro ridotto che diventano esperti in compiti specifici.

Puoi discutere del processo di onboarding di un nuovo cliente e di integrazione di soluzioni di intelligenza artificiale conversazionale?

Poiché ci concentriamo su destinazioni ed esperienze quali sport, intrattenimento e turismo, i nuovi clienti beneficiano di quelli già presenti nella comunità, rendendo l'onboarding molto semplice. I nuovi clienti identificano dove risiedono le loro fonti di dati più attuali, come un sito Web, manuali dei dipendenti, blog, ecc. Acquisiamo i dati e addestriamo il sistema in tempo reale. Poiché lavoriamo con centinaia di clienti nello stesso settore, il nostro team può fornire rapidamente consigli su quali risposte siano più adatte per risposte pre-scritte rispetto a risposte generate. Inoltre, impostiamo flussi guidati come il nostro dinamico Food & Beverage Finder in modo che i clienti non debbano mai avere a che fare con un costruttore di bot.

Satisfi Labs sta attualmente lavorando a stretto contatto con squadre sportive e aziende, qual è la tua visione per il futuro dell'azienda?

Vediamo un futuro in cui sempre più marchi vorranno controllare più aspetti della loro esperienza di chat. Ciò comporterà una maggiore necessità per il nostro sistema di fornire un maggiore accesso a livello di sviluppatore. Non ha senso che i brand assumano sviluppatori per costruire i propri sistemi di intelligenza artificiale conversazionale poiché le competenze necessarie saranno scarse e costose. Tuttavia, con il nostro sistema che alimenta il backend, gli sviluppatori possono concentrarsi maggiormente sull'esperienza e sul percorso del cliente avendo un maggiore controllo delle istruzioni, collegando dati proprietari per consentire una maggiore personalizzazione e gestendo l'interfaccia utente della chat per esigenze specifiche dell'utente. Satisfi Labs sarà la spina dorsale tecnica delle esperienze di conversazione dei marchi.

Grazie per l'ottima intervista, i lettori che desiderano saperne di più dovrebbero visitare Satisfi Labs.