Donny White, CEO & Co-Founder di Satisfi Labs – Intervista

Fondata nel 2016, Satisfi Labs è una società leader nel settore dell’intelligenza artificiale conversazionale. Il primo successo è arrivato grazie al lavoro svolto con i New York Mets, Macy’s (M ) e l’US Open, consentendo un facile accesso alle informazioni spesso non disponibili sui siti web.

Donny ha trascorso 15 anni a Bloomberg prima di entrare nel mondo delle startup e ha un MBA alla Cornell University e un BA alla Baruch College. Sotto la sua guida, Satisfi Labs ha visto una crescita significativa nei settori dello sport, dell’intrattenimento e del turismo, ricevendo investimenti da Google (GOOGL ), MLB e Red Light Management.

Eravate a Bloomberg per 14 anni quando avete sentito per la prima volta il desiderio di diventare imprenditori. Perché essere un imprenditore è improvvisamente diventato una priorità?

Durante il mio terzo anno di college, ho fatto domanda per un lavoro come receptionist a Bloomberg. Una volta entrato, ho detto ai miei colleghi che se erano disposti a insegnarmi, avrei potuto imparare velocemente. Entro il mio ultimo anno, ero un dipendente a tempo pieno e avevo spostato tutte le mie lezioni serali in modo da poter fare entrambe le cose. Invece di partecipare alla mia cerimonia di laurea all’età di 21 anni, ho trascorso quel tempo gestendo il mio primo team. Da quel momento in poi, sono stato fortunato a lavorare in una meritocrazia e sono stato promosso più volte. A 25 anni, gestivo il mio stesso dipartimento. Da lì, mi sono trasferito nella gestione regionale e poi nello sviluppo di prodotti, fino a quando non gestivo le vendite in tutta l’America. Nel 2013, ho iniziato a chiedermi se avrei potuto fare qualcosa di più grande. Ho partecipato a diverse interviste in giovani aziende tecnologiche e un fondatore mi ha detto: “Non sappiamo se sei bravo o se è bravo Bloomberg”. È stato allora che ho capito che dovevo cambiare e sei mesi dopo ero il VP delle vendite nella mia prima startup, Datahug. Poco dopo, sono stato reclutato da un gruppo di investitori che volevano disturbare Yelp. Mentre Yelp è ancora buono e ben fatto, nel 2016 abbiamo allineato una nuova visione e ho co-fondato Satisfi Labs con gli stessi investitori.

Potreste condividere la storia di come è nata Satisfi Labs?

Ero a una partita di baseball a Citi Field con Randy, l’attuale CTO e co-fondatore di Satisfi, quando ho sentito parlare di una delle loro specialità, il bacon su un bastoncino. Abbiamo camminato intorno al concorso e chiesto allo staff al riguardo, ma non siamo riusciti a trovarlo da nessuna parte. Risultò che era nascosto in un angolo dello stadio, il che mi ha fatto capire che sarebbe stato molto più conveniente chiedere direttamente alla squadra attraverso la chat. È qui che è nata la nostra prima idea. Randy e io proveniamo entrambi da background finanziari e di trading algoritmico, il che ci ha portato a prendere il concetto di abbinare le richieste con le risposte per costruire la nostra NLP per richieste iper-specifiche che sarebbero state poste in luoghi specifici. L’idea originale era quella di costruire bot individuali che sarebbero stati esperti in un campo di conoscenza specifico, in particolare conoscenze che non sono facilmente accessibili su un sito web. Da lì, il nostro sistema avrebbe avuto un “direttore d’orchestra” che avrebbe potuto attivare ogni bot quando necessario. Questo è l’architettura del sistema originale che è ancora in uso oggi.

Satisfi Labs aveva progettato il proprio motore NLP e stava per pubblicare un comunicato stampa quando OpenAI ha interrotto la vostra tecnologia con l’annuncio di ChatGPT. Potreste discutere questo periodo e come ciò ha costretto Satisfi Labs a cambiare direzione?

Avevamo un comunicato stampa programmato per annunciare il nostro upgrade NLP basato sul contesto in scadenza per il 6 dicembre 2022. Il 30 novembre 2022, OpenAI ha annunciato ChatGPT. L’annuncio di ChatGPT ha cambiato non solo la nostra roadmap, ma anche il mondo. Inizialmente, noi, come tutti gli altri, stavamo correndo per capire il potere e i limiti di ChatGPT e capire cosa significava per noi. Presto abbiamo capito che il nostro sistema NLP basato sul contesto non competeva con ChatGPT, ma poteva effettivamente migliorare l’esperienza LLM. Ciò ha portato a una rapida decisione di diventare partner aziendali di OpenAI. Dal momento che il nostro sistema è iniziato con l’idea di comprendere e rispondere a domande a livello granulare, siamo stati in grado di combinare il design del sistema “bot conductor” e sette anni di dati di intento per aggiornare il sistema e incorporare LLM.

Satisfi Labs ha recentemente lanciato un brevetto per un sistema di risposta LLM basato sul contesto, cosa è esattamente?

Quest’estate, abbiamo presentato il nostro sistema di risposta LLM basato sul contesto in attesa di brevetto. Il nuovo sistema combina il potere del nostro sistema di risposta basato sul contesto in attesa di brevetto con le capacità del modello linguistico di grandi dimensioni per rafforzare l’intero motore di risposta. La nuova tecnologia LLM basata sul contesto integra le capacità del modello linguistico di grandi dimensioni in tutta la piattaforma, che vanno dal miglioramento dell’inoltro delle intenzioni alla generazione di risposte e all’indicizzazione delle intenzioni, che guida anche le sue capacità di reporting univoche. La piattaforma porta l’intelligenza artificiale conversazionale oltre il tradizionale chatbot, sfruttando il potere dei modelli linguistici di grandi dimensioni come GPT-4. La nostra piattaforma consente ai marchi di rispondere con risposte generate da intelligenza artificiale o risposte pre-scritte a seconda del bisogno di controllo nella risposta.

Potreste discutere la disconnessione attuale tra la maggior parte dei siti web aziendali e le piattaforme LLM nel fornire risposte coerenti con il marchio?

ChatGPT è stato addestrato per comprendere una vasta gamma di informazioni e quindi non ha il livello di addestramento granulare necessario per rispondere a domande specifiche di settore con il livello di specificità che la maggior parte dei marchi si aspetta. Inoltre, l’accuratezza delle risposte fornite dai LLM è solo buona quanto i dati forniti. Quando si utilizza ChatGPT, si sta attingendo a dati da tutto Internet, che possono essere inaccurati. ChatGPT non dà priorità ai dati di un marchio rispetto ad altri dati. Abbiamo servito vari settori negli ultimi sette anni, guadagnando insight preziosi sulle milioni di domande poste dai clienti ogni giorno. Ciò ci ha permesso di capire come regolare il sistema con un contesto maggiore per settore e fornire capacità di reporting delle intenzioni robuste e granulari, che sono cruciali data la crescita dei modelli linguistici di grandi dimensioni. Mentre i LLM sono efficaci nel comprendere le intenzioni e generare risposte, non possono segnalare le domande poste. Utilizzando anni di dati di intento estensivi, abbiamo creato un reporting standardizzato attraverso il nostro sistema di indicizzazione delle intenzioni.

Qual è il ruolo dei linguisti nel migliorare le capacità delle tecnologie LLM?

Il ruolo di ingegnere di prompt è emerso con questa nuova tecnologia, che richiede a una persona di progettare e raffinare i prompt che eliciteranno una risposta specifica dall’AI. I linguisti hanno una grande comprensione della struttura della lingua, come la sintassi e la semantica, tra le altre cose. Una delle nostre ingegnere di AI più di successo ha una formazione in linguistica, che le consente di essere molto efficace nel trovare nuovi e sottili modi per attivare l’AI. Piccoli cambiamenti nel prompt possono avere effetti profondi sulla accuratezza e sull’efficienza con cui viene generata una risposta, il che fa tutta la differenza quando gestiamo milioni di domande tra più clienti.

Cosa significa la regolazione fine nel back-end?

Abbiamo il nostro modello di dati proprietario che utilizziamo per mantenere l’LLM in linea. Ciò ci consente di costruire le nostre recinzioni per mantenere l’LLM sotto controllo, anziché dover cercare recinzioni. In secondo luogo, possiamo sfruttare strumenti e funzionalità che altre piattaforme utilizzano, il che ci consente di supportarle sulle nostre piattaforme.

La regolazione fine dei dati di addestramento e l’utilizzo dell’apprendimento per rinforzo (RL) nella nostra piattaforma possono aiutare a mitigare il rischio di disinformazione. La regolazione fine, anziché interrogare la base di conoscenza per fatti specifici da aggiungere, crea una nuova versione dell’LLM addestrata su queste conoscenze aggiuntive. D’altra parte, l’RL addestra un agente con feedback umano e apprende una politica su come rispondere alle domande. Ciò si è dimostrato efficace nel costruire modelli con un’impronta più piccola che diventano esperti in compiti specifici.

Potreste discutere il processo per l’onboarding di un nuovo cliente e l’integrazione di soluzioni di intelligenza artificiale conversazionale?

Dal momento che ci concentriamo su destinazioni e esperienze come lo sport, l’intrattenimento e il turismo, i nuovi clienti beneficiano di quelli già presenti nella comunità, rendendo l’onboarding molto semplice. I nuovi clienti identificano dove vivono le loro fonti di dati più aggiornate, come un sito web, manuali per dipendenti, blog, ecc. Ingestiamo i dati e addestriamo il sistema in tempo reale. Dal momento che lavoriamo con centinaia di clienti nello stesso settore, il nostro team può fornire rapidamente raccomandazioni su quali risposte sono più adatte per risposte pre-scritte o generate. Inoltre, impostiamo flussi guidati come il nostro dinamico Food & Beverage Finder in modo che i clienti non debbano mai gestire un bot-builder.

Satisfi Labs sta attualmente lavorando a stretto contatto con squadre sportive e aziende, qual è la vostra visione per il futuro dell’azienda?

Vediamo un futuro in cui più marchi vorranno controllare più aspetti della loro esperienza di chat. Ciò porterà a un aumento del bisogno del nostro sistema per fornire un accesso a livello di sviluppatore. Non ha senso che i marchi assumano sviluppatori per costruire i propri sistemi di intelligenza artificiale conversazionale, poiché l’esperienza necessaria sarà scarsa e costosa. Tuttavia, con il nostro sistema che alimenta il back-end, i loro sviluppatori possono concentrarsi di più sull’esperienza del cliente e sul percorso, avendo un maggiore controllo dei prompt, collegando dati proprietari per consentire una maggiore personalizzazione e gestendo l’interfaccia utente della chat per esigenze specifiche degli utenti. Satisfi Labs sarà la spina dorsale tecnica delle esperienze conversazionali dei marchi.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Satisfi Labs.