Shanea Leven, Fondatrice e Amministratore Delegato di Empromptu AI – Serie di Interviste

Shanea Leven, Fondatrice e Amministratore Delegato di Empromptu AI, è un veterano leader di prodotto con una vasta esperienza nella costruzione di piattaforme per sviluppatori e prodotti basati su intelligenza artificiale in importanti aziende tecnologiche. Prima di lanciare Empromptu nel 2025, ha fondato CodeSee, una piattaforma di sviluppo basata su intelligenza artificiale che aiuta i team a visualizzare e comprendere codici complessi, che è stata acquisita da GitKraken nel 2024. In precedenza, ha ricoperto ruoli di leadership nel settore prodotti in aziende come Docker, Cloudflare, eBay e Google (GOOGL ), dove ha lavorato su iniziative che spaziavano dalle API di pagamento di Google Assistant a programmi di formazione per sviluppatori utilizzati da centinaia di migliaia di apprendisti.

Empromptu AI è una piattaforma aziendale progettata per aiutare le organizzazioni a costruire e distribuire applicazioni integrate di intelligenza artificiale più facilmente. La piattaforma combina lo sviluppo di applicazioni, l’integrazione dei dati, la governance, le valutazioni, la memoria e l’orchestrazione dei modelli in un unico ambiente, consentendo alle aziende di passare da esperimenti di intelligenza artificiale rapidi a sistemi di produzione di alta qualità con i controlli e l’affidabilità richiesti per l’uso aziendale.

Ha trascorso più di 15 anni costruendo piattaforme per sviluppatori in aziende come Google, eBay, Cloudflare e Docker prima di fondare CodeSee, che in seguito è stata acquisita da GitKraken, e ora guida Empromptu AI. Come hanno plasmato queste esperienze la sua prospettiva sul perché così tanti strumenti di intelligenza artificiale falliscono una volta superata la fase demo, e qual è il problema specifico che si è impegnata a risolvere quando ha fondato Empromptu?

Una delle cose che si imparano costruendo piattaforme per sviluppatori è che i problemi più difficili non sono mai quelli nella demo. La demo funziona sempre. La vera prova è ciò che accade quando migliaia di sviluppatori utilizzano il sistema, quando i dati sono confusionari, quando le integrazioni si rompono e quando le aziende reali dipendono da esso.

Presso Google, Cloudflare, Docker e eBay ho trascorso anni lavorando su piattaforme che dovevano operare su scala globale. Quegli ambienti ti insegnano qualcosa in fretta: l’affidabilità, la governance e l’osservabilità non sono caratteristiche che si aggiungono in seguito. Sono l’architettura.

Quando ho iniziato a costruire applicazioni di intelligenza artificiale, i modelli erano terribili e, man mano che miglioravano, ho notato che l’industria stava ripetendo lo stesso errore che abbiamo visto in precedenti ondate di software. Negli strumenti di sviluppo c’è un concetto che sembra essere stato dimenticato. Quanto velocemente si può raggiungere “hello world”? Oggi, la versione generativa di “hello world” è un prototipo di SaaS funzionante. Ma non codifichiamo solo applicazioni SaaS; codifichiamo intere applicazioni di intelligenza artificiale. Un’intelligenza artificiale che costruisce intelligenza artificiale richiede altri sistemi per mettere quell’intelligenza artificiale in produzione.

Si può generare un’applicazione o una funzionalità di intelligenza artificiale funzionante rapidamente, il che è emozionante e genuinamente utile. Ma i sistemi predominanti mancano ancora delle infrastrutture necessarie per gli ambienti di produzione. Cose come pipeline di dati strutturati, framework di valutazione, controlli di governance, monitoraggio e gestione del contesto a lungo termine sono state trascurate, ma le abbiamo inserite mantenendo tutte le parti incredibili della codifica basata su vibrazioni.

Quando io e il mio co-fondatore abbiamo fondato Empromptu, il problema che volevamo risolvere era semplice: come rendere le applicazioni di intelligenza artificiale pronte per la produzione fin dall’inizio?

Invece di trattare la governance, la preparazione dei dati, la valutazione e l’ottimizzazione come strumenti separati o processi successivi, li abbiamo costruiti direttamente nella piattaforma. L’idea è che i team dovrebbero essere in grado di costruire applicazioni di intelligenza artificiale rapidamente, ma con la stessa affidabilità, qualità e controllo che ci si aspetta dai sistemi software aziendali.

È stata molto esplicita sulla lacuna tra dimostrazioni di intelligenza artificiale impressionanti e sistemi pronti per la produzione. Dal suo punto di vista, quali sono gli errori architettonici più comuni che i team commettono quando cercano di trasformare un prototipo di intelligenza artificiale in un prodotto affidabile utilizzato da clienti reali?

L’errore più comune che i team commettono è supporre che il modello sia il prodotto.

Nelle prime fasi del prototipo, il modello svolge la maggior parte del lavoro visibile. Lo si promuove, produce una risposta e, se la risposta sembra buona, il sistema sembra funzionare. Ciò crea l’illusione che migliorare il modello sia la sfida principale.

Ma nei sistemi di produzione, il modello è solo un componente in un’architettura molto più grande.

L’errore principale è trattare i dati come un’idea secondaria. Nei prototipi, i team spesso testano con piccoli set di dati puliti. Una volta che il sistema si collega a dati operativi reali, le cose cambiano rapidamente. I dati arrivano incompleti, incoerenti, duplicati o in formati inaspettati. Senza una pipeline di dati strutturata per normalizzare e convalidare gli input, il sistema diventa inaffidabile indipendentemente da quanto sia buono il modello.

Il secondo errore è l’assenza di framework di valutazione. Molti team lanciano funzionalità di intelligenza artificiale senza definire cosa significhi “buono” in realtà. Potrebbero eseguire controlli manuali degli output durante lo sviluppo, ma non costruiscono pipeline di valutazione automatizzate che misurano continuamente l’accuratezza, la deriva e i casi limite una volta che il sistema è attivo. Senza quelle garanzie, i fallimenti vengono spesso scoperti dai clienti invece che dagli ingegneri.

Un terzo problema è la mancanza di meccanismi di governance e controllo. I sistemi di intelligenza artificiale sono probabilistici, il che significa che possono comportarsi diversamente in condizioni leggermente diverse. In ambienti regolamentati o ad alto rischio, quell’imprevedibilità deve essere limitata con politiche deterministiche, flussi di lavoro di approvazione e registri di audit che catturano come sono state prese le decisioni.

Ciò si riduce essenzialmente al fatto che i sistemi di produzione di intelligenza artificiale non sono solo modelli. Sono sistemi operativi.

Le aziende che hanno successo con l’intelligenza artificiale oggi sono quelle che trattano le pipeline di dati, la valutazione, la governance e il monitoraggio come infrastrutture di base, non come aggiunte opzionali.

Molti piattaforme di codifica di intelligenza artificiale promettono che chiunque possa costruire un’applicazione utilizzando semplici prompt. Perché questi strumenti funzionano spesso bene per le dimostrazioni, ma lottano una volta che le aziende cercano di distribuirli in ambienti di produzione reali?

Molte di queste piattaforme funzionano bene per le dimostrazioni perché sono ottimizzate per il momento della creazione, non per il ciclo di vita di un sistema reale.

Ma c’è una differenza fondamentale tra l’uso dell’intelligenza artificiale per generare una landing page e l’uso dell’intelligenza artificiale per costruire un’applicazione di intelligenza artificiale.

Una landing page è per lo più un software statico. Una volta che si esegue correttamente, il lavoro è sostanzialmente fatto. Il sistema non deve prendere decisioni probabilistiche, ingerire dati in continua evoluzione o adattarsi a comportamenti utente imprevedibili.

Le applicazioni di intelligenza artificiale sono completamente diverse. Sono sistemi dinamici che si affidano a pipeline di dati, comportamento del modello, framework di valutazione e monitoraggio continuo. L’applicazione deve gestire il contesto, rilevare quando gli output si discostano, gestire casi limite e operare in modo sicuro quando il modello incontra situazioni che non ha visto prima.

La maggior parte degli strumenti di codifica basata su prompt non affronta quei livelli perché sono progettati per ottenere qualcosa di funzionante rapidamente. Generano codice che produce un risultato visibile, che è perfetto per un ambiente demo. Ma i sistemi di produzione richiedono un insieme di capacità molto più ampio: gestione dei dati strutturati, controlli di governance, pipeline di valutazione, osservabilità e meccanismi per aggiornare il comportamento in modo sicuro nel tempo.

Quindi, quando le aziende cercano di distribuire questi sistemi in ambienti reali, la lacuna diventa ovvia. Il prototipo funzionava perché l’ambiente era controllato. La produzione è caotica.

Empromptu si concentra sul trasformare il software esistente in sistemi nativi di intelligenza artificiale, anziché costringere le aziende a ricostruire tutto da zero. Cosa comporta effettivamente questa trasformazione a livello di infrastruttura e prodotto?

A livello di prodotto, ogni applicazione è completamente autonoma e containerizzata. Creiamo tutto ciò di cui hai bisogno, dalle interfacce utente, ai backend, ai database, ai modelli, alle valutazioni, alle regole e a tutto il resto, e tutto è super flessibile in base alle esigenze dell’azienda.

Abbiamo diverse opzioni per le applicazioni di intelligenza artificiale:

“Headless”, quindi se un cliente ha già un’interfaccia utente, possiamo collegarla al nostro sistema e restituire i dati.

Completamente containerizzato, quindi possono essere distribuiti sulla nostra infrastruttura o all’interno dell’infrastruttura del cliente, quindi sono predefiniti on-premises.

Oppure possiamo semplicemente generarli e distribuirli direttamente nel cloud per l’opzione più conveniente.

Qualsiasi codice che abbiano, possiamo importarlo direttamente nel nostro sistema e renderlo un agente se non lo è già. Ad esempio, vediamo questo con molti clienti che hanno provato a costruire le loro applicazioni su piattaforme popolari come Lovable, Replit, Bolt o Base44. Spesso non funzionano. Ma i clienti hanno già investito molto tempo, energia e crediti in quell’applicazione, quindi la ingeriamo, la riscriviamo e facciamo funzionare l’intelligenza artificiale.

E possiamo farlo perché abbiamo diverse tecnologie personalizzate e proprietarie, come:

• Un motore di contesto adattivo per gestire il contesto
• Una memoria infinita per ingerire applicazioni di codice a esecuzione prolungata
• Modelli di dati personalizzati e pipeline di dati dorati per assicurarsi di poter gestire qualsiasi pulizia dei dati e etichettatura sintetica richiesta

La sua piattaforma sottolinea il contesto, la valutazione, la governance e i dati strutturati come componenti chiave dei sistemi di intelligenza artificiale. Perché questi elementi sono così frequentemente trascurati quando i team si affrettano ad aggiungere funzionalità di intelligenza artificiale ai loro prodotti?

Perché sono difficili da fare! Il mio co-fondatore, il dottor Sean Robinson, guida il nostro laboratorio di ricerca e ha inventato diverse tecnologie ispirate alle mie idee folli, ma anche alle esigenze dei nostri clienti e a dove si sta dirigendo il mercato. La nostra esperienza combinata nella costruzione di molte applicazioni agentiche, nel mettere satelliti nello spazio e nel costruire nelle più grandi aziende tecnologiche del mondo ci fornisce insight che ci aiutano a risolvere problemi complicati meglio di quanto possano fare gli altri.

Lavora con molti fondatori che non hanno mai scritto codice prima. Quali sono i più grandi malintesi che i fondatori non tecnici hanno quando cercano di costruire applicazioni di intelligenza artificiale per la prima volta?

Credo che ci siano due grandi malintesi:

Il primo è che l’intelligenza artificiale sia magia. L’intelligenza artificiale non è magia. È solo una buona ingegneria. E alla fine, si raggiunge un limite su ciò che si può fare su queste piattaforme senza un vero ingegnere.

Il secondo è che abbiano grandi capacità di gestione del prodotto tecnico. Ho una formazione in gestione del prodotto tecnico e la capacità di tradurre una visione, a volte una visione molto ampia, in piccoli pezzi consegnabili con la giusta specifica tecnica per articolare esattamente cosa si vuole. È una capacità molto difficile che richiede tempo.

Ad esempio, supponiamo di costruire un’app che carica un PDF e salva quel PDF in modo da poterlo visualizzare nuovamente in seguito. Questo è un concetto chiamato persistenza. Quel PDF viene codificato in codice e salvato in un database.

Ma se non si sa che si chiama persistenza, come si fa a digitare? Assicurarsi che questi dati persistano. La scelta delle parole tecniche è come parlare una lingua diversa. C’è una differenza tra scrivere in linguaggio naturale e scrivere in linguaggio tecnico.

Molti startup assumono che la soluzione per costruire prodotti di intelligenza artificiale consista semplicemente nell’assumere più ingegneri. Perché ritiene che questo approccio spesso fallisca e cosa dovrebbero pensare i fondatori quando costruiscono prodotti alimentati da intelligenza artificiale?

Assumere più ingegneri è a volte la risposta giusta. Se si sta costruendo un prodotto profondamente tecnico o si lavora alla frontiera della ricerca sui modelli, si ha assolutamente bisogno di forti squadre di ingegneri. Non c’è sostituto per i buoni ingegneri quando si tratta di risolvere problemi difficili.

Ma l’errore che molti startup commettono è supporre che più ingegneri risolvano automaticamente la sfida di costruire un prodotto di intelligenza artificiale.

In realtà, i problemi più difficili nei prodotti di intelligenza artificiale non sono sempre problemi puramente tecnici. Sono problemi di sistema, come ogni altro problema di ingegneria. Gli ingegneri sono specificamente addestrati a pensare in sistemi. Ma lo sviluppo generativo è diverso dallo sviluppo deterministico. Molti di noi hanno fatto questo passaggio quando siamo passati dalla programmazione orientata agli oggetti alla programmazione funzionale. Sono entrambi programmazione? Sì, assolutamente, ma sono diversi? Sono un modo diverso di pensare? Sì, naturalmente.

Le applicazioni di intelligenza artificiale si trovano all’intersezione dei dati, della progettazione del prodotto, dei flussi di lavoro operativi e del comportamento del modello. Si può assumere un team di ingegneri incredibile, ma se le pipeline di dati sono inaffidabili, i criteri di valutazione sono poco chiari o il sistema manca di governance e monitoraggio, il prodotto lottará comunque una volta che raggiungerà gli utenti reali.

Un altro problema è che molti team saltano direttamente alla costruzione prima di aver definito come il sistema di intelligenza artificiale si comporterà in produzione. Domande come come il sistema sarà valutato, come saranno gestiti i casi limite, come le decisioni saranno registrate e come i modelli saranno aggiornati nel tempo spesso arrivano molto più tardi. A quel punto, l’architettura è già difficile da cambiare.

Cosa i fondatori dovrebbero realmente pensare è il modello operativo del loro sistema di intelligenza artificiale.

Chi possiede la pipeline di dati?

Come si misura la prestazione del modello in modo continuo, non solo durante lo sviluppo?

Cosa succede quando il sistema incontra una situazione che non ha visto prima?

Come si aggiorna il comportamento in modo sicuro senza interrompere i flussi di lavoro a valle?

A volte, risolvere quei problemi significa assumere più ingegneri. Ma può anche significare scegliere la giusta infrastruttura, definire forti vincoli di prodotto e costruire sistemi che consentano a piccoli team di operare in modo affidabile su larga scala.

Le aziende che hanno successo con l’intelligenza artificiale oggi non sono necessariamente quelle con i team di ingegneri più grandi. Sono quelle che trattano l’intelligenza artificiale come un sistema a lungo termine che richiede disciplina dei dati, valutazione, governance e miglioramento continuo costruito fin dall’inizio.

Ha sostenuto che alcuni dei modelli di business attuali negli strumenti di sviluppo di intelligenza artificiale non sono allineati con la costruzione di prodotti duraturi. Quali incentivi nell’ecosistema degli strumenti di intelligenza artificiale ritiene stiano portando le aziende nella direzione sbagliata?

Uno dei più grandi mismatch di incentivi attualmente è che molti strumenti di sviluppo di intelligenza artificiale sono ottimizzati per metriche di crescita piuttosto che per la durata del prodotto.

Molte aziende in questo settore sono ricompensate per quanto rapidamente gli utenti possano creare qualcosa di impressionante. Se uno strumento può generare un’applicazione o una funzionalità funzionante in pochi minuti, ciò genera iscrizioni, condivisioni sui social e entusiasmo degli investitori. Dal punto di vista dell’adozione del prodotto, questo ha senso.

Ma quegli incentivi spesso si fermano al momento della creazione.

Il lavoro più difficile nel software di intelligenza artificiale si verifica dopo quel punto. È quando si costruisce la fiducia. Quando si può fare affidamento sulla qualità. Che l’utente voglia tornare più e più volte senza la frustrazione dell’intelligenza artificiale di output scadenti. Deve fornire risposte buone anche di fronte all’ignoranza o alla malizia umana.

Un altro problema è che molti strumenti sono ottimizzati per la generazione di codice piuttosto che per la progettazione del sistema. La generazione di codice rapida è utile, ma costruire un prodotto di intelligenza artificiale coinvolge più che produrre codice. Richiede la definizione di come il sistema gestisce il contesto, come le decisioni vengono valutate, come i fallimenti vengono gestiti e come il comportamento evolve in modo sicuro nel tempo.

Le aziende che allineano i loro incentivi intorno all’aiuto ai clienti per eseguire sistemi di intelligenza artificiale in modo affidabile, e non solo a costruirli rapidamente, sono quelle che creeranno valore duraturo in questo ecosistema.

Alcuni dei suoi clienti includono imprenditori che costruiscono prodotti molto specifici, come strumenti di salute specializzati o aziende focalizzate sulla sostenibilità, spesso senza team di ingegneria tradizionali. Quali pattern ha visto tra i fondatori che hanno successo nel trasformare quelle idee in prodotti di intelligenza artificiale funzionanti?

Uno dei pattern più interessanti che vediamo è che i fondatori che hanno successo non sono necessariamente i più tecnici. Sono quelli che capiscono estremamente bene il problema che stanno risolvendo.

Molti degli imprenditori che utilizzano Empromptu sono esperti di domino. Potrebbero provenire da settori come la sanità, la finanza, la sostenibilità o un altro settore specializzato. Ciò che portano è una conoscenza approfondita dei flussi di lavoro, delle norme e delle decisioni che esistono in quell’ambiente. Quel contesto è incredibilmente prezioso quando si progetta un prodotto di intelligenza artificiale, poiché definisce cosa il sistema debba effettivamente fare.

I fondatori che hanno successo tendono ad approcciare l’intelligenza artificiale meno come un esperimento tecnologico e più come un sistema di prodotto. Iniziano ponendo domande molto concrete. Quali decisioni dovrebbe aiutare l’intelligenza artificiale a prendere gli utenti? Quali fonti di dati deve accedere? Cosa sembra una risposta corretta in questo dominio? Quali garanzie devono esistere in modo che il sistema si comporti in modo responsabile?

Un altro pattern è che pensano attentamente alla struttura. I team di successo si rendono rapidamente conto che i risultati dell’intelligenza artificiale sono solo buoni quanto il contesto e i dati che li alimentano. Investono tempo in anticipo per definire pipeline di dati, organizzare fonti di conoscenza e creare criteri di valutazione chiari per ciò che significa “buono” in realtà.

Vediamo anche i fondatori di successo abbracciare la collaborazione uomo-intelligenza artificiale invece di cercare di automatizzare tutto immediatamente. Progettano flussi di lavoro in cui l’intelligenza artificiale gestisce l’analisi ripetitiva o la sintesi dei dati, mentre gli esseri umani rimangono responsabili del giudizio e delle decisioni finali. Quel equilibrio rende i sistemi molto più affidabili, specialmente in settori come la sanità o la finanza.

In molti modi, il più grande cambiamento è la mentalità. I fondatori che hanno successo non pensano all’intelligenza artificiale come a una funzionalità che stanno aggiungendo. La pensano come a un nuovo livello operativo per come funziona il loro prodotto.

Man mano che i sistemi di intelligenza artificiale si integrano maggiormente nelle operazioni aziendali di base, quali capacità definiranno la prossima generazione di piattaforme di applicazioni di intelligenza artificiale?

So che questo è folle e potrei dire qualcosa di sacrilego, ma le persone saranno in grado di codificare le proprie modelli personalizzati. Qualcosa che il nostro laboratorio di ricerca chiama modelli nano esperti aiuterà a controllare i costi.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Empromptu AI.