Yu Su, Co-fondatore e CEO di NeoCognition – Serie di interviste

Yu Su, Co-fondatore e CEO di NeoCognition, è un ricercatore di lunga data nel campo dell’intelligenza artificiale, la cui carriera spazia dall’accademia all’AI aziendale e ai sistemi di agenti avanzati. Oltre a guidare NeoCognition, ricopre anche il ruolo di professore associato e Innovation Scholar presso l’Università statale dell’Ohio, dove il suo lavoro si è concentrato su agenti AI, sistemi di ragionamento e apprendimento automatico. La sua esperienza include anche più di sei anni come ricercatore senior presso Microsoft (MSFT ), dove ha lavorato a fianco di importanti ricercatori come Percy Liang su sistemi di intelligenza artificiale conversazionale per Outlook utilizzando tecniche di parsing semantico. Nei ruoli presso Microsoft, l’accademia e istituti di ricerca come l’IBM T.J. Watson Research Center, Yu Su ha costruito una reputazione per l’avanzamento dei sistemi AI che possono ragionare, imparare e interagire con ambienti digitali complessi, aiutando a colmare il divario tra la ricerca di punta e le applicazioni del mondo reale.

NeoCognition è un’azienda di ricerca su agenti AI che si concentra sullo sviluppo di ciò che descrive come “intelligenza specializzata” — sistemi AI che imparano e migliorano continuamente attraverso l’esperienza. Fondata da importanti ricercatori AI, l’azienda persegue una visione che va oltre i modelli linguistici statici e grandi verso agenti in grado di sviluppare una profonda competenza in domini specifici. La sua ricerca si concentra su aree come l’apprendimento continuo, il ragionamento, la pianificazione, l’uso di strumenti e la collaborazione multi-agente, con l’obiettivo di creare sistemi AI che diventano più capaci e affidabili nel tempo. Combinando avanzamenti nell’apprendimento automatico con tecniche di ragionamento strutturato e apprendimento adattivo, NeoCognition mira a plasmare la prossima generazione di agenti AI in grado di affrontare compiti del mondo reale sempre più complessi.

Molte aziende si sono affrettate a rilasciare copiloti AI generici, ma stiamo sempre più sentendo preoccupazioni sulla loro affidabilità una volta che questi sistemi entrano in ambienti di produzione reali. Perché, secondo te, molti agenti AI attuali lottano al di fuori delle demo controllate?

La maggior parte degli agenti AI attuali lotta in produzione perché sono ancora fondamentalmente generalisti che operano senza una comprensione duratura dell’ambiente in cui lavorano. Possono spesso completare un compito una volta in una demo, ma ciò è molto diverso dallo sviluppare un giudizio ripetibile all’interno di un sistema operativo reale.

I modelli di oggi sono impressionanti per la loro capacità di riconoscere pattern, ma ancora mancano dei meccanismi che gli esseri umani utilizzano per diventare esperti affidabili. Gli esseri umani non diventano affidabili memorizzando compiti isolati. Ci specializziamo imparando la struttura di un particolare mondo: i flussi di lavoro, le limitazioni, le relazioni, gli strumenti, le priorità e le conseguenze che definiscono una professione o un’organizzazione. Nel tempo, costruiamo un modello interno di quell’ambiente, e quel modello è ciò che consente di prendere decisioni consistenti e ripetibili.

La maggior parte degli agenti AI attuali non costruisce quel tipo di comprensione operativa. Si affidano fortemente a layer di prompt, recupero o orchestrazione che li aiutano a completare azioni isolate, ma stanno ancora largamente improvvisando ogni volta che si trovano di fronte a una nuova situazione. È per questo che le prestazioni spesso si deteriorano una volta che l’ambiente cambia e ancora di più quando diventa disordinato, dinamico o ad alto rischio.

La parte mancante è la specializzazione. Gli esseri umani prosperano perché possiamo continuamente adattarci a cambiamenti ambientali e diventare esperti all’interno di essi attraverso l’apprendimento continuo. Crediamo che gli agenti AI abbiano bisogno di una capacità simile: la capacità di imparare la struttura locale di un dominio abbastanza a fondo da operare con vera competenza.

NeoCognition ha descritto la sua visione come la costruzione di agenti che possono imparare e adattarsi continuamente più come gli esseri umani. Come si presenta tecnicamente questo approccio rispetto alle approcci di fine-tuning statico o basati sul recupero che molte aziende utilizzano oggi?

La maggior parte dei sistemi AI aziendali di oggi migliora le prestazioni o attraverso il fine-tuning di un modello una volta o attraverso il recupero di informazioni rilevanti al momento dell’inferenza. Tuttavia, questi approcci non permettono fondamentalmente a un agente di sviluppare una competenza evolutiva all’interno di un dominio.

Il fine-tuning è generalmente statico dopo l’addestramento. I sistemi di recupero aiutano a portare in superficie le informazioni, ma il recupero di conoscenze non è lo stesso che sviluppare una competenza di dominio o adattare il comportamento in base all’esperienza nel tempo. In molti casi, l’agente manca ancora di un modello persistente dell’ambiente in cui opera.

Quando un essere umano si unisce a un’azienda, non diventa efficace semplicemente perché può cercare documenti. Gradualmente sviluppa il giudizio comprendendo come funziona effettivamente l’organizzazione e l’esperienza emerge dal raffinamento continuo di quel modello interno.

Crediamo che la prossima generazione di agenti necessiti di un meccanismo di apprendimento simile. In NeoCognition, ci concentriamo sull’abilitare gli agenti a formare quei tipi di modelli operativi evolutivi in modo che possano continuamente specializzarsi e migliorare all’interno di un dominio nel tempo, piuttosto che ripartire costantemente da zero o dipendere dalla costante ri-progettazione umana.

Sembra esserci una crescente divisione tra l’esperimentazione AI e la fiducia operativa. Le aziende possono sperimentare con successo agenti internamente, ma il loro deploy a larga scala è un’altra sfida completamente diversa. Cosa stanno sottovalutando le organizzazioni in questa transizione?

Molte organizzazioni sottovalutano quanto gli ambienti operativi reali siano dinamici. Un agente che esegue con un’accuratezza dell’85% può sembrare forte nel testing, ma a livello aziendale ciò si traduce in un flusso costante di errori e situazioni di recupero che i team umani devono gestire. La sfida diventa ancora più significativa in flussi di lavoro multi-step dove i fallimenti si accumulano attraverso sistemi e attività, rendendo la supervisione, l’intervento e la responsabilità molto più difficili di quanto molte organizzazioni si aspettino inizialmente.

Le aziende trattano ancora il deploy come un problema di orchestrazione o di prompt, quando in realtà è anche un problema di apprendimento. La parte difficile non è solo far eseguire un compito a un agente, ma abilitare il sistema a sviluppare una competenza duratura e un giudizio all’interno di un ambiente operativo dinamico.

Il fardello della personalizzazione, del prompt, della supervisione e della ri-progettazione grava ancora pesantemente sui team umani oggi. Ciò è spesso un segno che il sistema manca ancora di comprensione operativa; vengono manualmente guidati attraverso di esso ogni volta. Non è un percorso verso la scalabilità o la fiducia.

Un tema importante che emerge nell’industria AI è la governance, le barriere di sicurezza e l’applicazione delle politiche. Tuttavia, NeoCognition sostiene che la governance da sola non è sufficiente. Perché credi che l’affidabilità richieda in definitiva sistemi che si adattino continuamente al loro ambiente invece di seguire semplicemente regole statiche?

La governance e le barriere di sicurezza sono estremamente importanti, ma le regole statiche da sole non possono risolvere completamente l’affidabilità in ambienti complessi.

I sistemi operativi di produzione sono costantemente in cambiamento. I flussi di lavoro evolvono, gli strumenti vengono aggiornati, le politiche cambiano e situazioni inaspettate emergono che non possono essere sempre anticipate in anticipo. Se un agente conosce solo come seguire regole predefinite senza comprendere l’ambiente in cui opera, alla fine incontrerà situazioni che quelle regole non hanno previsto.

L’affidabilità degli esseri umani deriva dal giudizio, non solo dall’aderenza rigida a script, ma perché sviluppiamo il giudizio comprendendo la struttura e le limitazioni del mondo intorno a noi. Impariamo quando è necessario escalare, quando qualcosa sembra anormale e quando il contesto cambia il corso d’azione corretto.

Crediamo che gli agenti AI necessitino di una capacità simile di adattamento e comprensione ambientale. Sistemi più sicuri verranno dal renderli più competenti e specializzati all’interno di mondi operativi chiaramente definiti. Questo tipo di sistema osserva il proprio ambiente e i propri output, traccia dove fallisce e aggiorna il proprio comportamento.

L’industria AI spesso enfatizza modelli più grandi e capacità più ampie, ma NeoCognition sembra concentrata sulla specializzazione e sull’apprendimento contestuale. Credi che il futuro degli agenti AI aziendali assomiglierà più a lavoratori digitali altamente specializzati piuttosto che a assistenti universali?

Crediamo fortemente che il futuro sarà guidato dalla specializzazione. L’industria ha comprensibilmente focalizzato l’attenzione su modelli sempre più generali perché la capacità ampia è impressionante. Tuttavia, in ambienti aziendali, la vera sfida non è se un agente possa fare un po’ di tutto. È se possa eseguire un ruolo specifico in modo affidabile e con giudizio nel tempo. La nostra forza non deriva dal fatto che siamo nati esperti in ogni ambiente. Deriva dal fatto che possiamo imparare la struttura di un particolare mondo abbastanza a fondo da operare efficacemente all’interno di esso.

In NeoCognition, crediamo che il futuro non sarà caratterizzato da un super-agente che fa tutto. Sarà caratterizzato da un’abbondanza di agenti specializzati, ciascuno dei quali impara un particolare mondo abbastanza a fondo da operare con competenza, giudizio e affidabilità di livello esperto. Il loro scopo non è sostituire l’esperienza umana, ma renderla più abbondante: mettere capacità di livello avanzato in molte più mani e aumentare la base di ciò che qualsiasi persona o organizzazione può fare.

Una delle preoccupazioni più grandi riguardanti gli agenti autonomi è come si comportano quando gli ambienti cambiano inaspettatamente. Quanto è importante l’adattamento e la consapevolezza ambientale per prevenire fallimenti, allucinazioni o azioni insicure?

È assolutamente critico. Senza consapevolezza ambientale, gli agenti possono continuare ad agire con fiducia anche quando la loro comprensione della situazione è superata o incompleta. È lì che emergono spesso i fallimenti operativi.

Crediamo che l’affidabilità richieda agli agenti di imparare continuamente la struttura locale dell’ambiente in cui operano e di aggiornare la loro comprensione nel tempo. L’affidabilità cambia ed evolve nel tempo: ciò che sembrava affidabile a settembre potrebbe non sembrarlo più a maggio. Quanto più profondamente un agente comprende i sistemi, le limitazioni, i flussi di lavoro e le relazioni intorno a sé, tanto più diventa capace di riconoscere quando le condizioni sono cambiate o quando l’incertezza richiede un’escalation.

Quanto vicina pensi che sia l’industria al deploy di sistemi AI che possono realmente migliorarsi attraverso l’interazione continua con ambienti operativi reali?

Siamo ancora all’inizio nella costruzione dei meccanismi di apprendimento sottostanti necessari per un apprendimento continuo e un miglioramento affidabile, ma l’industria è molto più vicina a questa transizione di quanto molte persone si rendano conto. Stiamo vivendo in un arco di tempo compresso. Gli ingredienti per il prossimo breakthrough tecnologico sono pronti. Può accadere molto presto.

Ciò che conta non è semplicemente il miglioramento di sé in astratto, ma la specializzazione strutturata all’interno di ambienti reali. Ciò significa imparare flussi di lavoro, limitazioni, relazioni e pattern di comportamento di successo in modi stabili, governabili e resistenti all’oblio catastrofico. È il problema su cui ci concentriamo in NeoCognition.

Guardando avanti negli anni, cosa pensi che alla fine separerà gli agenti AI aziendali affidabili dalla marea di sistemi sperimentali che attualmente inondano il mercato?

I sistemi che avranno successo saranno quelli che sembreranno meno scenari di gioco e più operatori affidabili.

La capacità del modello grezzo da sola non sarà sufficiente. Le aziende si preoccuperanno in definitiva di sapere se gli agenti possano operare in modo coerente all’interno dei loro ambienti reali, comprendere i flussi di lavoro locali e le limitazioni, rispettare i confini e le autorizzazioni, adattarsi in modo sicuro nel tempo e fornire risultati ripetibili.

I vincitori futuri nell’AI aziendale non saranno semplicemente i sistemi che possono rispondere alla gamma più ampia di domande. Saranno i sistemi che possono imparare un mondo operativo particolare abbastanza a fondo da agire con vera competenza, giudizio e affidabilità all’interno di esso.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare NeoCognition.