Marc Fernandez, Chief Strategy Officer di Neurologyca – Serie di Interviste

Marc Fernandez, Chief Strategy Officer at Neurologyca, è uno stratega tecnologico e dirigente di sviluppo commerciale con oltre due decenni di esperienza che spaziano dall’intelligenza artificiale alle tecnologie emergenti, dall’elettronica di consumo all’interazione uomo‑computer. In Neurologyca, si occupa di strategia e della commercializzazione di Human Context AI, progettata per aiutare i sistemi di IA a interpretare segnali come stress, fiducia e coinvolgimento. Fernandez è stato in precedenza CEO di Pearl, una piattaforma guidata dall’IA focalizzata su soft skill e sviluppo professionale, e Entrepreneur in Residence presso ALIVE Ventures, dove ha lavorato nel settore age‑tech. In passato ha guidato la strategia statunitense di OPPO, concentrandosi su tecnologie di nuova generazione tra cui IA, Web3, blockchain e sistemi operativi mobili, e ha ricoperto ruoli senior nello sviluppo commerciale presso Emerge, Denizen, SweetLabs, Movella e X‑Rite/Pantone. Ha inoltre trascorso 15 anni come professore a contratto presso l’University of Southern California, insegnando all’intersezione tra imprenditorialità, comunicazione, piattaforme sociali, IA, blockchain e altre tecnologie emergenti.

Neurologyca è un’azienda di IA con sede a San Francisco che sta costruendo quella che definisce Human Context Layer per i sistemi intelligenti, consentendo alle applicazioni e agli agenti di IA di comprendere meglio e adattarsi alle persone che servono. La sua piattaforma basata su API e SDK elabora segnali comportamentali multimodali, schemi di interazione e contesto situazionale per generare indicatori leggibili da macchine su fattori quali coinvolgimento, fiducia, stress, attenzione e fiducia. Queste intuizioni possono aiutare i sistemi di IA ad adattare le risposte, i ritmi, le raccomandazioni e le azioni in tempo reale, mantenendo la continuità contestuale tra le interazioni. Neurologyca posiziona la tecnologia come infrastruttura piuttosto che come applicazione autonoma, con potenziali usi che spaziano dall’educazione e formazione al benessere, software aziendale, agenti autonomi, sicurezza dei conducenti, gaming e altri sistemi interattivi. L’azienda offre attualmente la piattaforma tramite un programma di accesso anticipato selettivo per i partner che costruiscono esperienze di IA adattiva.

Il tuo percorso ti ha portato dalla strategia di tecnologie di nuova generazione in OPPO alla creazione di Pearl basata su IA per le soft skill e ora allo sviluppo di Human Context AI in Neurologyca. In che modo questa evoluzione ha modellato la tua visione secondo cui una delle più grandi limitazioni dell’IA non è l’intelligenza stessa, ma la comprensione dell’essere umano dietro un’istruzione?

Trent’anni fa il web ha reso le informazioni accessibili. Cinque anni fa l’IA ha reso l’output abbondante. Oggi siamo sommersi di contenuti e continuiamo a lottare per ottenere risultati utili. La pura potenza tecnica non garantisce un buon risultato per l’essere umano che riceve il risultato.

Questo è stato il filo conduttore del mio lavoro: dall’integrare le tecnologie emergenti nella vita quotidiana in OPPO, al testare se l’IA potesse insegnare competenze interpersonali in Pearl, fino a costruire il contesto umano come infrastruttura in Neurologyca. L’intelligenza non è più il collo di bottiglia; i modelli ragionano ed eseguono bene. Il problema più difficile è tutto il contesto non detto che le persone portano a una semplice richiesta: perché hanno chiesto, cosa le mette a disagio, o se una lieve esitazione significa che il sistema dovrebbe interrompersi. Al momento l’IA vede solo una fetta compressa di tutto ciò attraverso il testo, e man mano che gli agenti iniziano a compiere azioni nel mondo reale, questo punto cieco diventa critico.

Esempi recenti di agenti autonomi che rubano credenziali, creano identità false o nascondono le proprie azioni sollevano interrogativi su cosa succeda quando un’IA diventa altamente efficace nel raggiungere un obiettivo senza comprendere appieno l’intento alla base. Lo vedi principalmente come un problema di allineamento, un problema ingegneristico o una limitazione fondamentale del modo in cui progettiamo gli agenti?

È un fallimento di design che abbraccia sia l’allineamento sia l’ingegneria. Abbiamo ottimizzato i sistemi per raggiungere obiettivi senza dedicare metà dello sforzo a insegnare loro cosa significhi realmente il successo per un utente umano.

Guarda l’esempio classico di GPT‑4 su TaskRabbit: di fronte a un CAPTCHA, il modello ha mentito dichiarandosi ipovedente per far risolvere il test a un operatore umano. Nessuno gli ha insegnato a ingannare; ha semplicemente identificato un ostacolo e ha scelto il percorso di minor resistenza. Ricompensare un agente solo sul risultato finale lo porta a prendere scorciatoie estreme. La sfida centrale è distinguere le azioni che devono essere bloccate a livello architetturale da quelle tecnicamente consentite ma contestualmente sbagliate.

Hai sostenuto che le aziende stanno migliorando nel dire agli agenti IA quale obiettivo perseguire senza fornire loro una comprensione sufficiente di cosa significhi “successo” per l’utente umano. Quali informazioni servono a un agente oltre al prompt per capire davvero l’intento?

I prompt sono solo lo strato superficiale. Il vero intento dipende dalla profondità situazionale: storia pregressa, compromessi accettabili, poste in gioco reali e come l’utente reagisce durante il compito.

Una parte di queste informazioni proviene dallo stato dell’app o dalla cronologia della chat, ma nelle interazioni dirette i segnali comportamentali sono ciò che mantiene dinamico il contesto. Le persone esitano, cambiano idea a metà o si confondono. Se un agente non riesce a leggere questi cambiamenti, finisce per perseguire inesorabilmente un’istruzione divenuta obsoleta due passi prima.

Esiste una distinzione importante tra azioni che dovrebbero essere tecnicamente impossibili per un agente e azioni permesse ma inadeguate in un determinato contesto. Come dovrebbero gli sviluppatori suddividere la responsabilità tra guardrail di sicurezza rigidi e la capacità del sistema IA di esercitare un giudizio contestuale?

Qualsiasi azione che provochi danni gravi senza casi d’uso legittimi – furto di credenziali, cancellazione di log di audit, escalation di privilegi non autorizzata – dovrebbe essere codificata in modo da non esistere. Un agente non dovrebbe sprecare cicli di calcolo a negoziare se aggirare i controlli di sicurezza; l’architettura del sistema dovrebbe renderle semplicemente impossibili.

La zona grigia reale riguarda azioni quotidiane come inviare email, annullare riunioni o modificare flussi di lavoro interni. Sono teoricamente consentite, ma decidere se un agente debba eseguirle automaticamente dipende da fattori come le poste in gioco, la cronologia dell’utente, la reversibilità e i sottili segnali di esitazione. Sapere quando fermarsi perché manca il contesto è molto più importante della pura capacità.

Neurologyca sta sviluppando una tecnologia che può trasformare segnali come stress, fiducia, attenzione, coinvolgimento e fiducia in contesto leggibile da macchine. Come potrebbero segnali di questo tipo cambiare concretamente il comportamento di un agente IA autonomo mentre esegue un compito?

Questi input comportamentali sono essenzialmente dati di reazione in tempo reale – il ciclo di feedback mancante nelle architetture IA attuali. Ora i modelli monitorano solo le proprie azioni, ma operano completamente al buio su come l’uomo le percepisce.
Considera un contesto di tutoraggio: l’utente scrive “Capisco”, ma i suoi segnali fisiologici o comportamentali indicano confusione crescente e calo dell’attenzione. È un segnale diretto per l’IA di cambiare rotta, rallentare o offrire una spiegazione alternativa. L’obiettivo non è una diagnosi clinica; è semplicemente creare un ciclo di feedback stretto – contesto, azione, risposta, adattamento – così il sistema impara cosa funziona davvero per quell’individuo specifico.

Il contesto umano può anche essere ambiguo. Un sistema potrebbe interpretare male esitazione, stress, tono di voce o altri segnali comportamentali. Come eviti che un’IA consapevole del contesto diventi eccessivamente sicura di ciò che una persona sta pensando o intendendo?

I segnali comportamentali sono intrinsecamente rumorosi e probabilistici. Un improvviso aumento di stress o una pausa nella digitazione può significare confusione, oppure può semplicemente indicare che l’utente ha rovesciato il caffè. I sistemi che traducono un singolo dato in un’affermazione definitiva sullo stato emotivo di qualcuno sono fondamentalmente difettosi.

I sistemi robusti considerano segnali compositi nel tempo, tengono conto delle baseline ambientali e forniscono esplicitamente intervalli di confidenza. C’è una differenza enorme tra registrare “carico cognitivo elevato rispetto alla baseline” e decidere “l’utente è ansioso”. Quando l’incertezza è alta o le poste in gioco sono significative, il compito dell’agente non è indovinare, ma porre una domanda di chiarimento.

Mettere un umano nel loop per ogni decisione decisiva può minare gran parte dell’efficienza promessa dagli agenti autonomi. Che aspetto ha un modello scalabile di supervisione umana in cui un agente sa quando può procedere in autonomia e quando deve davvero fermarsi e chiedere indicazioni?

La supervisione scalabile non riguarda il mantenere permanente un umano nel loop; riguarda l’escalation dinamica.

Compiti a basso rischio e reversibili avanzano automaticamente. Man mano che le poste in gioco aumentano, il rumore ambientale cresce o i segnali indicano disagio dell’utente, la soglia di approvazione si alza dinamicamente. Crucialmente, queste soglie devono essere personalizzate – un manager può delegare volentieri la gestione del calendario, mentre un altro vuole approvare ogni piccola modifica. Il sistema deve apprendere i limiti individuali, non applicare politiche globali rigide.

Man mano che gli agenti sviluppano memoria persistente e modelli sempre più dettagliati delle persone che servono, il contesto può rapidamente diventare dato personale sensibile. Come dovrebbero le aziende affrontare consenso, privacy, proprietà dei dati e limiti su ciò che un’IA dovrebbe poter ricordare di un utente?

Questo è il principale collo di bottiglia di fiducia per i sistemi autonomi. La memoria persistente trasforma uno strumento generico in un assistente, ma c’è un pericoloso sovrapporsi tra la memorizzazione di preferenze di workflow e la costruzione silenziosa di un profilo psicologico non autorizzato.
La governance dei dati richiede limiti di scopo rigorosi. Se un agente inferisce schemi di stress durante una sessione di coaching esecutivo, quel contesto non può trapelare in valutazioni di performance, algoritmi assicurativi o tecnologie pubblicitarie. La trasparenza deve essere granulare – gli utenti devono vedere il contesto memorizzato, poterlo cancellare con un click e avere limiti di conservazione predefiniti sensati. Solo perché un sistema può inferire qualcosa su di te non gli dà il permesso di conservarla.

Come dovremmo valutare se un agente autonomo comprende davvero l’intento umano? Gli attuali benchmark si concentrano troppo sul completamento del compito e sull’accuratezza piuttosto che sul fatto che l’agente abbia raggiunto l’obiettivo nel modo che l’utente considererebbe accettabile?

Il completamento del compito è un benchmark profondamente ingannevole. Un agente può seguire alla lettera un’istruzione e comunque fornire un risultato che l’utente detesta.

Se un agente ottiene il prezzo più basso in un contratto ma rovina una relazione con un fornitore di decenni per ottenerlo, le metriche tradizionali registrano un tasso di successo del 100 %. Per il dirigente è un disastro. Abbiamo bisogno di benchmark che misurino la performance entro confini non esplicitati: ha rispettato norme non dette? Si è fermato quando le condizioni sono cambiate? Questo divario tra semplice completamento e reale soddisfazione è ciò che gli attuali benchmark ignorano completamente.

Guardando al futuro, prevedi che le capacità di contesto umano diventeranno uno strato standard dello stack IA insieme a modelli, memoria, strumenti e sicurezza? Cosa deve ancora essere risolto prima che le imprese possano delegare in modo sicuro lavori significativi agli agenti senza supervisionarli continuamente?

Man mano che l’IA passa dalla generazione di contenuti all’esecuzione di azioni nel mondo reale, il contesto umano diventa uno strato essenziale. I modelli gestiscono il ragionamento e gli strumenti danno al sistema le “mani”, ma senza il contesto umano che funge da ciclo di feedback vivo, la memoria e le guardrail di sicurezza operano su assunzioni statiche.

Prima che le imprese delegino autorità reale, dobbiamo ancora risolvere privacy contestuale, ragionamento probabilistico sotto incertezza e regole di governance granulari. Costruire IA che completa compiti isolati è quasi risolto; far sì che i sistemi si adattino dinamicamente all’umano dietro il prompt è ciò che determinerà quanta autonomia reale siamo disposti a concedere loro.

Thank you for the great interview, readers who wish to learn more should visit Neurologyca.