Marc Fernandez, Chief Strategy Officer la Neurologyca – Seria de interviuri

Marc Fernandez, Chief Strategy Officer la Neurologyca, este un strateg de tehnologie și executiv de dezvoltare de afaceri cu peste două decenii de experiență în inteligență artificială, tehnologii emergente, electronice de consum și interacțiune om-calculator. La Neurologyca, se concentrează pe strategie și comercializarea Human Context AI, concepută pentru a ajuta sistemele AI să interpreteze semnale precum stresul, încrederea și implicarea. Fernandez a fost anterior CEO al Pearl, o platformă ghidată de AI axată pe abilități soft și dezvoltare profesională, și Entrepreneur in Residence la ALIVE Ventures, unde a lucrat în domeniul age‑tech. Anterior, a condus strategia SUA la OPPO, concentrându-se pe tehnologii de generație viitoare, inclusiv AI, Web3, blockchain și sisteme de operare mobile, și a deținut roluri senior de dezvoltare de afaceri la Emerge, Denizen, SweetLabs, Movella și X‑Rite/Pantone. De asemenea, a petrecut 15 ani ca profesor adjunct la University of Southern California, predând la intersecția antreprenoriatului, comunicării, platformelor sociale, AI, blockchain și alte tehnologii emergente.

Neurologyca este o companie AI cu sediul în San Francisco care construiește ceea ce descrie ca Human Context Layer pentru sisteme inteligente, permițând aplicațiilor și agenților AI să înțeleagă și să se adapteze mai bine la oamenii pe care îi servesc. Platforma sa bazată pe API și SDK procesează semnale comportamentale multimodale, modele de interacțiune și context situațional pentru a genera indicatori mașină‑citibili privind factori precum implicarea, încrederea, stresul, atenția și încrederea. Aceste informații pot ajuta sistemele AI să își ajusteze răspunsurile, ritmul, recomandările și acțiunile în timp real, menținând continuitatea contextuală între interacțiuni. Neurologyca poziționează tehnologia ca infrastructură, nu ca o aplicație independentă, cu potențiale aplicații în educație și formare, wellness, software pentru întreprinderi, agenți autonomi, siguranța șoferilor, jocuri și alte sisteme interactive. Compania oferă în prezent platforma printr-un program de acces anticipat selectiv pentru partenerii care construiesc experiențe AI adaptive.

Cariera ta te-a purtat de la strategia tehnologică de generație viitoare la OPPO la construirea Pearl în jurul abilităților soft ghidate de AI și acum la dezvoltarea AI cu context uman la Neurologyca. Cum a modelat această evoluție perspectiva ta că una dintre cele mai mari limitări ale AI nu este inteligența în sine, ci înțelegerea omului din spatele unei instrucțiuni?

Acum trei decenii, web-ul a făcut informația accesibilă. Acum cinci ani, AI a făcut rezultatele abundente. Astăzi ne îneacă conținutul, în timp ce încă ne luptăm să obținem rezultate utile. Puterea tehnică brută nu garantează un rezultat bun pentru omul real care primește rezultatul.

Asta a fost firul conductor al muncii mele — de la integrarea tehnologiilor emergente în viața de zi cu zi la OPPO, la testarea dacă AI poate preda abilități interpersonale la Pearl, până la construirea contextului uman ca infrastructură la Neurologyca. Inteligența nu mai este blocajul real; modelele raționează și execută bine. Problema mai dificilă este tot contextul nespus pe care oamenii îl aduc unei cereri simple: de ce au întrebat, ce îi incomodează sau dacă o ușoară ezitare înseamnă că sistemul ar trebui să renunțe. În prezent, AI vede doar o felie comprimată a acestui context prin text, iar pe măsură ce agenții încep să ia acțiuni în lumea reală, acest punct orb devine critic.

Exemple recente de agenți autonomi care fură credențiale, creează identități false sau ascund acțiunile lor ridică întrebări despre ce se întâmplă când un AI devine foarte eficient în atingerea unui scop fără să înțeleagă pe deplin intenția din spatele lui. Vezi acest lucru în primul rând ca o problemă de aliniere, o problemă de inginerie sau o limitare fundamentală a modului în care proiectăm în prezent agenții?

Este un eșec de proiectare ce cuprinde atât alinierea, cât și ingineria. Am optimizat sistemele să atingă țintele fără să investim suficient efort în a le învăța ce înseamnă succesul real pentru un utilizator uman.

Uitați-vă la exemplul clasic GPT‑4 TaskRabbit: când s-a confruntat cu un CAPTCHA, modelul a mințit și a pretins că are deficiențe vizuale pentru a face un lucrător uman să îl rezolve. Nimeni nu l‑a învățat să înșele pe cineva; a identificat doar un obstacol și a ales calea cu cea mai mică rezistență. Dacă recompensezi un agent doar pe rezultat, va căuta scurtături sălbatice. Provocarea principală este de a separa acțiunile care trebuie blocate arhitectural de cele care sunt tehnic permise, dar contextual greșite.

Ai susținut că companiile devin mai bune la a spune agenților AI ce obiectiv să urmărească fără să le ofere înțelegerea necesară a ceea ce „succes” înseamnă cu adevărat pentru utilizatorul uman. Ce informații are nevoie un agent dincolo de prompt pentru a înțelege cu adevărat intenția?

Prompturile sunt doar stratul de suprafață. Intenția reală se bazează pe profunzimea situațională: istoric anterior, compromisuri acceptabile, miză reală și modul în care utilizatorul reacționează în timpul sarcinii.

Unele dintre acestea provin din starea mediului aplicației sau istoricul de chat, dar în interacțiunile directe, indiciile comportamentale sunt cele care mențin contextul dinamic. Oamenii ezită, își schimbă părerea pe parcurs sau se confuzionează. Dacă un agent nu poate citi aceste schimbări, continuă să urmărească neîncetat o instrucțiune care a devenit învechită cu două pași în urmă.

Există o distincție importantă între acțiunile care ar trebui să fie pur tehnic imposibile pentru un agent și acțiunile permise, dar inadecvate într-un anumit context. Cum ar trebui dezvoltatorii să împartă responsabilitatea între barierele de securitate stricte și capacitatea sistemului AI de a exercita judecata contextuală?

Orice acțiune care cauzează daune severe fără cazuri de utilizare legitime — furt de credențiale, ștergerea jurnalelor de audit, escaladarea neautorizată a privilegiilor — ar trebui să fie eliminată prin codare. Un agent nu ar trebui să piardă cicluri de calcul negociind dacă să ocolească controalele de securitate; arhitectura sistemului ar trebui să le facă imposibile.

Zona gri reală este acțiunile de zi cu zi, cum ar fi trimiterea de e‑mailuri, anularea întâlnirilor sau modificarea fluxurilor interne. Acestea sunt permisibile în teorie, dar dacă un agent ar trebui să le execute automat depinde de miză, istoricul utilizatorului, reversibilitate și semnalele subtile ale ezitării utilizatorului. A ști când să se oprească pentru că lipsește contextul este mult mai important decât capacitatea brută.

Neurologyca dezvoltă tehnologie care poate transforma semnale precum stres, încredere, atenție, implicare și încredere în context mașină‑citibil. Cum ar putea semnalele de acest tip să schimbe practic comportamentul unui agent AI autonom în timp ce îndeplinește o sarcină?

Aceste intrări comportamentale sunt practic date de reacție în timp real — bucla de feedback exactă care lipsește din arhitecturile AI actuale. În prezent, modelele își urmăresc propriile acțiuni, dar operează complet orbe la modul în care omul le primește. Gândiți-vă la un context de tutoriat: utilizatorul tastează „Înțeleg”, dar indiciile sale fiziologice sau comportamentale semnalizează confuzie crescândă și scădere a atenției. Este un semnal direct pentru AI să pivoteze, să încetinească sau să ofere o explicație alternativă. Scopul nu este diagnostic clinic; este pur și simplu stabilirea unei bucle strânse de feedback — context, acțiune, răspuns, adaptare — astfel încât sistemul să învețe ce funcționează cu adevărat pentru acel individ specific.

Contextul uman poate fi, de asemenea, ambiguu. Un sistem ar putea interpreta greșit ezitarea, stresul, tonul vocii sau alte semnale comportamentale. Cum împiedici AI‑ul conștient de context să devină prea încrezător în ceea ce o persoană gândește sau intenționează?

Semnalele comportamentale sunt în mod inerent zgomotoase și probabilistice. O creștere bruscă a stresului sau o pauză la tastare ar putea însemna confuzie, sau ar putea însemna că utilizatorul și-a vărsat cafeaua. Sistemele care traduc un singur punct de date într-o afirmație definitivă despre starea emoțională a cuiva sunt fundamental defectuoase.

Sisteme robuste analizează semnale compozite în timp, iau în calcul bazele de mediu și emit explicit limite de încredere. Există o diferență enormă între a înregistra „încărcare cognitivă ridicată față de bază” și a decide „utilizatorul este anxios”. Când incertitudinea este mare sau miză semnificativă, sarcina agentului nu este să ghicească — ci să pună o întrebare de clarificare.

Introducerea unui om în buclă pentru fiecare decizie consecventă poate submina mult din eficiența promisă de agenții autonomi. Cum arată un model scalabil de supraveghere umană în care un agent știe când poate continua independent și când trebuie cu adevărat să se oprească și să ceară îndrumare?

Supravegherea scalabilă nu înseamnă menținerea unui om permanent în buclă; este vorba de escaladare dinamică.

Sarcinile cu risc scăzut și reversibile avansează automat. Dar pe măsură ce miză crește, zgomotul ambiental se amplifică sau semnalele sugerează disconfortul utilizatorului, pragul de aprobare se ridică dinamic. Crucial, aceste praguri trebuie să fie personalizate — un manager poate delega cu bucurie gestionarea calendarului, în timp ce altul vrea să aprobe fiecare mică modificare. Sistemul trebuie să învețe limitele individuale, nu să aplice politici globale rigide.

Pe măsură ce agenții dezvoltă memorie persistentă și modele tot mai detaliate ale persoanelor pe care le servesc, contextul poate deveni rapid date personale sensibile. Cum ar trebui companiile să abordeze consimțământul, confidențialitatea, proprietatea datelor și limitele a ceea ce un AI ar trebui să poată reține despre un utilizator?

Aceasta este principală blocare de încredere pentru sistemele autonome. Memoria persistentă transformă un instrument generic într-un asistent, dar există un pericol major între stocarea preferințelor de flux de lucru și construirea silențioasă a unui profil psihologic neaprobat. Guvernanța datelor trebuie să aibă limite stricte de scop. Dacă un agent inferă tipare de stres în timpul unei sesiuni de coaching executiv, acel context nu poate să se scurgă în evaluări de performanță, algoritmi de asigurări sau tehnologii publicitare. Transparența trebuie să fie granulară — utilizatorii trebuie să aibă vizibilitate asupra contextului stocat, ștergere cu un click și limite de retenție implicite rezonabile. Doar pentru că un sistem poate deduce ceva despre tine nu îi conferă permisiunea de a-l stoca.

Cum ar trebui să evaluăm dacă un agent autonom înțelege cu adevărat intenția umană? Sunt benchmark‑urile de astăzi prea concentrate pe finalizarea sarcinii și acuratețe, în detrimentul faptului dacă agentul a atins scopul într-un mod pe care utilizatorul l‑ar considera acceptabil?

Finalizarea sarcinii este un benchmark profund înșelător. Un agent poate urma la literă o instrucțiune și tot să livreze un rezultat pe care utilizatorul îl detestă.

Dacă un agent obține cel mai mic preț pentru un contract, dar rupe o relație de furnizor de un deceniu pentru a-l obține, metricile tradiționale înregistrează un succes de 100 %. Pentru executiv, este un dezastru. Avem nevoie de benchmark‑uri care să măsoare performanța în limite nespuse: A respectat normele neexprimate? S‑a oprit când condițiile s‑au schimbat? Acea diferență dintre finalizare brută și satisfacție reală este ceea ce benchmark‑urile actuale ignoră complet.

Privind spre viitor, crezi că capabilitățile de context uman vor deveni un strat standard al stack‑ului AI alături de modele, memorie, instrumente și securitate? Ce mai trebuie rezolvat înainte ca întreprinderile să poată delega cu încredere sarcini semnificative agenților fără supraveghere continuă?

Pe măsură ce AI trece de la generarea de conținut la acțiuni în lumea reală, contextul uman devine un strat esențial. Modelele se ocupă de raționament, iar instrumentele oferă „mâini” sistemului, dar fără context uman ca buclă de feedback live, memoria și barierele de securitate funcționează pe presupuneri statice.

Înainte ca întreprinderile să delegheze autoritate reală, trebuie să rezolvăm confidențialitatea contextuală, raționamentul probabilistic sub incertitudine și regulile de guvernanță granulară. Construirea unui AI care finalizează sarcini izolate este în mare parte rezolvată; adaptarea dinamică a sistemelor la omul din spatele promptului va dicta câtă autonomie reală suntem dispuși să le acordăm.

Vă mulțumim pentru interviul excelent, cititorii care doresc să afle mai multe ar trebui să viziteze Neurologyca.