Aaron Fulkerson, director general al OPAQUE – seria de interviuri

Aaron Fulkerson, directorul general al OPAQUE, este un antreprenor cu experiență în software pentru companii și un pionier al tehnologiilor cu sursă deschisă. De peste două decenii construiește și dezvoltă la scară largă platforme tehnologice axate pe încredere, date și transformare digitală. Înainte de a se alătura OPAQUE în 2023, a fondat MindTouch și a contribuit la transformarea sa într-o platformă de gestionare a cunoștințelor utilizată pe scară largă de companii, înainte de achiziția de către NICE Systems. Ulterior, a condus lansarea ServiceNow Impact, una dintre diviziile cu cea mai rapidă creștere din istoria ServiceNow. De-a lungul carierei, Fulkerson a lucrat la intersecția dintre tehnologii emergente, software pentru companii și ecosisteme deschise și a oferit consultanță mai multor startupuri tehnologice și organizații. Mai recent, a devenit un susținător important al inteligenței artificiale confidențiale (Confidential AI), afirmând că protecția vieții private, guvernanța și încrederea verificabilă vor fi cerințe fundamentale pe măsură ce sistemele AI sunt integrate în fluxurile de lucru critice ale companiilor.

OPAQUE este o companie de inteligență artificială confidențială provenită din renumitul RISELab al UC Berkeley, același ecosistem de cercetare care a contribuit la crearea unor tehnologii precum Apache Spark și Databricks. Compania a dezvoltat o platformă care permite rularea modelelor AI, a agenților și a fluxurilor de lucru pe date extrem de sensibile, cu garanții verificabile criptografic pentru confidențialitate și conformitate. În loc să oblige organizațiile să aleagă între inovarea prin AI și securitatea datelor, OPAQUE folosește calcul confidențial, medii de execuție criptate și execuție atestată hardware pentru a proteja informațiile sensibile înainte de procesarea AI, în timpul acesteia și după încheierea ei. Tehnologia este concepută pentru sectoare strict reglementate, precum finanțele, asigurările, sănătatea și tehnologia avansată. Printre clienți și parteneri se numără ServiceNow (NOW ), Anthropic, Accenture și alte companii care vor să treacă proiectele AI din faza-pilot în producție fără a expune date proprietare sau reglementate.

Ați construit și extins mai multe platforme pentru companii de-a lungul carierei. Ce v-a determinat să preluați rolul de director general la OPAQUE și să dedicați următorul capitol încrederii, confidențialității și guvernanței AI?

Am petrecut aproape două decenii construind platforme pentru companii, mai întâi la MindTouch, care este utilizată în continuare de un miliard de utilizatori anual, apoi la ServiceNow, unde am creat produsul lor cu cea mai rapidă creștere. Ambele experiențe m-au învățat aceeași lecție: chiar și cea mai puternică tehnologie câștigă doar când oamenii au încredere în ea.

Când i-am cunoscut pe cofondatorii OPAQUE, Raluca Ada Popa, Ion Stoica și Rishabh Poddar, am văzut o combinație rară de talent și viziune. Raluca este una dintre cele mai importante cercetătoare din lume în domeniul confidențialității și securității. Ion a cofondat Databricks. Rishabh a construit sistemele criptografice esențiale care au devenit baza OPAQUE.

La RISELab din cadrul UC Berkeley, creaseră ceva ce am recunoscut imediat drept un progres cu impact asupra unei întregi generații: o dovadă criptografică a faptului că datele rămân private pe tot parcursul fiecărui flux de lucru AI. Nu promisiuni. Nu politici. Dovezi.

M-am uitat încotro se îndrepta AI: agenți care acționau autonom în sisteme de companie, la viteza mașinilor. Și am văzut aceeași lacună asupra căreia Vint Cerf avertizează de 30 de ani: lipsa unui strat de încredere. Internetul a supraviețuit fără unul pentru că oamenii erau bariera de siguranță. Webul bazat pe agenți nu va avea acest lux. Asta m-a atras.

MCP (Model Context Protocol, un standard care permite agenților AI să acceseze în siguranță instrumente, aplicații și date) devine o bază comună. Cum credeți că va schimba modul în care companiile implementează și extind utilizarea AI bazate pe agenți?

MCP este un pas important pentru implementarea și extinderea utilizării AI bazate pe agenți în companii. Gândiți-vă la el ca la un conector universal pentru fluxurile de lucru AI. Standardizează conectarea agenților la instrumente, aplicații și date, elimină obstacole concrete și accelerează experimentarea.

Dar simpla standardizare a accesului nu face AI bazată pe agenți sigură sau scalabilă. Pe măsură ce conexiunile se înmulțesc, cu mai mulți agenți, instrumente și surse de date, suprafața prin care se pot scurge date se extinde cu fiecare integrare nouă. Orice punct de conectare fără aplicarea efectivă a regulilor în timpul execuției este o posibilă cale de expunere. Când agenții AI interacționează cu sisteme sensibile și logică proprietară, criptarea datelor stocate și controalele de rețea nu sunt suficiente. Limita de securitate s-a mutat la execuția propriu-zisă, iar această schimbare devine mai urgentă pe măsură ce ecosistemul se extinde.

Verificabilitatea în aceste puncte esențiale de conectare va fi critică pentru companii. Ele pot extinde utilizarea AI bazate pe agenți atunci când accesul de tip MCP este combinat cu dovezi criptografice despre codul executat, locul execuției și politica aplicabilă – înainte, în timpul și după execuție. Acces plus verificabilitate. Aceasta este combinația care permite utilizarea în producție.

Pe măsură ce MCP standardizează accesul agenților, unde vedeți astăzi cele mai mari lacune în materie de securitate, aplicare a politicilor și încredere în sistemele conduse de agenți?

Am finalizat cercetarea AI Leak Surface pentru 2026 și am publicat un rezumat al constatărilor, „Douăsprezece moduri în care infrastructura dvs. AI pierde date”, care abordează acest subiect. Am identificat 46 de căi de expunere în 8 categorii care acoperă întreaga limită de încredere a AI: calcul, control, aplicații și transferurile dintre ele. Și asta fără a lua în calcul actori rău intenționați. Sunt situații în care nimic nu este defect, jurnalele par în regulă, iar sistemul continuă să piardă date.

Cele mai mari lacune nu țin de conectivitate; MCP rezolvă asta. Ele țin de ce se întâmplă după conectarea unui agent. Majoritatea organizațiilor nu pot răspunde la trei întrebări de bază: Cum se comportă AI-ul nostru în realitate? Cine îl controlează? Și cum dovedim că politicile au fost aplicate?

Cercetarea noastră a arătat că limitele sunt configurate, dar niciodată impuse efectiv. O politică există într-un document, într-un fișier de configurare sau într-o setare de la implementare, dar nu constrânge sistemul care rulează. Un asistent AI pentru conducere pune informații nepublice semnificative într-o invitație de calendar. Un asistent RAG oferă unui analist junior informații financiare destinate consiliului de administrație. SDK-ul unui furnizor exfiltrează discret 10 milioane de interogări în 12 luni. În fiecare caz, controalele de acces erau implementate. Datele s-au scurs oricum.

Până când companiile elimină diferența dintre politica configurată și cea aplicată efectiv, MCP standardizează ușa de la intrare. Dar casa rămâne nepăzită.

Când agenții AI primesc acces la sisteme sensibile și date proprietare, ce riscuri noi pentru confidențialitate și conformitate apar, pentru care companiile sunt adesea nepregătite?

Majoritatea companiilor se gândesc la confidențialitate în raport cu datele stocate sau în tranzit. Acest model nu mai funcționează în fluxurile de lucru bazate pe agenți, pentru că cel mai mare risc este expunerea datelor în timpul utilizării.

Iată ce vreau să spun. Un producător de automobile de înaltă performanță folosește AI pe linia de asamblare. Datele brute par inofensive: citiri ale senzorilor, secvențe de temporizare, verificări de calitate. Dar un model lingvistic mare poate acum reconstrui procese de fabricație proprietare din urmele de date generate incidental de activitate. Ceea ce era zgomot în urmă cu cinci ani este acum un plan pentru un concurent.

Cercetarea noastră AI Leak Surface documentează acest tipar în zeci de scenarii. Instrumentele de telemetrie operațională înregistrează implicit întregul conținut al datelor AI. Într-o bancă europeană, 2,1 milioane de prompturi care conțineau informații de identificare personală ajungeau într-o instanță SaaS din SUA, pentru că nimeni nu schimbase setările implicite pentru monitorizarea performanței aplicațiilor (APM). Memoria agenților lasă să se scurgă context între sesiuni. Urmele lanțurilor de raționament expun dosare complete de investigație pe platforme de observabilitate accesibile prestatorilor externi. Cadrele tradiționale de conformitate nu au fost concepute pentru a detecta asemenea scurgeri. Ele presupuneau că oamenii mută date în ritm uman.

De ce devine AI confidențială un complement necesar pentru MCP și cum abordează provocări pe care standardele de acces, singure, nu le pot rezolva?

MCP rezolvă cine poate accesa ce și cum, iar AI confidențială rezolvă ce se întâmplă după acordarea accesului. Sunt straturi complementare.

Standardele de acces nu pot preveni singure compromiterea securității în timpul execuției, abaterea treptată de la politicile stabilite sau utilizarea neautorizată a datelor. Gândiți-vă astfel: MCP oferă o modalitate standardizată de a conecta agenți la sistemele dvs. AI confidențială oferă garanții criptografice că, odată conectați, acei agenți pot face doar ce li s-a autorizat – și că puteți dovedi acest lucru.

AI confidențială oferă aceste garanții în timpul execuției pentru date, identitate, cod și comunicare. Furnizează dovezi verificabile ale execuției și asigură că protecția confidențialității și aplicarea politicilor nu se opresc la limita accesului, ci continuă în timp ce AI raționează, generează și acționează în mod activ. Fără aceasta, MCP este o fundație solidă. Dar o fundație, singură, nu face o clădire sigură.

Cum arată, în practică, încrederea verificabilă pentru o companie care folosește agenți AI autonomi în fluxuri de lucru critice?

Încrederea verificabilă înseamnă că pot dovedi ce cod a rulat, unde a rulat, sub ce politici, ce date au fost accesate și cum s-a comportat sistemul în timp.

Luați, de exemplu, o companie de asigurări care folosește agenți AI pentru a procesa scrisori cu cereri de despăgubire. Înainte de execuție, atestarea hardware verifică identitatea agentului și integritatea mediului. În timpul execuției, legarea criptografică de politici într-un mediu de execuție de încredere protejat hardware (Trusted Execution Environment, TEE) asigură că datele rămân protejate și că politicile sunt aplicate. După execuție, o pistă de audit rezistentă la modificări neautorizate înregistrează exact ce s-a întâmplat.

Riscul fluxurilor de lucru bazate pe agenți nu este că un agent scapă de sub control. Riscul real este că nu puteți demonstra dacă o politică a fost aplicată sau dacă datele sensibile au fost protejate cât timp agenții erau operaționali – înainte, în timpul și după. Asta înseamnă încredere verificabilă.

De ce nu mai funcționează supravegherea umană tradițională când sistemele bazate pe agenți operează la viteza mașinilor și cum ar trebui organizațiile să regândească guvernanța în acest mediu?

Timp de decenii, internetul a avut o barieră de siguranță invizibilă: noi. Oamenii citesc conținut, fac clic intenționat și nu acționează discret într-o sută de sisteme simultan.

AI bazată pe agenți anulează aceste presupuneri peste noapte. Agenții funcționează continuu, decid la viteza mașinilor și pot fi manipulați prin medii concepute pentru oameni, dar exploatabile de mașini. O pagină web rău intenționată nu trebuie să păcălească AI așa cum păcălește un om; îi poate da pur și simplu instrucțiuni.

La un risc de doar 1% pentru fiecare agent, o rețea de 100 de agenți se confruntă cu o probabilitate de 63% a unei breșe de securitate. La o mie de agenți, probabilitatea ajunge la 99,99%. Guvernanța care presupune intervenția unui om în proces nu poate ține pasul cu aceste cifre. Supravegherea trebuie să treacă de la analiza reactivă la garanții în timpul execuției. Asta înseamnă fluxuri de lucru bazate pe încredere zero, aplicarea implicită a politicilor și execuție verificabilă care nu depinde de un om care descoperă ulterior defecțiunea.

Care sunt cele mai frecvente eșecuri de securitate pe care le observați când companiile experimentează cu AI bazată pe agenți fără un strat de încredere integrat?

Tiparul pe care îl văd cel mai des este că firmele lasă agenții să acționeze și să se coordoneze fără garanții criptografice privind comportamentul lor. Procesează proprietate intelectuală sensibilă bazându-se pe speranță.

Ce urmează este previzibil, iar noi am documentat tiparele concrete în cercetarea AI Leak Surface. Compromiterea securității în timpul execuției ocolește protecțiile tradiționale de perimetru, deoarece agentul se află deja în rețea. Lanțurile autonome de agenți produc eșecuri în cascadă. Un agent exploatat declanșează un efect de domino în sistemele conectate. Logica proprietară se scurge prin urme de date pe care nimeni nu s-a gândit să le monitorizeze. Agenții pierd capacitatea de a distinge intenția companiei de intrările rău intenționate, deoarece în timpul execuției nu există identitate verificabilă sau legare de politici.

Aceste situații nu sunt ipotetice. Am cartografiat 46 de căi prin care datele scapă controalelor prevăzute, chiar când nimic nu pare defect. Agenții AI generează și partajează date la viteza mașinilor. Fără măsuri de protecție verificabile în timpul execuției, integrate în fluxul de lucru, eșecurile se propagă mai repede decât le poate detecta orice echipă de securitate sau decât poate reacționa aceasta.

Cum echilibrează organizațiile de top valorificarea capacităților AI avansate cu protejarea celor mai sensibile date?

Organizațiile care reușesc tratează confidențialitatea și guvernanța ca pe factori de accelerare, nu ca pe frâne. Aceasta este ideea esențială.

În practică, observ că firmele de top combină capacități AI avansate cu platforme AI confidențiale care oferă garanții verificabile, nu doar liste de verificare a conformității. Ele permit folosirea datelor sensibile pentru inovare prin AI și, în același timp, protejează informațiile proprietare, chiar și atunci când fluxurile de lucru rulează autonom.

În trecut, problema era prezentată ca o alegere între capacitate și securitate. Organizațiile care avansează cel mai rapid au respins complet acest compromis. Ele integrează încrederea verificabilă în baza strategiei lor AI, putând astfel să valorifice datele cele mai prețioase. Între timp, concurenții rămân blocați în faza-pilot, folosind AI pe seturi de date curățate care nu aduc rezultate semnificative.

Pe baza a ceea ce observați astăzi, cum anticipați evoluția modelelor de guvernanță AI din companii în următorii ani, pe măsură ce sistemele bazate pe agenți trec din faza-pilot în producție deplină?

Guvernanța va trece de la hârtii la dovezi. Mai simplu nu pot spune. Primele modele de guvernanță erau concepute pentru software care funcționa în ritm uman: politici pe hârtie, aprobări înainte de implementare, analize după ce ceva mergea prost. Sistemele bazate pe agenți contrazic fiecare dintre aceste presupuneri. Funcționează continuu, acționează autonom și generează efecte în cascadă la viteza mașinilor.

Vedem o trecere a guvernanței către verificabilitatea în timpul execuției ca nouă limită de securitate, susținută de garanții criptografice care dovedesc comportamentul în fiecare etapă a ciclului de viață al unui agent – înainte, în timpul și după. Același tipar pe care l-am văzut la HTTPS devine standard pentru traficul web. Nimeni nu mai dezbate dacă trebuie criptate conexiunile web. În câțiva ani, nimeni nu va mai dezbate dacă execuția AI trebuie verificată în timp ce are loc. Va fi o cerință de bază.

Mulțumim pentru acest interviu minunat. Cititorii care doresc să afle mai multe pot vizita OPAQUE.