Aaron Fulkerson, CEO al OPAQUE – Seria de interviuri

Aaron Fulkerson, CEO al OPAQUE, este un antreprenor de software pentru întreprinderi cu o experiență de peste două decenii în construirea și dezvoltarea de platforme tehnologice axate pe încredere, date și transformare digitală. Înainte de a se alătura OPAQUE în 2023, el a fondat MindTouch, ajutând la creșterea sa într-o platformă de cunoaștere pentru întreprinderi pe scară largă, înainte de a fi achiziționată de NICE Systems, și ulterior a condus lansarea ServiceNow (NOW ) Impact, una dintre cele mai rapide unități de afaceri din ServiceNow istorie. Pe parcursul carierei sale, Fulkerson a lucrat la intersecția tehnologiilor emergente, software-ului pentru întreprinderi și a ecosistemelor deschise, iar mai recent a devenit un avocat proeminent pentru Inteligența Artificială Confidențială, argumentând că confidențialitatea, guvernanța și încrederea verificabilă vor fi cerințe fundamentale pe măsură ce sistemele de inteligență artificială devin integrate în fluxurile de lucru critice ale întreprinderilor.

OPAQUE este o companie de Inteligență Artificială Confidențială care a apărut din cunoscutul laborator de cercetare UC Berkeley RISELab, același ecosistem de cercetare care a ajutat la crearea tehnologiilor precum Apache Spark și Databricks. Compania a dezvoltat o platformă care permite întreprinderilor să ruleze modele de inteligență artificială, agenți și fluxuri de lucru pe date extrem de sensibile, menținând în același timp garanții de confidențialitate și conformitate verificabile criptografic. În loc să forțeze organizațiile să aleagă între inovația în inteligență artificială și securitatea datelor, OPAQUE utilizează calculul confidențial, medii de execuție criptate și execuție atestată de hardware pentru a asigura că informațiile sensibile rămân protejate înainte, în timpul și după procesarea de inteligență artificială. Tehnologia sa este destinată în special pentru industrii puternic reglementate, inclusiv finanțe, asigurări, sănătate și tehnologie de vârf, cu clienți și parteneri care includ ServiceNow, Anthropic, Accenture și alte organizații de întreprinderi care doresc să mute proiectele de inteligență artificială din programe-pilot în producție fără a expune datele proprietare sau reglementate.

Ați construit și extins multiple platforme pentru întreprinderi de-a lungul carierei dvs., ce v-a determinat să preluați rolul de CEO la OPAQUE și să vă concentrați următoarea capitolă a carierei dvs. pe încredere, confidențialitate și guvernanță a inteligenței artificiale?

Am petrecut aproape două decenii construind platforme pentru întreprinderi, mai întâi la MindTouch, care este încă utilizată de un miliard de utilizatori anual, și apoi la ServiceNow, unde am creat produsul lor cu cea mai rapidă creștere. Ambele mi-au învățat aceeași lecție: cea mai puternică tehnologie câștigă doar atunci când oamenii au încredere în ea.

Când i-am cunoscut pe cofondatorii OPAQUE, Raluca Ada Popa, Ion Stoica și Rishabh Poddar, am văzut o combinație rară de talent și viziune. Raluca este una dintre cele mai importante cercetătoare în domeniul confidențialității și securității. Ion a co-fondat Databricks. Rishabh a construit sistemele criptografice de bază care au devenit fundația OPAQUE.

La RISELab de la UC Berkeley, ei au creat ceva pe care l-am recunoscut imediat ca fiind de generație. Dovezi criptografice că datele rămân private pe tot parcursul fluxului de lucru al inteligenței artificiale. Nu promisiuni. Nu politici. Dovezi.

M-am uitat la direcția în care se îndrepta inteligența artificială și am văzut aceeași lacună pe care Vint Cerf a avertizat-o timp de 30 de ani: lipsa unui strat de încredere. Internetul a supraviețuit fără unul pentru că oamenii au fost bariera de siguranță. Web-ul agenților nu va avea această lux.

Cu MCP (Protocolul de Context al Modelului, un standard care permite agenților de inteligență artificială să acceseze în siguranță unelte, aplicații și date) care emerge ca o bază comună, cum vedeți schimbarea modului în care întreprinderile implementează și extind inteligența artificială agențială?

MCP este un pas important în modul în care întreprinderile implementează și extind inteligența artificială agențială. Gândiți-vă la el ca la un conector universal pentru fluxurile de lucru ale inteligenței artificiale. Standardizează modul în care agenții se conectează la unelte, aplicații și date, reducând fricțiunea reală și accelerând experimentarea.

Însă standardizarea accesului singură nu face inteligența artificială agențială sigură sau extensibilă. Pe măsură ce aceste conexiuni se multiplică, cu mai mulți agenți, mai multe unelte și mai multe surse de date, suprafața de expunere a scurgerilor de date crește odată cu fiecare nouă integrare. Fiecare punct de conexiune care lipsește de aplicarea la runtime este un potențial vector de expunere. Când agenții de inteligență artificială interacționează cu sisteme și logici proprietare sensibile, criptarea la repaus și controlul rețelei nu sunt suficiente. Bariera de securitate s-a deplasat către runtime, și această deplasare devine mai urgentă pe măsură ce ecosistemul se extinde.

Cum vedeți cele mai mari lacune de astăzi în ceea ce privește securitatea, aplicarea politicii și încrederea în sistemele conduse de agenți?

Noi am finalizat cercetarea noastră din 2026 privind Suprafața de scurgere a inteligenței artificiale și am publicat un rezumat al constatărilor noastre, „A Dozen Ways Your AI Stack Is Bleeding Data”, care atinge această temă. Am identificat 46 de vectori de expunere în 8 categorii care acoperă întreaga frontieră de încredere a inteligenței artificiale: calcul, control, aplicație și handoff-urile dintre ele. Acest lucru se întâmplă fără a lua în considerare actori malici.

Cele mai mari lacune nu sunt în conectivitate; MCP rezolvă această problemă. Lacunele sunt în ceea ce se întâmplă după ce un agent se conectează. Majoritatea organizațiilor nu pot răspunde la trei întrebări de bază: Cum se comportă inteligența noastră artificială în realitate? Cine o controlează? Și cum putem dovedi că politicile au fost aplicate?

Cercetarea noastră a arătat că limitele sunt configurate dar niciodată aplicate. O politică există într-un document, un fișier de configurare sau o setare la momentul implementării, dar sistemul care rulează nu este constrâns de aceasta. Un asistent executiv de inteligență artificială plasează informații materiale nepublice pe o invitație la calendar. Un copilot RAG oferă informații financiare de nivelul consiliului de administrație unui analist junior. Un SDK al unui furnizor exfiltratează în mod silențios 10 milioane de interogări pe parcursul a 12 luni. În fiecare caz, controalele de acces erau în vigoare. Datele au scurs oricum.

Când agenții de inteligență artificială primesc acces la sisteme și date sensibile, ce riscuri noi de confidențialitate și conformitate tind să apară și pentru care întreprinderile sunt adesea nepregătite?

Majoritatea întreprinderilor se gândesc la confidențialitate în termeni de date în repaus sau în tranzit. Acest model se rupe în fluxurile de lucru ale agenților de inteligență artificială, deoarece cel mai mare risc este expunerea datelor în timp ce sunt utilizate.

Iată ce vreau să spun. Un producător de mașini de performanță rulează inteligență artificială pe linia de asamblare. Datele brute par inofensive: citiri ale senzorilor, secvențe de temporizare, verificări de calitate. Dar un model de limbaj poate reconstrui acum procese de fabricație proprietare din aceste date de evacuare. Ceea ce părea zgomot în urmă cu cinci ani este acum o schiță pentru un concurent.

Cercetarea noastră privind Suprafața de scurgere a inteligenței artificiale documentează acest model de-a lungul zecilor de scenarii. Uneltele de telemetrie operațională capturează încărcături complete de inteligență artificială în mod implicit, și o bancă europeană a avut 2,1 milioane de prompturi care conțineau informații personale care au curs către o instanță SaaS din SUA, pentru că nimeni nu a schimbat setările implicite APM. Memoria agenților scurge contextul între sesiuni. Urmele de gândire expun înregistrări de investigație complete către platforme de observabilitate accesibile contractorilor. Cadrele de conformitate tradiționale nu au fost concepute pentru a detecta acest tip de scurgere. Au presupus că oamenii mutau date la viteza omului.

De ce devine Inteligența Artificială Confidențială un contrapunct necesar pentru MCP, și cum abordează provocările pe care standardele de acces singure nu le pot rezolva?

MCP rezolvă cine poate accesa ce și cum, în timp ce Inteligența Artificială Confidențială rezolvă ce se întâmplă odată ce accesul este acordat. Sunt straturi complementare.

Standardele de acces singure nu pot preveni compromisul la runtime, deriva de politică sau utilizarea neautorizată a datelor. Gândiți-vă la asta în felul următor: MCP vă oferă un mod standardizat de a conecta agenți la sistemele dvs. Inteligența Artificială Confidențială vă oferă garanții criptografice că, odată conectați, acești agenți pot face doar ceea ce sunt autorizați să facă, și puteți dovedi acest lucru.

Inteligența Artificială Confidențială oferă aceste garanții la runtime, pe date, identitate, cod și comunicare. Asigură dovezi verificabile de execuție și se asigură că confidențialitatea și aplicarea politicilor nu se opresc la limita de acces, ci persistă pe măsură ce inteligența artificială activează, generează și acționează. Fără ea, MCP este o bază solidă. Dar fundațiile singure nu fac o clădire sigură.

În termeni practici, ce înseamnă încredere verificabilă pentru o întreprindere care rulează agenți de inteligență artificială autonomi pe fluxuri de lucru critice?

Încrederea verificabilă înseamnă că pot dovedi ce cod a rulat, unde a rulat, sub ce politici, ce date au fost accesate și cum s-a comportat sistemul de-a lungul timpului.

În practică, luați o companie de asigurări care utilizează agenți de inteligență artificială pentru a procesa scrisori de cerere. Înainte de execuție, atestarea hardware verifică identitatea agentului și integritatea mediului. În timpul execuției, legarea politicilor criptografice într-un mediu de execuție de încredere (TEE) cu suport hardware asigură că datele rămân protejate și că politicile sunt aplicate. După execuție, un registru de audit protejat împotriva modificărilor înregistrează exact ce s-a întâmplat.

Riscul în fluxurile de lucru ale agenților nu este că un agent devine renegat. Riscul real este că nu puteți demonstra dacă o politică a fost aplicată sau dacă datele sensibile au fost protejate în timp ce agenții erau operaționali—înainte, în timpul și după. Acesta este aspectul încrederii verificabile.

Pe măsură ce sistemele agențiale funcționează la viteza mașinilor, de ce supravegherea tradițională a oamenilor se rupe, și cum ar trebui organizațiile să reconsidere guvernanța în acest nou mediu?

Pe parcursul a decenii, internetul a avut un parapet invizibil: noi. Oamenii citesc conținut, fac clic intenționat și nu acționează în mod silențios pe sisteme multiple simultan.

Inteligența artificială agențială șterge toate aceste presupuneri peste noapte. Agenții funcționează continuu, iau decizii la viteza mașinilor și pot fi manipulați de medii proiectate pentru oameni, dar exploatabile de mașini. O pagină web malignă nu trebuie să păcălească o inteligență artificială așa cum păcălește un om; pur și simplu poate instrui-o.

La doar 1% risc pe agent, o rețea de 100 de agenți se confruntă cu o probabilitate de 63% de a suferi o încălcare a securității. Pe măsură ce se extinde la o mie, ajungeți la 99,99%. Supravegherea umană în buclă nu poate ține pasul cu aceste numere. Supravegherea trebuie să se deplaseze de la revizuirea reactivă la garanții de runtime. Acest lucru înseamnă fluxuri de lucru cu zero încredere, aplicarea politicilor în mod implicit și execuție verificabilă care nu depinde de un om care prinde eșecul după fapt.

Ce sunt cele mai comune eșecuri de securitate pe care le observați atunci când întreprinderile experimentează cu inteligența artificială agențială fără un strat de încredere încorporat?

Modelul pe care îl văd cel mai des este că întreprinderile lasă agenții să acționeze și să se coordoneze fără nicio garanție criptografică cu privire la comportamentul lor. Ei procesează informații sensibile pe baza speranței.

Ce urmează este previzibil, și am documentat modelele specifice în cercetarea noastră privind Suprafața de scurgere a inteligenței artificiale. Compromisurile la runtime ocolesc apărările tradiționale de perimetru, deoarece agentul este deja în rețea. Lanțurile de agenți autonome creează eșecuri în cascadă. Un agent exploatat declanșează un efect de domino pe sisteme conectate. Logica proprietară scurge prin evacuarea datelor pe care nimeni nu a considerat-o necesar să o monitorizeze. Agenții pierd capacitatea de a distinge intenția întreprinderii de intrările maliciuoase, deoarece nu există identitate sau legare de politică verificabilă la runtime.

Cum sunt liderii organizațiilor echilibrând nevoia de a debloca capacități avansate de inteligență artificială, în timp ce protejează în același timp cele mai sensibile active de date?

Organizațiile care reușesc să facă acest lucru tratează confidențialitatea și guvernanța ca acceleratori, nu ca frâne. Acesta este insight-ul cheie.

Ceea ce văd în teren este că întreprinderile de top asociază capacități avansate de inteligență artificială cu platforme de inteligență artificială confidențială care oferă garanții verificabile, nu doar liste de verificare a conformității. Ei deblochează date sensibile pentru inovație în inteligență artificială, asigurându-se în același timp că informațiile proprietare rămân protejate, chiar și atunci când fluxurile de lucru rulează autonom.

Vechiul cadru a fost capabilitate versus securitate. Organizațiile care se deplasează cel mai rapid au respins complet acest compromis. Ei construiesc încredere verificabilă în fundația strategiei lor de inteligență artificială, permițându-le să pună cele mai valoroase date la lucru. În același timp, competitorii sunt încă blocați în modul de pilot, rulând inteligență artificială pe seturi de date sancționate care nu mișcă acul.

Pe baza a ceea ce observați astăzi, cum anticipați că modelele de guvernanță a inteligenței artificiale pentru întreprinderi vor evolua în următorii ani, pe măsură ce sistemele agențiale trec de la proiecte-pilot la producție deplină?

Guvernanța va evolua de la documente la dovadă. Acesta este cel mai simplu mod în care pot spune. Modelele de guvernanță inițiale au fost create pentru software-ul cu viteza omului: politici pe hârtie, aprobări înainte de implementare, revizuiri după ceva a mers prost. Sistemele agențiale sparg toate aceste presupuneri. Funcționează continuu, acționează autonom și generează efecte în cascadă la viteza mașinilor.

Ceea ce vedem este guvernanța care se deplasează către verificabilitatea la runtime ca noua barieră de securitate, susținută de garanții criptografice care dovedesc comportamentul de-a lungul întregului ciclu de viață al unui agent, înainte, în timpul și după. Același model pe care l-am văzut cu HTTPS devine standardul pentru traficul web. Nimeni nu mai debatează dacă să cripteze conexiunile web. În câțiva ani, nimeni nu va mai debatea dacă să verifice execuția inteligenței artificiale la runtime. Va fi o cerință de bază.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe, le recomandăm să viziteze OPAQUE.