Aaron Fulkerson, CEO af OPAQUE – Interviewserie

Aaron Fulkerson, CEO af OPAQUE, er en erfaren iværksætter inden for virksomhedssoftware og open-source-pioner, hvis karriere spænder over mere end to årtier med opbygning og skalering af teknologiplatforme fokuseret på tillid, data og digital transformation. Før han tiltrådte som CEO i OPAQUE i 2023, grundlagde han MindTouch, som han hjalp med at vokse til en bredt accepteret virksomhedsplatform for viden, før det blev opkøbt af NICE Systems, og senere ledede lanceringen af ServiceNow (NOW ) Impact, en af de hurtigst voksende forretningsenheder i ServiceNow historie. Gennem sin karriere har Fulkerson arbejdet på tværs af fremvoksende teknologier, virksomhedssoftware og åbne økosystemer, samt rådgivet flere teknologivirksomheder og organisationer. Mere nyligt er han blevet en fremtrædende forkæmper for Confidential AI, idet han argumenterer for, at privatliv, styring og verificerbar tillid vil være grundlæggende krav, når AI-systemer bliver integreret i kritiske virksomhedsprocesser.

OPAQUE er et Confidential AI-selskab, der er opstået fra det anerkendte UC Berkeley RISELab, det samme forskningsøkosystem, der har hjulpet med at skabe teknologier som Apache Spark og Databricks. Selskabet har udviklet en platform, der giver virksomheder mulighed for at køre AI-modeller, -agenter og -processer på ekstremt følsomme data, mens de opretholder kryptografisk verificerbare privatlivs- og overholdelsesgarantier. I stedet for at tvinge organisationer til at vælge mellem AI-innovation og datasikkerhed, bruger OPAQUE confidential computing, krypterede runtime-miljøer og hardware-attesteret udførelse til at sikre, at følsomme oplysninger forbliver beskyttet før, under og efter AI-behandling. Dens teknologi er designet til højt regulerede brancher, herunder finans, forsikring, sundhedsvesen og højteknologi, med kunder og samarbejdspartnere, der inkluderer ServiceNow, Anthropic, Accenture og andre virksomhedsorganisationer, der søger at flytte AI-projekter fra pilotprogrammer til produktion uden at eksponere proprietære eller regulerede data.

Hvad fik dig til at træde ind i CEO-rollen i OPAQUE og fokusere din næste kapitel på tillid, privatliv og AI-styring?

Jeg har brugt næsten to årtier på at opbygge virksomhedsplatforme, først hos MindTouch, som stadig bruges af en milliard brugere om året, og derefter hos ServiceNow, hvor jeg skabte deres hurtigst voksende produkt. Begge lærte mig den samme lære: Den mest kraftfulde teknologi vinder kun, når folk stoler på den.

Da jeg mødte OPAQUE’s medstiftere Raluca Ada Popa, Ion Stoica og Rishabh Poddar, så jeg en sjælden kombination af talent og vision. Raluca er en af verdens førende forskere inden for privatliv og sikkerhed. Ion co-founded Databricks. Rishabh byggede de kryptografiske systemer, der blev OPAQUE’s grundlag.

Ved UC Berkeley’s RISELab havde de skabt noget, jeg umiddelbart genkendte som generationsskabende. Kryptografisk bevis for, at data forbliver private under hver AI-arbejdsgang. Ikke løfter. Ikke politikker. Bevis.

Jeg så, hvor AI var på vej, agenter, der handles selvstændigt over virksomhedssystemer i maskinehastighed, og jeg så den samme åbning, Vint Cerf har advaret om i 30 år: ingen tillidslag. Internettet overlevede uden det, fordi vi var sikkerhedsforanstaltningerne: mennesker læste indhold, klikkede bevidst og handlede ikke stille og roligt over hundredvis af systemer samtidigt.

Med MCP (Model Context Protocol, en standard, der giver AI-agenter sikker adgang til værktøjer, applikationer og data) som en fælles grundlag, hvordan ser du for dig, at dette ændrer måden, virksomheder implementerer og scaler agenterbaseret AI på?

MCP er et vigtigt skridt i, hvordan virksomheder implementerer og scaler agenterbaseret AI. Tænk på det som en universel connector for AI-arbejdsgange. Det standardiserer, hvordan agenter kobles til værktøjer, applikationer og data, reducerer reel friktion og accelererer eksperimenter.

Men standardisering af adgang alene gør ikke agenterbaseret AI sikker eller scalable. Da disse forbindelser breder sig, med flere agenter, flere værktøjer og flere datakilder, udvides datalækages overflade med hver ny integration. Hver forbindelsespunkt, der mangler runtime-gennemførelse, er en potentiel eksponeringsvektor. Når AI-agenter interagerer med følsomme systemer og proprietær logik, er kryptering i hvile og netværkskontroller ikke nok. Sikkerhedsgrænsen er flyttet til runtime, og denne flytning bliver mere presserende, da økosystemet scaler.

At have verificerbarhed på disse essentielle forbindelsespunkter vil være afgørende for virksomhederne. Virksomheder kan scale agenterbaseret AI, når MCP-stil adgang kombineres med kryptografisk bevis for, hvad kode der kører, hvor den kører og under hvilken politik – før, under og efter udførelse. Adgang plus verificerbarhed. Det er kombinationen, der låser produktionen op.

Da MCP standardiserer agentadgang, hvor ser du de største huller i dag, når det kommer til sikkerhed, politikgennemførelse og tillid i agentdrevne systemer?

Vi har gennemført vores 2026 AI Leak Surface-forskning og offentliggjort en sammenfatning af vores resultater, “A Dozen Ways Your AI Stack Is Bleeding Data“, der berører dette. Vi identificerede 46 eksponeringsvektorer på tværs af 8 kategorier, der spænder over den fulde AI-tillidslag: beregning, kontrol, applikation og håndover mellem dem. Det er uden at tage hensyn til ondsindede aktører. Disse er scenarier, hvor intet er brudt, logfiler ser rene ud, og dit system lækker stadig data.

De største huller ligger ikke i forbindelse; MCP løser det. Hullerne ligger i, hvad der sker efter, at en agent er forbundet. De fleste organisationer kan ikke besvare tre grundlæggende spørgsmål: Hvordan opfører vores AI sig i virkeligheden? Hvem kontrollerer det? Og hvordan kan vi bevise, at politikker er gennemført?

Vores forskning viste, at grænser er konfigureret, men aldrig gennemført. En politik findes i en dokument, en konfigurationsfil eller en deploy-tidsindstilling, men det kørende system er ikke begrænset af det. En AI-executive-assistent placerer materiel ikke-offentlig information på en kalenderinvitation. En RAG-co-pilot serverer bestyrelsesniveauets finansielle oplysninger til en junioranalytiker. En vendor-SDK eksfiltrerer stille 10 millioner forespørgsler over 12 måneder. I hver sag var adgangskontrollerne på plads. Data lækkede alligevel.

Indtil virksomheder lukker hullerne mellem konfigureret politik og gennemført politik, standardiserer MCP frontdøren. Men huset er stadig vagt.

Når AI-agenter får adgang til følsomme systemer og proprietære data, hvilke nye privatlivs- og overholdelsesrisici tenderer at opstå, som virksomheder ofte ikke er forberedt på?

De fleste virksomheder tænker på privatliv i forhold til data i hvile eller under overførsel. Denne model bryder sammen i agentbaserede arbejdsgange, fordi den største risiko er dataeksponering, mens den bruges.

Her er, hvad jeg mener. En bilproducent kører AI over sin samlebånd. De rå data synes harmløse: sensorafkast, tidssekvenser, kvalitetskontroller. Men en LLM kan nu rekonstruere proprietære fremstillingsprocesser fra denne data-eksport. Hvad var støj for fem år siden er nu en blåkopi for en konkurrent.

Vores AI Leak Surface-forskning dokumenterer denne mønster på tværs af dusinvis af scenarier. Operationsværktøjer til opfølgning af fulde AI-payloads som standard, og en europæisk bank havde 2,1 millioner prompts, der indeholdt personfølsomme oplysninger, der flød til en US-baseret SaaS-forekomst, fordi ingen ændrede APM-standardindstillingerne. Agent-hukommelse lækker kontekst mellem sessioner. Chain-of-thought-spore eksponerer komplette efterforskningsrapporter til overvågningsplatforme, der er tilgængelige for underentreprenører. Traditionelle overholdelsesrammer var ikke designet til at registrere denne type lækkage. De antog, at mennesker flyttede data i menneskehastighed.

Hvorfor bliver Confidential AI en nødvendig modpart til MCP, og hvordan løser det udfordringer, som adgangsstandarder alene ikke kan løse?

MCP løser, hvem der kan få adgang til hvad og hvordan, mens Confidential AI løser, hvad der sker, når adgang er givet. De er komplementære lag.

Adgangsstandarder alene kan ikke forhindre runtime-kompromis, politikdrift eller ukendt dataanvendelse. Tænk på det på denne måde: MCP giver dig en standardiseret måde at tilslutte agenter til dine systemer på. Confidential AI giver dig kryptografiske garantier for, at når de er tilsluttet, kan disse agenter kun gøre, hvad de er autoriseret til at gøre, og du kan bevise det.

Confidential AI leverer disse garantier på runtime over data, identitet, kode og kommunikation. Det giver verificerbart bevis for udførelse og sikrer, at privatliv og politikgennemførelse ikke stopper ved adgangsgrænsen, men består, mens AI aktivt resonnerer, genererer og handler. Uden det er MCP en solid grundlag. Men grundlag alene gør ikke en bygning sikker.

I praktisk forstand, hvad ser verificerbar tillid ud til for en virksomhed, der kører autonome AI-agenter over kritiske arbejdsgange?

Verificerbar tillid betyder, at jeg kan bevise, hvilken kode der kører, hvor den kører, under hvilken politik, hvilke data der er adgang til, og hvordan systemet opfører sig over tid.

I praksis tager vi et forsikringsselskab, der bruger AI-agenter til at behandle kravbrev. Før udførelse verificerer hardware-attestation agentens identitet og integriteten af miljøet. Under udførelse sikrer kryptografisk politikbinding inden for en hardware-baseret Trusted Execution Environment (TEE), at data forbliver beskyttet og at politikker gennemføres. Efter udførelse optager en uændringsbar revisionshistorik præcis, hvad der skete.

Risikoen i agentbaserede arbejdsgange er ikke, at en agent bliver rogue. Den virkelige risiko er, at du ikke kan demonstrere, om en politik blev gennemført eller om følsomme data blev beskyttet, mens agenterne var operative – før, under og efter. Det er, hvad verificerbar tillid ser ud til.

Da agentbaserede systemer opererer i maskinehastighed, hvorfor bryder traditionel menneskelig oversigt sammen, og hvordan bør organisationer omstrukturere styring i denne nye omgang?

I årtier havde internettet en usynlig sikkerhedsforanstaltning: os. Mennesker læste indhold, klikkede bevidst og handlede ikke stille og roligt over hundredvis af systemer samtidigt.

Agentbaseret AI udvisker disse antagelser over nattemøde. Agenter opererer kontinuerligt, træffer beslutninger i maskinehastighed og kan manipuleres af miljøer designet til mennesker, men kan udnyttes af maskiner. En ondsindet webside behøver ikke at narre en AI, som den narre en person; den kan blot instruere den.

Ved kun 1% risiko per agent står et netværk af 100 agenter over for en 63% sandsynlighed for et brud. Skalér til 1000, og du er oppe på 99,99%. Menneskelig oversigt kan ikke følge med disse tal. Oversigt må flyttes fra reaktiv gennemgang til runtime-garantier. Det betyder zero-trust-arbejdsgange, politikgennemførelse som standard og verificerbar udførelse, der ikke afhænger af, at en menneskelig fanger fejlen efter faktum.

Hvad er de mest almindelige sikkerhedsfejl, du ser, når virksomheder eksperimenterer med agentbaseret AI uden en indbygget tillidslag?

Mønsteret, jeg ser oftest, er, at virksomheder lader agenter handle og koordinere uden nogen kryptografiske garantier omkring deres adfærd. De behandler følsomme IP på håb.

Hvad følger er forudsigeligt, og vi har dokumenteret de specifikke mønstre i vores AI Leak Surface-forskning. Runtime-kompromiseringer omgår traditionelle perimeterforsvar, fordi agenten allerede er inde i netværket. Autonome agentkæder skaber kaskade-fejl. En udnyttet agent udløser en dominobrik over forbundne systemer. Proprietær logik lækker gennem data-eksport, som ingen tænkte på at overvåge. Agenter mister evnen til at skelne mellem virksomhedsformål og ondsindet input, fordi der ikke er nogen verificerbar identitet eller politikbinding på runtime.

Disse er ikke hypotetiske. Vi har kortlagt 46 vektorer, hvor data undslipper sin tilladte kontrol, selv når intet ser brudt ud. AI-agenter genererer og deler data i maskinehastighed. Uden verificerbare runtime-sikkerhedsforanstaltninger bygget ind i arbejdsgangen kan fejl sprede sig hurtigere, end nogen sikkerhedsgruppe kan registrere eller reagere.

Hvordan balancerer førende organisationer behovet for at låse op for avancerede AI-kapaciteter, mens de stadig beskytter deres mest følsomme dataaktiver?

De organisationer, der får det rigtigt, behandler privatliv og styring som acceleratorer, ikke bremser. Det er den centrale indsigt.

Hvad jeg ser i markedet er, at førende virksomheder parrer avancerede AI-kapaciteter med confidential AI-platforme, der leverer verificerbare garantier, ikke blot overholdelseslister. De låser op for følsomme data til AI-innovation, mens de sikrer, at proprietær information forbliver beskyttet, selv når arbejdsgange kører autonomt.

Den gamle ramme var kapacitet versus sikkerhed. Organisationerne, der flytter hurtigst, har forkastet dette kompromis fuldstændigt. De bygger verificerbar tillid ind i grundlaget for deres AI-strategi, hvilket giver dem mulighed for at sætte deres mest værdifulde data i arbejde. Samtidig er konkurrenter stadig fastlåst i pilotmode, hvor de kører AI på renskurede datasæt, der ikke flytter nålene.

Basert på, hvad du ser i dag, hvordan forventer du, at virksomheds AI-styringsmodeller vil udvikle sig over de næste par år, mens agentbaserede systemer flytter fra piloter til fuld produktion?

Styring vil udvikle sig fra papir til bevis. Det er den enkleste måde, jeg kan sige det på. Tidlige styringsmodeller var bygget til menneskepacede software: politikker på papir, godkendelser før deploy, gennemgang efter noget gik galt. Agentbaserede systemer bryder hver enkelt af disse antagelser. De opererer kontinuerligt, handler autonomt og genererer kaskadevirkninger i maskinehastighed.

Hvad vi ser, er styring, der flytter mod runtime-verificerbarhed som den nye sikkerhedsgrænse, understøttet af kryptografiske garantier, der beviser adfærd over hver fase af en agents livscyklus, før, under og efter. Den samme mønster, vi så med HTTPS, bliver standarden for webtrafik. Ingen diskuterer længere, om man skal kryptere webforbindelser. Inden for få år vil ingen diskutere, om man skal verificere AI-udførelse på runtime. Det bliver en selvfølge.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge OPAQUE.