Aaron Fulkerson, VD för OPAQUE – Intervjuserie

Aaron Fulkerson, VD för OPAQUE, är en långvarig företagsprogramvaru-entreprenör och öppen källkods-pionjär vars karriär omfattar mer än två decennier av att bygga och skala teknikplattformar med fokus på tillit, data och digital transformation. Innan han anslöt sig till OPAQUE 2023 grundade han MindTouch, som han hjälpte till att växa till en allmänt antagen företagskunskapsplattform innan den förvärvades av NICE Systems, och senare ledde lanseringen av ServiceNow (NOW ) Impact, en av de snabbast växande affärseenheterna i ServiceNow historia. Under hela sin karriär har Fulkerson arbetat vid skärningspunkten mellan nya teknologier, företagsprogramvara och öppna ekosystem, samtidigt som han också har rådgivit flera teknikstartups och organisationer. Mer nyligen har han blivit en framträdande förespråkare för Konfidentiell AI, och hävdar att sekretess, styrning och verifierbar tillit kommer att vara grundläggande krav när AI-system integreras i kritiska företagsflöden.

OPAQUE är ett företag inom Konfidentiell AI som har uppstått ur det välkända UC Berkeley RISELab, samma forskningsekosystem som hjälpte till att skapa teknologier som Apache Spark och Databricks. Företaget har utvecklat en plattform som möjliggör för företag att köra AI-modeller, agenter och arbetsflöden på mycket känsliga data samtidigt som de upprätthåller kryptografiskt verifierbara sekretess- och efterlevnadsgarantier. Istället för att tvinga organisationer att välja mellan AI-innovation och datasäkerhet, använder OPAQUE konfidentiell databehandling, krypterade körningsmiljöer och maskinvaruverifierad körning för att säkerställa att känslig information förblir skyddad före, under och efter AI-behandling. Dess teknik är utformad för högt reglerade branscher, inklusive finans, försäkring, hälsovård och högteknologi, med kunder och partners som inkluderar ServiceNow, Anthropic, Accenture och andra företagsorganisationer som söker flytta AI-projekt från pilotprogram till produktion utan att exponera proprietär eller reglerad data.

Du har byggt och skalat flera företagsplattformar under din karriär, så vad fick dig att gå in i VD-rollen på OPAQUE och fokusera din nästa kapitel på tillit, sekretess och AI-styrning?

Jag har tillbringat nästan två decennier med att bygga företagsplattformar, först på MindTouch, som fortfarande används av en miljard användare varje år, och sedan på ServiceNow, där jag skapade deras snabbast växande produkt. Båda lärde mig samma läxa: den mest kraftfulla tekniken vinner bara när människor litar på den.

När jag mötte OPAQUE:s medgrundare Raluca Ada Popa, Ion Stoica och Rishabh Poddar, såg jag en sällsynt kombination av talang och vision. Raluca är en av världens främsta forskare inom sekretess och säkerhet. Ion co-founderade Databricks. Rishabh byggde de kryptografiska system som blev OPAQUE:s grund.

På UC Berkeley:s RISELab hade de skapat något som jag omedelbart kände igen som en generationsväxling. Kryptografisk bevisning på att data förblir privat under alla AI-arbetsflöden. Inte löften. Inte policys. Bevis.

Jag tittade på vart AI var på väg, agenter som agerar autonomt över företagssystem i maskinhastighet, och jag såg samma gap som Vint Cerf har varnat för i 30 år: ingen tillitslager. Internet överlevde utan en sådan eftersom människor var skyddsräcket. Det agenterbaserade webben kommer inte att ha den lyxen.

Med MCP (Modellkontextprotokollet, en standard som tillåter AI-agenter att säkert komma åt verktyg, applikationer och data) som växer fram som en gemensam grund, hur ser du att detta kommer att förändra sättet företag distribuerar och skalar agenterbaserad AI?

MCP är ett viktigt steg i hur företag distribuerar och skalar agenterbaserad AI. Tänk på det som en universell anslutning för AI-arbetsflöden. Det standardiserar hur agenter ansluter till verktyg, applikationer och data, minskar verklig friktion och accelererar experiment.

Men att standardisera åtkomst ensam gör inte agenterbaserad AI säker eller skalbar. När dessa anslutningar förökar sig, med fler agenter, fler verktyg och fler datakällor, expanderar dataläckageytan med varje ny integration. Varje anslutningspunkt som saknar körningstidsgarantier är en potentiell exponeringsvektor. När AI-agenter interagerar med känsliga system och proprietär logik räcker kryptering i vila och nätverkskontroller inte. Säkerhetsgränsen har skiftat till körningstid, och den skiftningen blir alltmer angelägen när ekosystemet växer.

När AI-agenter ges åtkomst till känsliga system och proprietär data, vilka nya sekretess- och efterlevnadsrisker tenderar att dyka upp som företag ofta inte är förberedda på?

De flesta företag tänker på sekretess i termer av data i vila eller under överföring. Den modellen bryter samman i agenterbaserade arbetsflöden eftersom den största risken är dataläckage medan det används.

Här är vad jag menar. En prestandabil tillverkare kör AI över sin monteringslinje. De råa data verkar ofarliga: sensoravläsningar, tidsserier, kvalitetskontroller. Men en LLM kan nu rekonstruera proprietära tillverkningsprocesser från den datavolymen. Vad som var brus för fem år sedan är nu en ritning för en konkurrent.

Vår AI-läckageyta-forskning dokumenterar detta mönster över dussintals scenarier. Operativa telemetri-verktyg fångar fulla AI-nyttolaster som standard, och en europeisk bank hade 2,1 miljoner prompter som innehöll personuppgifter som flödade till en amerikansk SaaS-instans eftersom ingen ändrade APM-standarderna. Agentminnet läcker sammanhang mellan sessioner. Tänk-kedja-spår exponerar fullständiga utredningsregister för observabilitetsplattformar som är tillgängliga för underentreprenörer. Traditionella efterlevnadsramverk var inte utformade för att upptäcka detta slags läckage. De antog att människor flyttade data i mänsklig hastighet.

Varför blir Konfidentiell AI en nödvändig motvikt till MCP, och hur hanterar den utmaningar som åtkomststandarder ensam inte kan lösa?

MCP löser vem som kan komma åt vad och hur, medan Konfidentiell AI löser vad som händer när åtkomst är beviljad. De är kompletterande lager.

Åtkomststandarder ensam kan inte förhindra körningstidskompromiss, policyavvikelse eller obehörig dataanvändning. Tänk på det så här: MCP ger dig en standardiserad metod för att ansluta agenter till dina system. Konfidentiell AI ger dig kryptografiska garantier för att när åtkomst är beviljad, kan dessa agenter bara göra vad de är auktoriserade att göra, och du kan bevisa det.

Konfidentiell AI levererar dessa garantier vid körning över data, identitet, kod och kommunikation. Den tillhandahåller verifierbart bevis för körning och säkerställer att sekretess och policyefterlevnad inte slutar vid åtkomstgränsen utan består medan AI aktivt resonerar, genererar och agerar. Utan det är MCP en solid grund. Men grunder ensam gör inte en byggnad säker.

I praktiska termer, vad ser verifierbar tillit ut som för ett företag som kör autonoma AI-agenter över kritiska arbetsflöden?

Verifierbar tillit innebär att jag kan bevisa vilken kod som kördes, var den kördes, under vilka policys, vilka data som åtkomdes och hur systemet betedde sig över tid.

I praktiken, ta ett försäkringsbolag som använder AI-agenter för att bearbeta kravbrev. Innan körning verifierar maskinvaruauktorisering agentens identitet och integriteten hos miljön. Under körning säkerställer kryptografisk policybindning inom en maskinvaru-backad Trusted Execution Environment (TEE) att data förblir skyddad och att policys är påtvingade. Efter körning registrerar en oföränderlig revisionslogg exakt vad som hände.

Risken i agenterbaserade arbetsflöden är inte att en agent blir galen. Den verkliga risken är att du inte kan demonstrera om en policy var påtvingad eller om känslig data var skyddad medan agenter var operativa—före, under och efter. Det är vad verifierbar tillit ser ut som.

Som agenterbaserade system opererar i maskinhastighet, varför bryter traditionell mänsklig tillsyns kontroll, och hur bör organisationer omdefiniera styrning i denna nya miljö?

För decennier hade internet en osynlig räls: oss. Människor läste innehåll, klickade med avsikt och agerade inte tyst över hundra system samtidigt.

Agenterbaserad AI suddar ut dessa antaganden över en natt. Agenter opererar kontinuerligt, fattar beslut i maskinhastighet och kan manipuleras av miljöer utformade för människor men exploaterbara av maskiner. En skadlig webbsida behöver inte lura en AI på samma sätt som den lurar en person; den kan enkelt instruera den.

Vid bara 1% risk per agent, möter ett nätverk av 100 agenter en 63% sannolikhet för ett brott. Skala till tusen och du är vid 99,99%. Mänsklig tillsyn kan inte hålla jämna steg med dessa siffror. Tillsyn måste skifta från reaktiv granskning till körningstidsgarantier. Det innebär noll-tillit-arbetsflöden, policyefterlevnad som standard och verifierbar körning som inte beror på att en människa fångar felet efter faktum.

Vilka är de vanligaste säkerhetsbristerna du ser när företag experimenterar med agenterbaserad AI utan en inbyggd tillitslager?

Mönstret jag ser oftast är att företag låter agenter agera och samordna utan några kryptografiska garantier kring deras beteende. De bearbetar känslig IP på hopp.

Vad som följer är förutsägbart, och vi har dokumenterat de specifika mönstren i vår AI-läckageyta-forskning. Körningstidskompromiss kringgår traditionella perimeterförsvar eftersom agenten redan är inne i nätverket. Autonoma agentkedjor skapar kaskadefel. En exploaterad agent utlöser en dominoeffekt över anslutna system. Proprietär logik läcker genom datavolym som ingen tänkte övervaka. Agenter förlorar förmågan att skilja företagsavsikt från skadlig inmatning eftersom det inte finns någon verifierbar identitet eller policybindning vid körning.

Detta är inte hypotetiskt. Vi kartlade 46 vektorer där data flyr sina avsedda kontroller, även när ingenting verkar vara trasigt. AI-agenter genererar och delar data i maskinhastighet. Utan verifierbara körningstidsskydd byggda in i arbetsflödet, sprider sig fel snabbare än något säkerhetsteam kan upptäcka eller svara.

Hur balanserar ledande organisationer behovet av att låsa upp avancerade AI-kapaciteter medan de fortfarande skyddar sina mest känsliga data-tillgångar?

De organisationer som får det rätt behandlar sekretess och styrning som acceleratorer, inte bromsar. Det är den viktigaste insikten.

Vad jag ser i fältet är att ledande företag parar avancerade AI-kapaciteter med konfidentiella AI-plattformar som levererar verifierbara garantier, inte bara efterlevnadslistor. De låser upp känsliga data för AI-innovation samtidigt som de säkerställer att proprietär information förblir skyddad, även när arbetsflöden körs autonomt.

Den gamla ramen var kapacitet kontra säkerhet. De organisationer som flyttar snabbast har förkastat den avvägningen helt. De bygger in verifierbar tillit i grunden för sin AI-strategi, vilket möjliggör för dem att sätta sin mest värdefulla data i arbete. Samtidigt är konkurrenter fortfarande fast i pilotläge, där de kör AI på rengjorda datamängder som inte flyttar nålar.

Baserat på vad du ser idag, hur förväntar du dig att företags AI-styrningsmodeller kommer att utvecklas under de närmaste åren när agenterbaserade system flyttar från piloter till full produktion?

Styrning kommer att utvecklas från papper till bevis. Det är det enklaste sättet jag kan uttrycka det. Tidiga styrningsmodeller byggdes för mänsklig-taktprogram: policys på papper, godkännanden före distribution, granskningar efter att något gick fel. Agenterbaserade system bryter alla dessa antaganden. De opererar kontinuerligt, agerar autonomt och genererar kaskadeffekter i maskinhastighet.

Vad vi ser är styrning som flyttar mot körningstidsgarantier som den nya säkerhetsgränsen, stödd av kryptografiska garantier som bevisar beteende över alla stadier av en agents livscykel, före, under och efter. Samma mönster vi såg med HTTPS blir standard för webbtrafik. Ingen ifrågasätter längre om man ska kryptera webbanslutningar. Inom några år kommer ingen att ifrågasätta om man ska verifiera AI-körning vid körning. Det kommer att vara en självklarhet.

Tack för den underbara intervjun, läsare som vill lära sig mer kan besöka OPAQUE.