Aaron Fulkerson, CEO van OPAQUE – Interviewreeks

Aaron Fulkerson, CEO van OPAQUE, is een lange tijd ondernemer in enterprise software en open-source pionier wiens carrière meer dan twee decennia omvat van het bouwen en schalen van technologieplatforms gericht op vertrouwen, gegevens en digitale transformatie. Voordat hij in 2023 bij OPAQUE kwam, richtte hij MindTouch op, waarmee hij het hielp groeien tot een breed geaccepteerd enterprise-kennisplatform voordat het werd overgenomen door NICE Systems, en leidde hij later de lancering van ServiceNow (NOW ) Impact, een van de snelst groeiende businessunits in de ServiceNow geschiedenis. Gedurende zijn carrière heeft Fulkerson gewerkt op het snijvlak van opkomende technologieën, enterprise software en open ecosystemen, en heeft hij ook meerdere technologie-startups en -organisaties geadviseerd. Onlangs is hij een prominent voorstander geworden van Confidential AI, waarin hij betoogt dat privacy, governance en verifieerbare vertrouwen fundamentele vereisten zullen zijn wanneer AI-systemen worden geïntegreerd in kritieke enterprise-workflows.

OPAQUE is een Confidential AI-bedrijf dat is voortgekomen uit de beroemde UC Berkeley RISELab, hetzelfde onderzoeks-ecosysteem dat heeft geholpen bij de creatie van technologieën zoals Apache Spark en Databricks. Het bedrijf heeft een platform ontwikkeld dat het bedrijven mogelijk maakt om AI-modellen, -agenten en -workflows uit te voeren op zeer gevoelige gegevens, terwijl het cryptografisch verifieerbare privacy- en compliance-garanties behoudt. In plaats van bedrijven te dwingen om te kiezen tussen AI-innovatie en gegevensbeveiliging, gebruikt OPAQUE vertrouwelijke computing, versleutelde runtime-omgevingen en hardware-geattesteerde uitvoering om ervoor te zorgen dat gevoelige informatie beschermd blijft voordat, tijdens en na AI-verwerking. De technologie is ontworpen voor hoog gereguleerde industrieën, waaronder financiën, verzekeringen, gezondheidszorg en high-tech, met klanten en partners die onder meer ServiceNow, Anthropic, Accenture en andere enterprise-organisaties omvatten die AI-projecten van pilot-projecten naar productie willen brengen zonder eigendoms- of gereguleerde gegevens bloot te stellen.

U heeft meerdere enterprise-platforms gebouwd en geschaald in uw carrière, dus wat heeft u ertoe aangezet om de CEO-rol bij OPAQUE op zich te nemen en uw volgende hoofdstuk te richten op vertrouwen, privacy en AI-governance?

Ik heb bijna twee decennia enterprise-platforms gebouwd, eerst bij MindTouch, dat nog steeds door een miljard gebruikers per jaar wordt gebruikt, en later bij ServiceNow, waar ik hun snelst groeiende product heb gecreëerd. Beide hebben me hetzelfde les geleerd: de meest krachtige technologie wint alleen als mensen het vertrouwen.

Toen ik de mede-oprichters van OPAQUE, Raluca Ada Popa, Ion Stoica en Rishabh Poddar, ontmoette, zag ik een zeldzame combinatie van talent en visie. Raluca is een van de werelds meest vooraanstaande onderzoekers op het gebied van privacy en beveiliging. Ion was mede-oprichter van Databricks. Rishabh bouwde de cryptografische systemen die de basis vormden van OPAQUE.

Bij UC Berkeley’s RISELab hadden ze iets gecreëerd dat ik onmiddellijk herkende als een generatie. Cryptografisch bewijs dat gegevens privé blijven gedurende elke AI-workflow. Geen beloften. Geen beleid. Bewijs.

Ik keek naar de richting waarin AI zich bewoog, agenten die autonoom opereerden in enterprise-systemen met machinesnelheid, en ik zag dezelfde kloof die Vint Cerf al dertig jaar waarschuwt: geen vertrouwenslaag. Het internet overleefde zonder omdat wij de veiligheidsbarrière vormden. De agente web zal die luxe niet hebben. Dat is wat me aantrok.

Met MCP (het Model Context Protocol, een standaard die het mogelijk maakt voor AI-agenten om veilig toegang te krijgen tot tools, applicaties en gegevens) die opkomt als een gemeenschappelijke basis, hoe ziet u dit veranderingen in de manier waarop bedrijven agente AI implementeren en schalen?

MCP is een belangrijke stap in de manier waarop bedrijven agente AI implementeren en schalen. Denk hierbij aan een universele connector voor AI-workflows. Het standaardiseert hoe agenten toegang krijgen tot tools, applicaties en gegevens, waardoor de werkelijke wrijving wordt verminderd en experimenten worden versneld.

Maar alleen het standaardiseren van toegang maakt agente AI niet veilig of schaalbaar. Naarmate deze verbindingen zich vermenigvuldigen, met meer agenten, meer tools en meer gegevensbronnen, neemt het oppervlak van gegevenslekken toe met elke nieuwe integratie. Elk verbindingpunt dat geen runtime-handhaving heeft, is een potentieel blootstellingsvector. Wanneer AI-agenten interactie hebben met gevoelige systemen en propriëtaire logica, zijn encryptie bij rust en netwerkcontroles niet voldoende. De beveiligingsgrens is verschoven naar runtime, en die verschuiving wordt urgenter naarmate het ecosysteem zich ontwikkelt.

Verifieerbaarheid op deze essentiële verbindingpunten zal voor het bedrijf van cruciaal belang zijn. Bedrijven kunnen agente AI schalen wanneer MCP-stijltoegang wordt gecombineerd met cryptografisch bewijs van wat code is uitgevoerd, waar het is uitgevoerd en onder welk beleid – voordat, tijdens en na uitvoering. Toegang plus verifieerbaarheid. Dat is de combinatie die productie ontgrendelt.

Als MCP agenttoegang standaardiseert, waar ziet u de grootste hiaten vandaag als het gaat om beveiliging, beleidshandhaving en vertrouwen in agent-gedreven systemen?

We hebben ons AI Leak Surface-onderzoek voltooid en een samenvatting van onze bevindingen gepubliceerd, “A Dozen Ways Your AI Stack Is Bleeding Data“, die hierop ingaat. We hebben 46 blootstellingsvectoren geïdentificeerd in 8 categorieën die de volledige AI-vertrouwensgrens bestrijken: compute, control, application en de overdrachten tussen hen. Dat is zonder rekening te houden met kwaadwillige actoren. Deze zijn scenario’s waarin niets kapot is, logs er schoon uitzien en uw systeem nog steeds gegevens lekt.

De grootste hiaten liggen niet in connectiviteit; MCP lost dat op. De hiaten liggen in wat er gebeurt nadat een agent is verbonden. De meeste organisaties kunnen drie basisvragen niet beantwoorden: Hoe gedraagt onze AI zich eigenlijk? Wie controleert het? En hoe kunnen we bewijzen dat beleid is afgedwongen?

Ons onderzoek toonde aan dat grenzen zijn geconfigureerd, maar nooit zijn afgedwongen. Een beleid bestaat in een document, een configuratiebestand of een instelling bij implementatie, maar het uitgevoerde systeem wordt niet beperkt door het. Een AI-executive assistent plaatst materiaal dat niet openbaar is op een kalenderuitnodiging. Een RAG-co-piloot serveert financiële gegevens van het bestuur aan een junioranalist. Een SDK van een leverancier exfiltreert stilletjes 10 miljoen queries over 12 maanden. In elk geval waren de toegangscontroles aanwezig. De gegevens lekten toch.

Zolang bedrijven de kloof tussen geconfigureerd beleid en afgedwongen beleid niet sluiten, standaardiseert MCP de voordeur. Maar het huis is nog steeds onbewaakt.

Wanneer AI-agenten toegang krijgen tot gevoelige systemen en propriëtaire gegevens, welke nieuwe privacy- en compliance-risico’s komen naar voren die bedrijven vaak niet zijn voorbereid op?

De meeste bedrijven denken aan privacy in termen van gegevens bij rust of in transit. Dat model breekt in agent-workflows omdat het grootste risico gegevensblootstelling is terwijl het wordt gebruikt.

Ik bedoel dit. Een autofabrikant voert AI uit op zijn productielijn. De ruwe gegevens lijken onschuldig: sensorwaarden, tijdssequentie, kwaliteitscontrole. Maar een LLM kan nu propriëtaire fabricageprocessen reconstrueren uit die gegevensuitstoot. Wat vijf jaar geleden lawaai was, is nu een blauwdruk voor een concurrent.

Ons AI Leak Surface-onderzoek documenteert dit patroon in tientallen scenario’s. Operationele telemetrie-tools vangen volledige AI-ladingen standaard op, en een Europese bank had 2,1 miljoen prompts met PII die naar een Amerikaanse SaaS-instantie stroomden omdat niemand de APM-standaardwaarden had gewijzigd. Agentgeheugen lekt context tussen sessies. Chain-of-thought-traces onthullen complete onderzoeksrecords aan observability-platforms die toegankelijk zijn voor aannemers. Traditionele compliance-kaders waren niet ontworpen om dit soort lekken te detecteren. Ze gingen ervan uit dat mensen gegevens verplaatsten met mensensnelheid.

Waarom wordt Confidential AI een noodzakelijke tegenhanger van MCP, en hoe lost het uitdagingen op die toegangsnormen alleen niet kunnen oplossen?

MCP lost op wie toegang kan krijgen tot wat en hoe, terwijl Confidential AI oplost wat er gebeurt zodra toegang is verleend. Ze zijn complementaire lagen.

Toegangsnormen alleen kunnen geen runtime-compromissen, beleidsafwijkingen of ongeoorloofde gegevensgebruik voorkomen. Denk hierbij aan: MCP geeft u een gestandaardiseerde manier om agenten te verbinden met uw systemen. Confidential AI geeft u cryptografische garanties dat, zodra verbonden, deze agenten alleen kunnen doen wat ze zijn geautoriseerd te doen, en u het kunt bewijzen.

Confidential AI levert deze garanties op runtime over gegevens, identiteit, code en communicatie. Het biedt verifieerbare bewijzen van uitvoering en zorgt ervoor dat privacy- en beleidsenforcing niet stoppen bij de toegangsgrens, maar aanhouden terwijl AI actief redeneert, genereert en handelt. Zonder het is MCP een solide basis. Maar alleen een basis maakt een gebouw niet veilig.

In praktische zin, wat ziet verifieerbare vertrouwen eruit voor een bedrijf dat autonome AI-agenten uitvoert over kritieke workflows?

Verifieerbare vertrouwen betekent dat ik kan bewijzen welke code is uitgevoerd, waar het is uitgevoerd, onder welk beleid, welke gegevens zijn geraadpleegd en hoe het systeem zich heeft gedragen in de loop van de tijd.

In de praktijk, neem een verzekeringsmaatschappij die AI-agenten gebruikt om vraagbrieven te verwerken. Voordat de uitvoering begint, verifieert hardware-attestatie de identiteit van de agent en de integriteit van de omgeving. Tijdens de uitvoering zorgt cryptografische beleidsbinding binnen een hardware-ondersteund Trusted Execution Environment (TEE) ervoor dat gegevens beschermd blijven en dat beleid wordt afgedwongen. Na de uitvoering wordt een onveranderbaar audittrail opgenomen die exact aangeeft wat er is gebeurd.

Het risico in agent-workflows is niet dat een agent in opstand komt. Het echte risico is dat u niet kunt aantonen of een beleid is afgedwongen of of gevoelige gegevens zijn beschermd terwijl agenten operationeel waren – voordat, tijdens en na. Dat is wat verifieerbare vertrouwen eruit ziet.

Als agente systemen opereren op machinesnelheid, waarom breekt traditionele menselijke toezicht af, en hoe moeten organisaties governance opnieuw overwegen in deze nieuwe omgeving?

Gedurende decennia had het internet een onzichtbare veiligheidsbarrière: wij. Mensen lazen inhoud, klikten intentioneel en handelden niet stilletjes over honderd systemen tegelijk.

Agente AI wist die veronderstellingen in één nacht uit. Agenten opereren continu, nemen beslissingen met machinesnelheid en kunnen worden gemanipuleerd door omgevingen die zijn ontworpen voor mensen, maar uitbuitbaar zijn door machines. Een kwaadwillige webpagina hoeft een AI niet te bedriegen zoals het een persoon bedriegt; het kan het gewoon instrueren.

Bij slechts 1% risico per agent, loopt een netwerk van 100 agenten een kans van 63% op een inbraak. Schaal tot een duizend en u bent bij 99,99%. Menselijke toezicht kan niet bijhouden met die cijfers. Toezicht moet verschuiven van reactieve beoordeling naar runtime-garanties. Dat betekent zero-trust workflows, beleidsenforcing per standaard en verifieerbare uitvoering die niet afhankelijk is van een mens die de fout na de feiten vangt.

Wat zijn de meest voorkomende beveiligingsfouten die u ziet wanneer bedrijven experimenteren met agente AI zonder een ingebouwd vertrouwenslaag?

Het patroon dat ik het meest zie, is dat bedrijven agenten laten opereren en coördineren zonder enige cryptografische garanties rond hun gedrag. Ze verwerken gevoelige IP op hoop.

Wat volgt, is voorspelbaar, en we hebben de specifieke patronen gedocumenteerd in ons AI Leak Surface-onderzoek. Runtime-compromissen omzeilen traditionele perimeterbeveiliging omdat de agent al binnen het netwerk is. Autonome agentketens creëren cascade-fouten. Een geëxploiteerde agent activeert een domino-effect over verbonden systemen. Propriëtaire logica lekt door gegevensuitstoot die niemand dacht te moeten controleren. Agenten verliezen de mogelijkheid om onderscheid te maken tussen bedrijfsintentie en kwaadwillige invoer omdat er geen verifieerbare identiteit of beleidsbinding is op runtime.

Deze zijn niet hypothetisch. We hebben 46 vectoren in kaart gebracht waar gegevens ontsnappen aan hun bedoelde controles, zelfs wanneer niets kapot lijkt. AI-agenten genereren en delen gegevens met machinesnelheid. Zonder verifieerbare runtime-veiligheidsmaatregelen ingebouwd in de workflow, verspreiden fouten zich sneller dan enig beveiligingsteam kan detecteren of reageren.

Hoe zijn toonaangevende organisaties het evenwicht tussen het ontsluiten van geavanceerde AI-mogelijkheden en het beschermen van hun meest gevoelige gegevensactiva aan het vinden?

De organisaties die dit goed doen, behandelen privacy en governance als acceleratoren, niet als remmen. Dat is de sleutelinzicht.

Wat ik in het veld zie, is dat toonaangevende bedrijven geavanceerde AI-mogelijkheden combineren met Confidential AI-platforms die verifieerbare garanties bieden, niet alleen compliance-controlelijsten. Ze ontsluiten gevoelige gegevens voor AI-innovatie, terwijl ze ervoor zorgen dat propriëtaire informatie beschermd blijft, zelfs wanneer workflows autonoom worden uitgevoerd.

De oude kader was capaciteit versus beveiliging. De organisaties die het snelst bewegen, hebben die trade-off helemaal afgewezen. Ze bouwen verifieerbare vertrouwen in de basis van hun AI-strategie, waardoor ze hun meest waardevolle gegevens aan het werk kunnen zetten. Tegelijkertijd zitten concurrerende bedrijven nog steeds vast in pilot-modus, waarbij ze AI uitvoeren op gesaniteerde datasets die de naald niet verplaatsen.

Op basis van wat u vandaag ziet, hoe verwacht u dat enterprise AI-governance-modellen zullen evolueren in de komende jaren, terwijl agente systemen van pilots naar volledige productie gaan?

Governance zal evolueren van papierwerk naar bewijs. Dat is de eenvoudigste manier waarop ik het kan zeggen. Vroege governance-modellen waren gebouwd voor mens-gedreven software: beleid op papier, goedkeuringen voor implementatie, beoordelingen na een fout. Agente systemen breken elke een van die veronderstellingen. Ze opereren continu, handelen autonoom en genereren cascade-effecten met machinesnelheid.

Wat we zien, is governance die verschuift naar runtime-verifieerbaarheid als de nieuwe beveiligingsgrens, ondersteund door cryptografische garanties die gedrag aantonen over elke fase van een agent-lifecycle, voordat, tijdens en na. Hetzelfde patroon dat we zagen met HTTPS wordt de standaard voor webverkeer. Niemand discussieert meer of webverbindingen moeten worden versleuteld. Binnen een paar jaar zal niemand discussiëren of AI-uitvoering op runtime moet worden geverifieerd. Het zal een vereiste zijn.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten OPAQUE bezoeken.