Jonathan Mortensen, Oprichter en CEO van Confident Security – Interviewreeks

Jonathan Mortensen, Oprichter en CEO van Confident Security, leidt momenteel de ontwikkeling van bewijsbaar-private AI-systemen voor industrieën met strenge beveiligings- en compliance-eisen. Hij is ook oprichter van South Park Commons, waar hij de toekomst van AI-computing, geheugen, privacy en eigendom onderzoekt. Voordat hij Confident Security oprichtte, was hij Staff Software Engineer bij Databricks, waar hij de technologie van bit.io integreerde in het data-platform met een focus op multi-tenant beveiliging, IAM/ACL’s, VPC-isolatie, encryptie en data-eigendom. Eerder was hij oprichter en CTO van bit.io, waar hij een multi-cloud, multi-regio serverless PostgreSQL-service bouwde die honderdduizenden beveiligde databases ondersteunde en later door Databricks werd overgenomen.

Confident Security bouwt infrastructuur die het bedrijven mogelijk maakt om AI-workflows uit te voeren zonder gevoelige informatie bloot te geven. Het platform is zo ontworpen dat prompts, data en modeluitvoer volledig privé blijven, nooit worden gelogd en nooit opnieuw worden gebruikt, waardoor organisaties een beveiligde manier hebben om AI te adopteren en te voldoen aan strikte regelgevings- en compliance-normen.

U hebt Confident Security in 2024 opgericht nadat u bit.io had gebouwd en bij Databricks had gewerkt. Wat was de aanleiding voor de realisatie dat AI een fundamenteel andere aanpak van privacy nodig had?

Mijn ervaring met het bouwen van data-infrastructuur leerde me dit: als mensen gevoelige informatie in een systeem stoppen, is vertrouwen niet genoeg. Ze hebben bewijs nodig. We bouwden infrastructuur waarin klanten de eigenaar waren van hun data, en we gaven hen manieren om dat te valideren.

Toen ik zag hoe bedrijven LLM’s gebruikten, bestond dat bewijs niet. Medewerkers plakten broncode, juridische documenten en patiëntgegevens in modellen die door derden werden uitgevoerd die ze niet konden verifiëren. We hebben al gezien dat privégesprekken per ongeluk online werden geïndexeerd en beleidsveranderingen die plotseling gesprekken tot trainingsdata maakten. Dit toonde aan hoe kwetsbaar het huidige privacy-model is.

Als AI de meest gevoelige informatie ter wereld moet verwerken, hebben we garanties nodig die niet afhankelijk zijn van het vertrouwen in de interne beloften van een leverancier. Dat is wat me ertoe bracht Confident Security op te richten.

OpenPCC wordt beschreven als de “Signal voor AI”. Waarom was het belangrijk dat deze privacy-laag open, attesteerbaar en interoperabel was vanaf het begin?

End-to-end-encryptie werd pas populair toen het een standaard werd die iedereen kon aannemen. We willen hetzelfde voor AI-privacy. Als alleen een paar bedrijven echte garanties kunnen bieden, zal privacy niet schalen.

OpenPCC is open source onder Apache 2.0, dus iedereen kan het bouwen of inspecteren. Er is geen geheime vertrouwensvereiste. Hardware-attestatie biedt cryptografisch bewijs over wat er wordt uitgevoerd en waar. En we hebben ervoor gezorgd dat het overal werkt: elke cloud, elke modelaanbieder, elke ontwikkelaarsstack.

Er is een enorme waarde in een privacy-vloer die consistent en universeel is. Als u OpenPCC gebruikt, weet u dat uw gegevens niet zichtbaar zijn voor modelaanbieders, regulators of zelfs voor ons. Een standaard werkt alleen als het hele ecosysteem kan deelnemen, dus we hebben het zo ontworpen dat het zo inclusief mogelijk is vanaf het begin.

Voordat u Confident Security oprichtte, bouwde u grote systemen voor multi-tenancy, encryptie en data-eigendom. Hoe hebben die ervaringen de architectuur van OpenPCC beïnvloed?

Die systemen versterkten twee waarheden: als een systeem gegevens kan behouden, zal het dat uiteindelijk doen, of dat nu door logs, misconfiguraties of juridische verzoeken is. En vertrouwen is geen privacy-model. Gebruikers hebben zichtbaarheid en controle nodig.

OpenPCC werkt in een stateless-modus, zodat prompts verdwijnen na verwerking. Attestatie laat gebruikers toe om te verifiëren waar hun gegevens naartoe gaan en welke code wordt uitgevoerd. En door controle te scheiden van gegevens, voorkomt OpenPCC dat private invoer ooit als uitvoerbare instructies worden behandeld.

Die beperkingen zijn wat ondernemingen hebben verwacht: garanties dat gegevens nooit op een onverwachte manier zullen verschijnen.

U hebt betoogd dat de meeste “privé-AI”-oplossingen vertrouwen op vertrouwen in ondoorzichtige systemen. Waarom is onafhankelijke verificatie essentieel voor echte privacy?

De meeste privacy-taal vandaag is effectief “vertrouw ons maar”. Dat is niet genoeg als het om nationale veiligheid en gereguleerde gezondheidsgegevens gaat. Als de gebruiker de claim niet kan verifiëren, is het geen garantie – het is marketing.

Verifieerbare privacy is anders. U vertrouwt niet op de intenties van de operator. U verifieert de hardware, het softwarebeeld en de garanties voor gegevensverwerking. Cryptografie handhaaft de grenzen. Logs bestaan niet voor iemand om per ongeluk te lekken of te dagvaarden.

Wanneer privacy door de gebruiker kan worden gecontroleerd, creëert u een fundamenteel veiliger systeem. Het is verantwoordelijkheid gebaseerd op wiskunde.

Google’s (GOOGL ) “Private AI”-aankondiging kwam kort na OpenPCC. U daagde hen uit om een TPU voor onafhankelijke testen beschikbaar te stellen. Wat was de motivatie achter die oproep, en wat zou u verwachten te vinden?

Om privacy-garanties te claimen, moet u de community toelaten om ze te valideren. NVIDIA (NVDA ) laat al externe verificatie op zijn H100-GPU’s toe, en we hebben zelfs een Go-versie van hun attestatiebibliotheek open source gemaakt om adoptie aan te moedigen.

Als Google soortgelijke beloften op TPUs wil doen, zouden we die beloften moeten kunnen meten en verifiëren, en niet alleen over ze lezen in een blogpost. We zouden dezelfde controles verwachten die we van elk privacy-systeem verwachten: strikte gegevensretentie-grenzen, controleerbare attestatie en geen geheime paden waarlangs logs of telemetrie ontsnappen. Privacy-claims moeten weerstand bieden aan onderzoek.

Voor lezers die onbekend zijn met de mechanismen, wat maakt de volledig versleutelde kanalen van OpenPCC anders dan traditionele client-side-encryptie of vertrouwelijke computing?

Client-side-encryptie beschermt gegevens onderweg, en vertrouwelijke computing beschermt ze tijdens verwerking, maar er zijn nog steeds hiaten voordat en na de verwerking waar operators of aanvallers toegang kunnen krijgen tot gevoelige informatie.

OpenPCC sluit die hiaten. Het creëert een afgesloten eind-tot-eind-pad tussen de client en het model dat de prompt, de reactie, de identiteit van de gebruiker en zelfs metadata of tijdsignalen die stilzwijgend intentie kunnen onthullen, beschermt. Operators kunnen niets decrypteren. Niets wordt gelogd of behouden, zelfs niet onder breach-omstandigheden.

Privacy mag niet afhankelijk zijn van de hoop dat de provider achter de schermen de juiste dingen doet. Het moet cryptografisch worden afgedwongen.

Hoe verandert verifieerbare privacy de vergelijking voor gereguleerde industrieën zoals financiën, gezondheidszorg en defensie?

Gereguleerde industrieën hebben het meest te winnen bij AI, maar ook het meest te verliezen als er iets lekt. Vandaag plakken 78% van de medewerkers interne gegevens in AI-hulpmiddelen, en in één op de vijf gevallen gaat het om gereguleerde informatie zoals PHI of PCI. De blootstelling gebeurt al.

Verifieerbare privacy verwijdert de grootste belemmering. Gevoelige prompts bestaan nooit in plaintext binnen een modelaanbiedersomgeving. Niets kan voor training worden gebruikt. Zelfs wettelijke verzoeken kunnen niet toegang krijgen tot wat het systeem zelf niet kan zien.

Risico- en compliance-teams hebben eindelijk een pad waar “ja” de standaard wordt in plaats van “nee”.

Wat waren de grootste technische uitdagingen bij het ontwerpen van een cloud-agnostische privacy-laag die werkt op elk enterprise-stack?

Vertrouwelijke computing en remote-attestatie is nog in de kinderschoenen, in mijn mening. Elke cloudprovider en bare-metal-provider doet iets lichtjes anders. Sommige providers, zoals AWS, hebben niet eens de hardware die nodig is om het te doen. Dus elke functie die we toevoegen is als 1000 sneden en het lopen over een slappe koord. Maar het hele punt is om een open standaard te worden, dus we moeten het zo doen dat het voor ieders cloud werkt. Het is open source, dus ik moedig mensen aan om nog meer ondersteunde platforms en configuraties toe te voegen!

Wat ziet een wereld met standaard verifieerbare encryptie eruit, en hoe kan het de balans van macht tussen ondernemingen, cloud-leveranciers en modelaanbieders veranderen?

Ondernemingen behouden de controle over hun waardevolste activum: hun gegevens. Modelaanbieders concurreren op prestaties en kosten in plaats van wie de meeste propriëtaire informatie kan accumuleren. Clouds maken privacy mogelijk in plaats van stilzwijgend toeschouwer te zijn.

Het is een gezondere balans van macht. En het hele ecosysteem wint als beveiliging in de basis is ingebouwd in plaats van erbovenop te zijn geplakt.

In een toekomst waarin AI overal aanwezig is en zwaar gereguleerd, hoe ziet u verifieerbare privacy de concurrentielandschap voor ondernemingen, cloud-leveranciers en modelontwikkelaars veranderen?

Regulators stellen al vragen over hoe gebruikersgegevens worden opgeslagen en gebruikt. Vertrouwens-gebaseerde privacy zal hen niet lang tevreden stellen. Gebruikers zullen privacy-garanties verwachten op de manier waarop ze encryptie in messaging-apps vandaag verwachten.

De winnaars zullen de bedrijven zijn die gebruikers niet vragen om te compromitteren. Als u privacy kunt bewijzen, verdient u het vertrouwen van de organisaties met de meest waardevolle gegevens ter wereld. Gegevens worden bruikbaar op plaatsen waar ze zijn opgesloten.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Confident Security bezoeken.