Jonathan Mortensen, grunnlegger og administrerende direktør i Confident Security – Intervju-serie

Jonathan Mortensen, grunnlegger og administrerende direktør i Confident Security, leder for tiden utviklingen av bevisselig private AI-systemer for bransjer med strenge sikkerhets- og samværskrav. Han er også medgrunnlegger i South Park Commons, der han utforsker fremtiden for AI-regning, minne, personvern og eierskap. Før han startet Confident Security, var han ansatt som senior programvareingeniør i Databricks, der han integrerte bit.io-teknologien i deres dataplatform med fokus på multi-tenant-sikkerhet, IAM/ACL-er, VPC-isolering, kryptering og dataeierskap. Tidligere var han medgrunnlegger og teknisk direktør i bit.io, der han bygget en multi-sky, multi-region serverløs PostgreSQL-tjeneste som støttet hundredtusener av sikre databaser og senere ble overtatt av Databricks.

Confident Security bygger infrastruktur som gjør det mulig for bedrifter å kjøre AI-arbeidsflyter uten å avsløre følsomme opplysninger. Deres plattform er designet slik at promter, data og modellutdata forblir fullstendig private, aldri logges og aldri gjenbrukes, og gir organisasjonene en sikker måte å adoptere AI på samme tid som de møter strenge regulerings- og samværskrav.

Du grunnla Confident Security i 2024 etter å ha bygget bit.io og arbeidet i Databricks. Hva var det som førte til at du forstod at AI trengte en fundamentalt annen tilnærming til personvern?

Min erfaring med å bygge data-infrastruktur lærte meg dette: hvis mennesker plasserer følsomme opplysninger i et system, er tillit ikke nok. De trenger bevis. Vi bygde infrastruktur der kundene eide sine data, og vi ga dem måter å verifisere det på.

Når jeg så på hvordan selskaper brukte LLM-er, fant jeg ikke noe bevis for det. Ansattene lime inn kildekode, juridiske dokumenter og pasientjournaler inn i modeller som kjøres av tredjeparter de ikke kan verifisere. Vi har allerede sett private samtaler som tilfeldigvis ble indeksert på nettet og politiske endringer som gjorde samtaler til treningdata som standard. Dette viste hvor skjørt det nåværende personvernmodellen er.

Hvis AI skal håndtere verdens mest følsomme informasjon, trenger vi garantier som ikke avhenger av å stole på en leverandørs interne løfter. Det er det som drev meg til å starte Confident Security.

OpenPCC beskrives som “Signal for AI”. Hvorfor var det viktig at denne personvernslaget skulle være åpent, attestabelt og interoperabelt fra dag én?

End-to-end-kryptering tok ikke av før det ble en standard alle kunne adoptere. Vi ønsker det samme for AI-personvern. Hvis bare noen få selskaper kan tilby reelle garantier, så vil personvern ikke skale.

OpenPCC er åpen kildekode under Apache 2.0, så alle kan bygge på det eller inspisere det. Det er ingen hemmelig tillitskrav. Maskin-attestasjon gir kryptografisk bevis om hva som kjøres og hvor. Og vi sørget for at det fungerer overalt: på hvilken som helst sky, hvilken som helst modell-leverandør, hvilken som helst utviklerstak.

Det er stor verdi i en personvernsgrense som er konsistent og universell. Hvis du bruker OpenPCC, vet du at dine data ikke er synlige for modell-leverandører, regulatorer eller selv oss. En standard fungerer bare hvis hele økosystemet kan delta, så vi designet det til å være så inklusivt som mulig fra dag én.

Før Confident Security, bygde du store systemer for multi-leie, kryptering og data-eierskap. Hvordan påvirkte disse erfaringene OpenPCCs arkitektur?

Disse systemene bekreftet to sannheter: hvis et system kan beholde data, vil det til slutt gjøre det, enten det er gjennom logger, mis-konfigurasjoner eller juridiske forespørsler. Og tillit er ikke et personvern-modell. Brukerne trenger synlighet og kontroll.

OpenPCC kjører i en tilstands-løs modus, så promter forsvinner etter behandling. Attestasjon lar brukerne verifisere hvor deres data går og hva kode som kjøres. Og ved å isolere kontroll fra data, forhindrer OpenPCC at private inndata noen gang behandles som eksekverbare instruksjoner.

Disse begrensningene er det bedriftene har ventet på: garantier for at data ikke vil dukke opp igjen på et uventet sted.

Du har argumentert for at de fleste “private AI”-løsninger avhenger av tillit til uklare systemer. Hvorfor er uavhengig verifisering essensiell for sant personvern?

De fleste personvern-uttalelser i dag er effektivt “bare stol på oss”. Det er ikke nok når spillene inkluderer nasjonal sikkerhet og regulert helse-data. Hvis brukeren ikke kan verifisere påstanden, er det ikke en garanti – det er markedsføring.

Verifiserbart personvern er annerledes. Du stoler ikke på operatørens intensjoner. Du verifiserer maskinvaren, programvare-bildet og data-håndtering-garantier. Kryptografi tvinger grensene. Logger eksisterer ikke for at noen skal kunne lekke eller påkalle dem.

Når personvern er auditerbart av brukeren, skaper du et fundamentalt tryggere system. Det er ansvar rotet i matematikk.

Googles “Private AI”-annonsamente kom kort tid etter OpenPCC. Du utfordret dem offentlig til å tilby en TPU for uavhengig testing. Hva motiverte denne utfordringen, og hva ville du forvente å finne?

For å hevde personvern-garantier, bør du la samfunnet verifisere dem. NVIDIA (NVDA ) lar allerede eksterne verifisere på sine H100-GPU-er, og vi åpnet til og med kildekoden for deres attestasjons-bibliotek for å oppmuntre til adopsjon.

Hvis Google (GOOGL ) ønsker å gjøre lignende løfter på TPUs, bør vi kunne måle og verifisere disse løftene, ikke bare lese om dem i en blogg-innlegg. Vi ville se etter de samme kontrollene vi forventer fra ethvert personvern-system: strenge data-oppbevarings-grensene, auditerbar attestasjon og ingen hemmelige stier hvor logger eller telemetri kan slippe ut. Personvern-krav må overleve skarpskyting.

For lesere som ikke er kjent med mekanismene, hva gjør OpenPCCs fullstendig krypterte kanaler forskjellig fra tradisjonell klient-side-kryptering eller konfidensiell dataverking?

Klient-side-kryptering beskytter data på vei inn, og konfidensiell dataverking beskytter det mens det behandles, men det er fortsatt hull før og etter hvor operatører eller angripere kan få tilgang til følsomme opplysninger.

OpenPCC lukker disse hullene. Det skaper en forseglet sluttpunkt-til-sluttpunkt-vei mellom klienten og modellen som beskytter prompten, svaret, brukerens identitet og selv metadata eller tids-signaler som kan avsløre hensikt. Operatører kan ikke dekryptere noe. Ingenting logges eller oppbevares, selv under brudd-forhold.

Personvern bør ikke avhenge av å håpe at leverandøren gjør det riktige bak kulissene. Det må tvinges kryptografisk.

Hvordan endrer verifiserbart personvern ligningen for regulerte bransjer som finansielle tjenester, helse og forsvar?

Regulerte bransjer har mest å vinne på AI, men også mest å tape hvis noe lekker ut. I dag lime 78% av ansatte inn interne data i AI-verktøy, og en av fem tilfeller inkluderer regulerte opplysninger som PHI eller PCI. Eksponeringen skjer allerede.

Verifiserbart personvern fjerner den største hindringen. Følsomme promter eksisterer aldri i klartekst inni en modell-leverandørs miljø. Ingenting kan brukes til trening. Selv lovlige forespørsler kan ikke få tilgang til hva systemet selv ikke kan se.

Risiko- og samværsteamene får endelig en vei hvor “ja” blir standarden i stedet for “nei”.

Hva var de største tekniske utfordringene i å designe en sky-agnostisk personvernslag som fungerer over hele bedrifts-stakken?

Konfidensiell dataverking og fjern-attestasjon er fortsatt i sin barndom, i mitt syn. Hver sky-leverandør og bar metall-leverandør gjør noe litt annerledes. Noen leverandører, som AWS, har ikke engang den nødvendige maskinvaren til å gjøre det. Så, hver eneste funksjon vi legger til er som 1000 skåler og å gå på en tynn line. Men hele poenget er å bli en åpen standard, så vi må gjøre det så det fungerer for alle skyer. Det er åpen kildekode, så jeg oppmuntrer folk til å legge til enda flere støttede plattformer og konfigurasjoner!

Hva ser en verden med standard verifiserbar kryptering ut som, og hvordan kan det endre balansen mellom bedrifter, sky-leverandører og modell-utviklere?

Bedriftene beholder kontroll over sine mest verdifulle eiendom: deres data. Modell-utviklerne konkurrerer om ytelse og kostnad i stedet for hvem som kan akkumulere mest proprietær informasjon. Skyene muliggjør personvern i stedet for å være stille observatører av det.

Det er en sunnere balanse. Og hele økosystemet vinner når sikkerhet bygges inn i grunnlaget i stedet for å lappes på toppen.

I en fremtid hvor AI blir allment utbredt og tungt regulert, hvordan ser du for deg at verifiserbart personvern kan endre den konkurranse-messige landskapsbildet for bedrifter, sky-leverandører og modell-utviklere?

Regulatorer stiller allerede spørsmål om hvordan brukerdata lagres og brukes. Tillits-basert personvern vil ikke tilfredsstille dem lenge. Brukerne vil forvente personvern-garantier på samme måte som de forventer kryptering i meldings-appene i dag.

Vinnerne vil være selskapene som ikke ber brukerne om å gå på kompromiss. Hvis du kan bevise personvern, tjener du tilliten til organisasjonene som har de mest verdifulle dataene i verden. Data blir brukbare på steder hvor de har vært låst vekk.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke Confident Security.