Jonathan Mortensen, grundlægger og administrerende direktør for Confident Security – Interviewserie

Jonathan Mortensen, grundlægger og administrerende direktør for Confident Security, leder i øjeblikket udviklingen af beviseligt-private AI-systemer til brancher med strenge sikkerheds- og compliancekrav. Han fungerer også som grundlæggerfælle ved South Park Commons, hvor han udforsker fremtiden for AI-computere, hukommelse, privatliv og ejerskab. Før han startede Confident Security, var han seniormedlem af softwareingeniørteamet hos Databricks, hvor han integrerede bit.io’s teknologi i deres dataplatform med fokus på multi-tenant-sikkerhed, IAM/ACL’er, VPC-isolation, kryptering og dataejerskab. Tidligere havde han grundlagt og fungeret som teknisk direktør for bit.io, hvor han opbyggede en multi-cloud, multi-region serverless PostgreSQL-tjeneste, der understøttede hundredtusinder af sikre databaser og senere blev opkøbt af Databricks.

Confident Security opbygger infrastruktur, der giver virksomheder mulighed for at køre AI-arbejdsgange uden at afsløre følsomme oplysninger. Deres platform er designed sådan, at prompts, data og modeloutput forbliver fuldstændigt private, aldrig logges og aldrig genbruges, hvilket giver organisationer en sikker måde at tilpasse sig AI på, samtidig med at de overholder strenge regulerings- og compliancestandarder.

Du grundlagde Confident Security i 2024 efter at have opbygget bit.io og arbejdet hos Databricks. Hvad fik dig til at indse, at AI havde brug for en fundamentalt anderledes tilgang til privatliv?

Min erfaring med at opbygge datainfrastruktur lærte mig følgende: hvis mennesker indsætter følsomme oplysninger i et system, er tillid ikke nok. De har brug for bevis. Vi opbyggede infrastruktur, hvor kunder ejede deres data, og vi gav dem mulighed for at validere det.

Når jeg så på, hvordan virksomheder brugte LLM’er, fandt jeg ikke noget bevis for det. Medarbejdere indsættede kildekode, juridiske dokumenter og patientjournaler i modeller, der blev kørt af tredjeparter, som de ikke kunne verificere. Vi har allerede set private samtaler, der utilsigtet blev indekseret online, og politikændringer, der pludselig gjorde samtaler til træningsdata som standard. Det viste, hvor skrøbelig den nuværende privatlivsmodel er.

Hvis AI skal håndtere verdens mest følsomme oplysninger, har vi brug for garantier, der ikke afhænger af at stole på en vendors interne løfter. Det er, hvad drev mig til at starte Confident Security.

OpenPCC beskrives som “Signal for AI”. Hvorfor var det vigtigt, at denne privatlag blev åben, verificerbar og interoperabel fra dag ét?

End-to-end-kryptering tog ikke af, før det blev en standard, som alle kunne tilpasse sig. Vi ønsker det samme for AI-privatliv. Hvis kun få virksomheder kan tilbyde virkelige garantier, så vil privatliv ikke skale.

OpenPCC er åben kilde under Apache 2.0, så alle kan bygge på det eller inspicere det. Der er ingen hemmelig tillidskrav. Hardware-attestation giver kryptografisk bevis for, hvad der køres og hvor. Og vi sikrede, at det fungerer overalt: på enhver sky, enhver modeludbyder, enhver udviklerstack.

Der er enormt værdi i en privatlivsgrund, der er konsekvent og universel. Hvis du bruger OpenPCC, ved du, at dine data ikke er synlige for modeludbydere, regulatorer eller selv os. En standard fungerer kun, hvis hele økosystemet kan deltage, så vi designede det til at være så inklusivt som muligt fra dag ét.

Før Confident Security opbyggede du store systemer til multi-tenancy, kryptering og dataejerskab. Hvordan formede disse erfaringer OpenPCC’s arkitektur?

Disse systemer bekræftede to sandheder: hvis et system kan gemme data, vil det til sidst gøre det, enten gennem logfiler, misconfigurations eller retslige anmodninger. Og tillid er ikke en privatlivsmodel. Brugere har brug for synlighed og kontrol.

OpenPCC kører i en tilstandsløs tilstand, så prompts forsvinder efter behandling. Attestation giver brugerne mulighed for at verificere, hvor deres data går hen, og hvilken kode der køres. Og ved at isolere kontrol fra data forhindrer OpenPCC, at private input aldrig bliver behandlet som udførbare instruktioner.

Disse begrænsninger er, hvad virksomheder har ventet på: garantier for, at data ikke vil dukke op et uventet sted.

Du har argumenteret for, at de fleste “private AI”-løsninger afhænger af tillid til uigennemsigtige systemer. Hvorfor er uafhængig verificering afgørende for sandt privatliv?

De fleste privatlivssprog i dag er effektivt “bare tillid os”. Det er ikke nok, når spillet inkluderer national sikkerhed og reguleret sundhedsdata. Hvis brugeren ikke kan verificere påstanden, er det ikke en garanti – det er marketing.

Verificerbart privatliv er anderledes. Du stoler ikke på operatørens intentioner. Du validerer hardwaren, softwarebilledet og datahåndteringsgarantierne. Krypteringen tvinger grænserne. Logfiler findes ikke for, at nogen kan utilsigtet lække eller stævne.

Når privatliv er gennemførligt for brugeren, skaber du et fundamentalt sikrere system. Det er ansvar, der er rod i matematik.

Googles “Private AI”-meddelelse kom kort efter OpenPCC. Du udfordrede offentligt dem til at tilbyde en TPU til uafhængig test. Hvad motiverede denne udfordring, og hvad ville du forvente at finde?

For at gøre privatlivsgarantier skal man lade fællesskabet verificere dem. NVIDIA (NVDA ) tillader allerede ekstern verificering på deres H100-GPU’er, og vi åbnede endda en Go-version af deres attestationsbibliotek for at opmuntre til adoption.

Hvis Google (GOOGL ) ønsker at gøre lignende løfter på TPUs, skal vi være i stand til at måle og verificere disse løfter, ikke bare læse om dem i en blogindlæg. Vi ville se efter de samme kontroller, vi forventer fra ethvert privatlivssystem: strenge dataretentiongrænser, gennemførlig attestation og ingen hemmelige stier, hvor logfiler eller telemetri undgår.

For læsere, der ikke er bekendt med mekanismerne, hvad gør OpenPCC’s fuldt krypterede kanaler anderledes end traditionel client-side-kryptering eller fortrolig computing?

Client-side-kryptering beskytter data på vej ind, og fortrolig computing beskytter det, mens det behandles, men der er stadig huller før og efter, hvor operatører eller angribere kan få adgang til følsomme oplysninger.

OpenPCC lukker disse huller. Det skaber en forseglet slut-til-slut-bane mellem klienten og modellen, der beskytter prompten, svaret, brugerens identitet og selv metadata eller tids-signaler, der kan afsløre hensigt. Operatører kan ikke dekryptere noget. Intet logges eller gemmes, selv under brudbetingelser.

Privatliv bør ikke afhænge af at håbe, at udbyderen gør det rigtige bag kulisserne. Det skal tvinges kryptografisk.

Hvordan ændrer verificerbart privatliv ligningen for regulerede brancher som finans, sundhed og forsvar?

Regulerede brancher har mest at vinde på AI, men også mest at tabe, hvis noget lækker. I dag indsætter 78% af medarbejderne interne data i AI-værktøjer, og en ud af fem tilfælde inkluderer regulerede oplysninger som f.eks. sundhedsoplysninger eller betalingskortinformation. Udsættelsen er allerede sket.

Verificerbart privatliv fjerner den største hindring. Følsomme prompts findes aldrig i klartekst inde i en modeludbyders miljø. Intet kan bruges til træning. Selv lovlige anmodninger kan ikke få adgang til, hvad systemet selv ikke kan se.

Risiko- og complianceholdene får endelig en vej, hvor “ja” bliver standarden i stedet for “nej”.

Hvad var de største ingeniørudfordringer ved at designe en sky-agnostisk privatlivslag, der fungerer på tværs af enhver virksomhedsstack?

Fortrolig computing og fjernattestation er stadig i sin barndom, efter min mening. Hver skyudbyder og bare metal-udbyder gør noget lidt anderledes. Nogle udbydere, som f.eks. AWS, har ikke den nødvendige hardware til at gøre det. Så hver enkelt funktion, vi tilføjer, er som 1000 snit og at gå på en tynd linje. Men hele pointen er at blive en åben standard, så vi har brug for at gøre det, så det fungerer for alle skyer. Det er åben kilde, så jeg opmuntre folk til at tilføje endnu flere understøttede platforme og konfigurationer!

Hvad ser en verden med standardverificeret kryptering ud til, og hvordan kan det ændre magtbalance mellem virksomheder, skyudbydere og modeludbydere?

Virksomhederne beholder kontrollen over deres mest værdifulde aktiv: deres data. Modeludbydere konkurrerer på ydelse og pris i stedet for, hvem der kan samle den mest proprietære information. Skyerne muliggør privatliv i stedet for at være stille observatører af det.

Det er en sundere magtbalance. Og hele økosystemet vinder, når sikkerhed er bygget ind i fundamentet i stedet for at være pålagt ovenpå.

I en fremtid, hvor AI bliver almindelig og stærkt reguleret, hvordan ser du verificerbart privatliv ændre den konkurrencebaserede landskab for virksomheder, skyudbydere og modeludviklere?

Regulatorer stiller allerede spørgsmål om, hvordan brugerdata gemmes og bruges. Tillidsbaseret privatliv vil ikke tilfredsstille dem for længe. Brugere vil forvente privatlivsgarantier på samme måde, som de forventer kryptering i meddelelsesapps i dag.

Vinderne vil være de virksomheder, der ikke beder brugerne om at gå på kompromis. Hvis du kan bevise privatliv, tjener du tilliden hos de organisationer, der har de mest værdifulde data i verden. Data bliver brugbart på steder, hvor det har været låst væk.

Tak for det gode interview, læsere, der ønsker at lære mere, kan besøge Confident Security.