Din AI vet for mye: Konfidensiell AI er ikke lenger et valg

Generative modeller er i ferd med å gå fra forskningslaboratorier til vanlige forretningsprosesser — og en stille, strukturell svakhet vokser rett ved siden av dem.

La oss ta et eksempel: Microsoft Copilot fikk tilgang til nesten tre millioner sensitive poster per organisasjon i første halvår 2025. Slike tall betyr at det finnes en systemisk problem med hvordan AI håndteres. Selskaper har bygget kraftige motorer for å prosessere data, men de har ikke implementert nok beskyttelse for dataene de bruker.

Store språkmodeller og hjelpereværktøy beregner ofte dokumenter, meldinger og databaser uten noen maskinbasert beskyttelse. Denne gapen, som avslører “data i bruk” under inferens, truer nå direkte forretninger som prioriterer personvern, overholdelse og kundetillit.

Her kommer konfidensiell beregning inn. Prosessen bruker maskinbasert tillitsfullt eksekusjonsmiljø (TEEs) for å holde kode og data trygg mens de er i bruk. Disse TEEs er isolerte minneområder som er beskyttet mot vertens operativsystem og hypervisor.

Denne beskyttelsen endrer sikkerhetsmodellen, slik at hemmeligheter kan prosesseres uten å bli avdekket for resten av staken. Microsoft og andre skytjenesteleverandører tilbyr nå private inferens og virtuelle maskiner (VM) som integrerer inferens innen TEEs.

Hvorfor personvern er viktig for regler og styring

Vanlig kryptering beskytter vanligvis data som enten er i ro eller under overføring, mens data som aktivt prosesseres, ikke nyter samme beskyttelse, selv om det er der generativ AI samhandler mest med private inndata.

Tidligere i året, avdekket en studie av Cornell University-forskere på Trusted Compute Units hvordan maskinbasert isolasjon og attestasjon kan hjelpe med å redusere behovet for tillit mellom parter. Videre, estimerte analytikere at verdien av privat beregningsinfrastruktur var verdt over 13 milliarder dollar, med prognoser som indikerer enda raskere vekst til 350,04 milliarder dollar i 2032.

Kort og godt, flere mennesker bruker teknologien, noe som fører til at regulatorene og overholdelseslagene viser mer interesse for AI-systemer enn noensinne. Som sådan, vil en ramme som sikrer at sensitive data aldri forlater beskyttet eksekusjon under modellspørsmål, gjøre det mye enklere å følge spor, og redusere risikoen for juridiske problemer.

Men hvis runtime-beskyttelser ikke blir normen, kan denne forskjellen føre til at det tar lengre tid for regulatorene å akseptere AI i felt som er strengt regulert.

Reelle situasjoner hvor personvern er et måtte

Det finnes flere bedriftsscenarier som viser hvorfor konfidensiell AI ikke lenger er et luksus, men noe som hver enkelt organisasjon må ha.

For eksempel, i finans, kan dette gjelde institusjoner som må kjøre svindel- og risikomodeller mot kundens transaksjonshistorikk uten å gi eksterne modell-operatører tilgang til rådata.

I helsevesenet, kan det finnes situasjoner hvor diagnostiske modeller må operere på beskyttet klinisk data samtidig som pasientens personvern beskyttes og strenge regulative forpliktelser oppfylles. Videre, kan regjeringer og forsvarsbyråer kreve attestert eksekusjon for å kjøre sensitive arbeidsbyrder på tredjeparts-skyer.

Det finnes også forskningsrørledninger som kombinerer datasett fra flere kilder, særlig felles helseforskning som bare kan fortsette hvis hver deltaker er sikker på at deres inndata vil forbli uleselige under beregning.

Det finnes også akademisk og industriell forskning som dokumenterer personvern-vennlige ML-tilnærminger for medisinske arbeidsflyter som passer godt med konfidensiell eksekusjon.

Hvordan konfidensiell eksekusjon beskytter data-i-bruk

Konfidensiell eksekusjon avhenger av to sammenkoblede systemer: maskinbasert isolasjon og attestasjon. Maskinbasert isolasjon forhindrer at programvare utenfor den sikre sonen kan lese sonens minne.

Attestasjon er en verifiserbar måte å sjekke koden som kjører innen sonen og at sonen selv er ekte. Disse funksjonene lar en modell-eier vise at en modell vil fungere med inndata i et verifisert, forseglede miljø og at utdata bare vil komme ut etter at sonens regler er fulgt.

Resultatet er en kontrakt mellom data-eiere, modell-operatører og skytjenesteleverandører som gjør det mindre sannsynlig at de trenger å bruke advokatlige arbeidsomgåelser eller rettre seg mot skjøre politiske akrobatiske øvelser.

Realistiske begrensninger og hindringer

Selvfølgelig, å adoptere konfidensiell AI kommer med sine egne utfordringer. Attestasjon og maskinvare som kan fungere i soner gjør deployering mer komplisert, ettersom det finnes et gap i økosystemet mellom tradisjonell modell-tjeneste-verktøy og son-tilgjengelige kjøringsmiljøer. Noen son-kjøringsmiljøer påfører tungt overhead, kostende opptil ti ganger mer å kjøre, og det kan også finnes kompromisser i ytelse avhengig av mengden arbeid.

Videre, er kostnadene høyere nå enn de var for vanlig sky-inferens, noe som kan gjøre det vanskelig for små bedrifter å forstå tallene. Det finnes også problemet med å endre interoperabilitetsstandarder, som kan etterlate noen tidlige adoptanter i risikoen for å bli fanget i sine leverandører.

Likevel, er disse problemene bare midlertidige ingeniørproblemer som kan løses. Skytjenesteleverandører og chipprodusenter kommer stadig med nye produkter, og programvareprosjekter lager mellomvare som kobler sammen gjeldende ML-staker og TEEs.

Hvis noe, er selskaper som mener at standard kryptering og tilgangskontroll er nok, i større risiko fordi de vil være sårbare når modellene prosesserer store mengder sensitive poster.

En oppfordring til endringer i bedriftspraksis

Risikostyringsteamer må endre reglene for hvordan de kjøper og bruker AI. Dataklassifisering og styring er fortsatt viktige, men de må også være bakket opp av tekniske garantier når de er i bruk.

Kontrakter med tredjeparts modell-leverandører bør kreve at de viser attestasjon. Innkjøpslag bør be om ytelsesbaseliner og revisjonerte alternativer for konfidensiell eksekusjon. Red-team-øvelser bør inkludere son-tilgjengelig testing som en del av arbeidet. Disse stegene flytter ansvaret fra ad-hoc-forpliktelser til kontrollerbare kontroller.

Videre, må offentlig politikk og bransjestandarder sette forventninger. Revisorer, overholdelsesoffiserer og regulatorene bør kreve verifiserbare runtime-sikkerhetssikringer for kategorier av arbeidsbyrder som prosesserer regulerte data.

Disse reglene vil redusere antallet brudd som skjer senere og gi sektoren friheten til å innovere uten å bekymre seg for juridiske problemer. Dette vil la finans, helse og offentlig sektor arbeidsflyter bruke nye modeller uten noen regulative hindringer.

Konfidensialitet som standard

Generativ AI har blitt et nyttig verktøy for bedrifter som håndterer svært private opplysninger. Denne realiteten betyr at konfidensiell eksekusjon ikke lenger er et nisje-alternativ, men må være standardpraksis for alle AI-systemer som håndterer regulerte, proprietære eller personlige data.

Det finnes allerede verktøy tilgjengelige, som TEEs, attestasjonstjenester og private VM-tilbud, og økonomien blir bedre svært raskt. Det andre alternativet er å holde sensitive aktiva åpne for inferens-tidslekkasje, noe som kan ha juridiske, finansielle og omdømmesskader som bedrifter ikke lenger kan tillate. For eksempel, ifølge IBM sin 2025-rapport om datalekkasjekostnader, nådde den globale gjennomsnittlige datalekkasje-kostnaden nærmere 5 millioner dollar, med reguleringer som GDPR påfører bøter på opptil 20 millioner euro for alvorlige brudd.

Bedrifter som setter personvern først i AI-styring vil ha en fordel: de kan kjøre mer omfattende, overholdelige tester og bruke modeller i områder hvor utenomstående innovasjon tidligere var utenfor grensene. Kort og godt, å beskytte data mens modellene kjører, er ikke en hindring for adopsjon, men grunnlaget for ansvarlig, skalerbar AI i bedrift og offentlig sektor.