Rafay tilføjer fortrolig AI-orkestrering til Kubernetes-pods

Rafay Systems og Fortanix meddelte den 11. november 2026, at Rafay Platform nu orkestrerer Fortanix Confidential AI-arbejdsbelastninger, der kører på CNCF Confidential Containers (CoCo). Dermed udvides deres eksisterende integration af fortrolige virtuelle maskiner til Kubernetes-pods. Den fælles løsning er nu tilgængelig for neocloud-udbydere, suveræne AI-clouds og virksomheder.

Tjenesten afhjælper en mangel ved traditionel kryptering. Data kan beskyttes, når de lagres og overføres, men uden fortrolig databehandling skal data og modelvægte dekrypteres, så de kan behandles i CPU- og GPU-hukommelsen. Det skaber en risiko på infrastruktur, der drives af andre, hvor personer med privilegeret adgang kan få adgang til kundeoplysninger, patientoplysninger, finansielle transaktioner eller proprietære modeller.

Attesteringskontroller styrer frigivelsen af krypteringsnøgler

CoCo, et CNCF-projekt på inkubationsstadiet, der er bygget på Kata Containers, kører hver Kubernetes-pod i sin egen letvægtsbaserede, fortrolige virtuelle maskine. CPU’en krypterer hukommelsen, og på understøttet hardware kan GPU’er også indgå i tillidsgrænsen. Udviklere fortsætter med at bruge standardarbejdsgange for Kubernetes, mens arbejdsbelastningerne kører i hardwarebaserede betroede eksekveringsmiljøer, der isolerer kode og data under behandlingen.

Fortanix Confidential Computing Manager udfører sammensat attestering og kontrollerer integriteten af CPU’ens og GPU’ens betroede eksekveringsmiljøer samt firmware og software, før frigivelse af nøgler godkendes. Fortanix Data Security Manager, som ifølge meddelelsen er understøttet af en FIPS 140-3 Level 3-certificering af et hardwarebaseret sikkerhedsmodul, frigiver kun krypteringsnøgler til attesterede miljøer. Hvis attesteringen mislykkes, forbliver nøglerne beskyttet, så arbejdsbelastningen hverken kan få adgang til følsomme data eller gennemføres korrekt.

Selvbetjeningsstyring for GPU-kunder

Rafay leverer driftslaget omkring disse sikkerhedskontroller. Tjenestens skabeloner installerer Fortanix CoCo-tilføjelsesprogrammerne og holder dem synkroniseret på tværs af fortrolige klynger. Operatører tilslutter GPU-infrastruktur én gang og tildeler hver kunde en isoleret tenant, mens politikker, adgangskontroller og kvoter gælder på tværs af tenants og klynger.

Administratorer kan i Rafay SKU Studio pakke en fortrolig arbejdsbelastning som et katalogelement kaldet en SKU. Slutbrugere kan derefter starte den efter behov via Rafay Developer Hub uden at oprette en supportsag. Arbejdsgangen kombinerer servicestyring på tenantniveau med Fortanix’ verifikation af hvert beskyttet miljø, før der gives adgang til følsomme oplysninger.

»Model-ejere ønsker at holde deres vægte skjult for operatører og kunder; virksomheder ønsker at holde deres data skjult for model-ejere og operatører; og operatører skal bevise, at de ikke kan se nogen af delene – heller ikke via en anden tenant eller kompromitteret software,« sagde Anuj Jaiswal, produktchef hos Fortanix.

Virksomhederne ser flere mulige driftsmodeller for tjenesten. Neocloud-udbydere og GPU-cloududbydere kan tilbyde fortrolig AI som en premiumløsning, understøttet af dokumentation for, at tenanternes arbejdsbelastninger kører i betroede miljøer, og at nøglerne kun udleveres til verificerede arbejdsbelastninger. Suveræne AI-clouds kan opbevare nøglerne i et hardwarebaseret sikkerhedsmodul, der kontrolleres af operatøren, enten lokalt eller som SaaS. Regulerede virksomheder kan behandle følsomme data uden at eksponere dem for infrastrukturoperatøren, mens modeludbydere kan holde modelvægte krypteret, indtil et kundemiljø består attesteringen.

Tidligere integrationer af fortrolig AI

Et teknisk indlæg fra Rafay dateret 16. marts 2026 beskrev virksomhedernes tidligere integration af fortrolige virtuelle maskiner. I denne arbejdsgang validerede Fortanix miljøet og leverede nøgler efter attestering, mens Rafay sørgede for reproducerbare servicedefinitioner, centraliseret multitenancy og selvbetjent udrulning. Den nye lancering udvider denne ansvarsfordeling til Kubernetes-pods baseret på CoCo.

Fortanix havde allerede i oktober 2026 annonceret understøttelse af fortrolig AI til CoCo. I den meddelelse beskrev virksomheden arbejdet med open source-plugins, der forbinder dens produkter til attestering og nøglefrigivelse med CoCo, samt muligheder for udrulning som SaaS, lokalt og i helt isolerede miljøer uden netværksforbindelse. Den nye udvikling består i, at Rafay nu kan orkestrere disse udrulninger, samtidig med at den eksisterende integration af virtuelle maskiner bevares.

Lanceringen adskiller dermed driften af tjenesten fra adgangen til data: Rafay håndterer kataloget, tenantisoleringen og styringen, mens Fortanix’ attestering afgør, om dekrypteringsnøgler frigives. For delt GPU-infrastruktur gør det det muligt for en operatør at drive og sælge AI-kapacitet, uden at kunderne behøver at betragte operatørens administrative adgang som en stiltiende tilladelse til at læse deres data eller modelvægte.