Rafay lägger till orkestrering av konfidentiell AI för Kubernetes-poddar

Rafay Systems och Fortanix meddelade den 11 november 2026 att Rafay Platform nu orkestrerar Fortanix arbetslaster för konfidentiell AI som körs på CNCF Confidential Containers (CoCo), vilket utökar deras befintliga integrering för konfidentiella virtuella maskiner till Kubernetes-poddar. Det gemensamma erbjudandet är nu tillgängligt för neomoln, suveräna AI-moln och företag.

Tjänsten täpper till en lucka i den konventionella krypteringen. Data kan skyddas när den lagras och överförs, men utan konfidentiell databehandling måste data och modellvikter dekrypteras för att bearbetas i CPU- och GPU-minne. Det innebär en säkerhetsrisk i infrastruktur som drivs av någon annan, där personer med privilegierad åtkomst skulle kunna komma åt kundregister, patientuppgifter, finansiella transaktioner eller proprietära modeller.

Attestering styr när krypteringsnycklar lämnas ut

CoCo, ett CNCF-inkuberingsprojekt byggt på Kata Containers, kör varje Kubernetes-podd i en egen lättviktig konfidentiell virtuell maskin. Processorn krypterar minnet och, på maskinvara som stöds, kan även GPU:er ingå i tillitsgränsen. Utvecklare fortsätter att använda vanliga Kubernetes-arbetsflöden medan arbetslasterna körs i maskinvarubaserade betrodda exekveringsmiljöer, som isolerar kod och data under bearbetningen.

Fortanix Confidential Computing Manager utför sammansatt attestering och kontrollerar integriteten hos betrodda exekveringsmiljöer för CPU och GPU samt fast programvara och programvara innan den godkänner att nycklar lämnas ut. Fortanix Data Security Manager, som enligt tillkännagivandet stöds av en certifiering för säkerhetsmoduler med maskinvaruskydd enligt FIPS 140-3 Level 3, lämnar endast ut krypteringsnycklar till attesterade miljöer. Om attesteringen misslyckas förblir nycklarna skyddade, vilket hindrar arbetslasten från att komma åt känsliga data eller köras korrekt.

Självbetjäningskontroller för GPU-kunder

Rafay tillhandahåller driftlagret runt dessa säkerhetskontroller. Deras ritningar installerar Fortanix CoCo-tilläggen och håller dem synkroniserade mellan konfidentiella kluster. Operatörer ansluter GPU-infrastruktur en gång och tilldelar varje kund en isolerad kundmiljö, samtidigt som principer, åtkomstkontroller och kvoter gäller för alla kundmiljöer och kluster.

Administratörer kan paketera en konfidentiell arbetslast som en katalogpost, kallad en SKU, i Rafay SKU Studio. Slutanvändare kan sedan starta den vid behov via Rafay Developer Hub utan att skicka in en supportförfrågan. Arbetsflödet kombinerar tjänstehantering på kundmiljönivå med Fortanix verifiering av varje skyddad miljö innan känslig information låses upp.

”Modellägare vill att deras vikter ska vara dolda för operatörer och kunder; företag vill att deras data ska vara dolda för modellägare och operatörer; och operatörer måste bevisa att de inte kan se någondera, inte ens via en annan kundmiljö eller komprometterad programvara”, sade Anuj Jaiswal, produktchef på Fortanix.

Företagen ser flera möjliga driftsmodeller för tjänsten. Neomoln och GPU-molnleverantörer kan erbjuda konfidentiell AI som ett premiumalternativ, med belägg för att kundernas arbetslaster körs i betrodda miljöer och att nycklar endast lämnas ut till verifierade arbetslaster. Suveräna AI-moln kan behålla nycklarna i en maskinvarusäkerhetsmodul som kontrolleras av operatören, antingen lokalt eller som SaaS. Reglerade företag kan behandla känsliga data utan att exponera dem för infrastrukturens operatör, medan modellleverantörer kan hålla modellvikter krypterade tills en kundmiljö har godkänts vid attestering.

Tidigare integreringar för konfidentiell AI

Ett tekniskt inlägg från Rafay daterat den 16 mars 2026 dokumenterade företagens tidigare integrering för konfidentiella virtuella maskiner. I det arbetsflödet validerade Fortanix miljön och tillhandahöll nycklar efter attestering, medan Rafay stod för repeterbara tjänstedefinitioner, centraliserad hantering av flera kundmiljöer och självbetjänad driftsättning. Den nya lanseringen utökar denna ansvarsfördelning till Kubernetes-poddar baserade på CoCo.

Fortanix hade redan i oktober 2026 meddelat stöd för konfidentiell AI med CoCo. I det tillkännagivandet beskrevs arbetet med plugin-program med öppen källkod som kopplar företagets produkter för attestering och nyckelutlämning till CoCo, med alternativ för driftsättning som SaaS, lokalt eller helt utan nätverksanslutning. Den nya utvecklingen består i att Rafay nu erbjuder orkestrering av dessa driftsättningar, utöver den befintliga integreringen för virtuella maskiner.

Lanseringen skiljer därmed tjänstedriften från åtkomsten till data: Rafay hanterar katalogen, isoleringen av kundmiljöer och styrningen, medan attesteringen från Fortanix avgör om dekrypteringsnycklar ska lämnas ut. För delad GPU-infrastruktur gör detta det möjligt för en operatör att driva och sälja AI-kapacitet utan att kunderna behöver betrakta operatörens administrativa åtkomst som ett underförstått tillstånd att läsa deras data eller modellvikter.