Rafay добавляет оркестрацию конфиденциального ИИ для подов Kubernetes

Rafay Systems и Fortanix объявили 11 ноября 2026 года, что платформа Rafay теперь оркестрирует рабочие нагрузки конфиденциального ИИ Fortanix, выполняемые в CNCF Confidential Containers (CoCo). Это расширяет существующую интеграцию компаний с конфиденциальными виртуальными машинами на поды Kubernetes. Совместное решение уже доступно для необлачных провайдеров, суверенных облаков ИИ и предприятий.

Сервис устраняет пробел в традиционных методах шифрования. Данные можно защищать при хранении и передаче, однако без конфиденциальных вычислений данные и веса моделей необходимо расшифровывать для обработки в памяти CPU и GPU. Из-за этого данные оказываются уязвимы на инфраструктуре, которой управляет другая сторона: люди с привилегированным доступом могут получить доступ к клиентским записям, информации о пациентах, финансовым транзакциям или собственным моделям.

Аттестация определяет, выдавать ли ключи шифрования

CoCo — инкубируемый проект CNCF, созданный на базе Kata Containers. Он запускает каждый под Kubernetes в собственной облегчённой конфиденциальной виртуальной машине. CPU шифрует память, а на поддерживаемом оборудовании в границы доверия можно включить и GPU. Разработчики продолжают использовать стандартные рабочие процессы Kubernetes, а рабочие нагрузки выполняются в аппаратных доверенных средах исполнения, которые изолируют код и данные во время обработки.

Fortanix Confidential Computing Manager выполняет составную аттестацию: перед выдачей ключей он проверяет целостность доверенных сред исполнения CPU и GPU, микропрограммного обеспечения и программ. Fortanix Data Security Manager, который, согласно объявлению, подкреплён сертификацией аппаратного модуля безопасности уровня 3 по стандарту FIPS 140-3, выдаёт ключи шифрования только прошедшим аттестацию средам. Если аттестация не пройдена, ключи остаются защищёнными, поэтому рабочая нагрузка не может получить доступ к конфиденциальным данным или успешно выполниться.

Самообслуживание для GPU-тенантов

Rafay обеспечивает операционный уровень для этих механизмов защиты. Его шаблоны устанавливают дополнительные компоненты Fortanix CoCo и поддерживают их синхронизацию в кластерах конфиденциальных вычислений. Операторы подключают GPU-инфраструктуру один раз и назначают каждому клиенту изолированный тенант, а политики, средства контроля доступа и квоты применяются ко всем тенантам и кластерам.

Администраторы могут оформить конфиденциальную рабочую нагрузку как позицию каталога — SKU — в Rafay SKU Studio. Затем конечные пользователи запускают её по запросу через Rafay Developer Hub, не создавая обращения в службу поддержки. Этот процесс объединяет управление сервисами на уровне тенантов с проверкой Fortanix каждой защищённой среды перед тем, как конфиденциальная информация станет доступна.

«Владельцы моделей хотят скрыть веса моделей от операторов и клиентов; предприятия хотят скрыть свои данные от владельцев моделей и операторов; а операторы должны доказать, что не могут видеть ни то ни другое — даже через другого тенанта или скомпрометированное программное обеспечение», — сказал Анудж Джайсвал, директор по продуктам Fortanix.

Компании рассматривают несколько моделей работы сервиса. Необлачные провайдеры и поставщики облачных GPU могут предлагать конфиденциальный ИИ как премиальную услугу, подтверждая, что рабочие нагрузки тенантов выполняются в доверенных средах, а ключи выдаются только проверенным рабочим нагрузкам. Суверенные облака ИИ могут хранить ключи в аппаратном модуле безопасности под контролем оператора — локально или в виде SaaS. Регулируемые предприятия могут обрабатывать конфиденциальные данные, не раскрывая их оператору инфраструктуры, а поставщики моделей — сохранять веса моделей зашифрованными, пока среда клиента не пройдёт аттестацию.

Предыдущие интеграции для конфиденциального ИИ

В технической публикации Rafay от 16 марта 2026 года были описаны более ранняя интеграция компаний с конфиденциальными виртуальными машинами. В этом рабочем процессе Fortanix проверяла среду и после аттестации предоставляла ключи, а Rafay обеспечивала многократное использование определений сервисов, централизованную поддержку нескольких тенантов и самостоятельное развёртывание. Новый запуск распространяет такое разделение обязанностей на поды Kubernetes на базе CoCo.

Ещё в октябре 2026 года Fortanix объявила о поддержке конфиденциального ИИ для CoCo. В том релизе рассказывалось о работе над плагинами с открытым исходным кодом, которые связывают продукты компании для аттестации и выдачи ключей с CoCo, а также о вариантах развёртывания в виде SaaS, локально и в полностью изолированной от внешних сетей среде. Новое развитие — доступная оркестрация Rafay для таких развёртываний наряду с уже существующей интеграцией с виртуальными машинами.

Таким образом, запуск отделяет эксплуатацию сервиса от доступа к данным: Rafay отвечает за каталог, изоляцию тенантов и управление, а аттестация Fortanix определяет, будут ли выданы ключи расшифрования. Для общей GPU-инфраструктуры это позволяет оператору запускать и продавать вычислительные мощности для ИИ, не заставляя клиентов считать административный доступ подразумеваемым разрешением читать их данные или веса моделей.