Ваш AI знає забагато: Конфіденційна AI вже не є опційною

Генеративні моделі переходять від дослідницьких лабораторій до звичайних бізнес-процесів — і тиха, структурна слабкість зростає поряд з ними.

Візьміть цей приклад: Microsoft Copilot доступився майже до трьох мільйонів конфіденційних записів на організацію в першій половині 2025 року. Такі цифри означають, що існує системна проблема у підході до AI. Компанії створили потужні двигуни для обробки даних, але вони не створили достатніх засобів захисту для даних, які вони використовують.

Більші моделі мови та інструменти асистента часто обчислюють документи, повідомлення та бази даних без будь-яких апаратних засобів захисту. Ця прогалина, яка розкриває “дані в користуванні” під час висновку, тепер безпосередньо загрожує підприємствам, які ставлять на перше місце конфіденційність, дотримання вимог та довіру клієнтів.

Саме тут вступає в дію конфіденційна обробка даних. Процес використовує апаратно-забезпечені довірчі середовища виконання (TEEs), щоб зберігати код і дані в безпеці під час їх використання. Ці TEEs являють собою ізольовані області пам’яті, які захищені від операційної системи хоста та гіпервізора.

Це захисту змінює модель безпеки, дозволяючи зберігати секрети під час їх обробки без їх відкриття іншій частині стеку. Microsoft та інші постачальники хмарних послуг тепер пропонують приватний висновок і віртуальні машини (VMs), які інтегрують висновок у TEEs.

Чому конфіденційність важлива для правил і управління

Традиційне шифрування зазвичай захищає дані, які знаходяться в стані спокою або під час передачі, тоді як дані, які активно обробляються, не мають такого самого захисту, хоча саме там генеративний AI взаємодіє найбільше з приватними входами.

Раніше цього року дослідження вчених Корнельського університету про довірчі одиниці обчислень показало, як апаратно-забезпечена ізоляція та атестація можуть допомогти зменшити потребу у довірі між сторонами. Крім того, минулого року аналітики оцінили вартість інфраструктури приватних обчислень у сумі понад 13 мільярдів доларів, при цьому прогнози вказують на ще більш швидке зростання до 350,04 мільярдів доларів до 2032 року.

Просто кажучи, все більше людей використовують цю технологію, що призводить до того, що регулюючі органи та команди з дотримання вимог проявляють більший інтерес до систем AI, ніж будь-коли раніше. Таким чином, rámка, яка забезпечує, щоб конфіденційні дані ніколи не залишали захищену область виконання під час запитів моделі, зробить сліди аудиту значно легшими для відстеження, зменшуючи ризик юридичних проблем.

Однак якщо захист під час виконання не стане нормою, ця різниця може зробити прийняття рішень регулюючими органами тривалішим для галузей, які тісно регулюються.

Реальні ситуації, в яких конфіденційність є обов’язковою

Є кілька корпоративних сценаріїв, які показують, чому конфіденційна AI не є розкошею, а тим, що кожна організація повинна мати.

Наприклад, у сфері фінансів це може застосовуватися до інститутів, які повинні запускати моделі виявлення шахрайства та ризиків проти історії транзакцій клієнтів без надання зовнішнім операторам моделей доступу до сирих записів.

У сфері охорони здоров’я можуть бути ситуації, в яких діагностичні моделі повинні працювати на захищених клінічних даних, зберігаючи конфіденційність пацієнтів та виконуючи суворі нормативні зобов’язання. Крім того, уряди та агентства оборони можуть потребувати атестованого виконання для запуску чутливих робочих процесів на третіх хмарних платформах.

Є також дослідницькі потоки, які поєднують набори даних з кількох джерел, особливо федерації досліджень у сфері охорони здоров’я, які можуть продовжуватися лише у разі, якщо кожен учасник буде впевнений, що їхні входи залишаться незчитуваними під час обчислень.

Є також академічні та промислові дослідження, які продовжують документувати підходи до захисту конфіденційності ML для робочих процесів у сфері охорони здоров’я, які добре поєднуються з конфіденційною обробкою даних.

Як конфіденційна обробка даних насправді захищає дані під час використання

Конфіденційна обробка даних залежить від двох пов’язаних систем: апаратної ізоляції та атестації. Апаратна ізоляція запобігає доступу програмного забезпечення зовні захищеної області до пам’яті області.

Атестація — це верифікований спосіб перевірки коду, який виконується всередині області, та самої області. Ці функції дозволяють власнику моделі продемонструвати, що модель буде працювати з входами у верифікованому, запечатаному середовищі, та що виходи будуть видаватися лише після виконання правил області.

Результатом є контракт між власниками даних, операторами моделей та постачальниками хмарних послуг, який робить менш ймовірним необхідність адверсивної юридичної діяльності або використання крихких політичних рішень.

Реалістичні обмеження та перешкоди

Очевидно, що прийняття конфіденційної AI супроводжується власними викликами. Атестація та апаратне забезпечення, яке може працювати в областях, робить розгортання більш складним, оскільки існує прогалина в екосистемі між традиційним інструментарієм моделей та середовищами виконання областей. Деякі середовища виконання областей накладають великі витрати, що коштує до десяти разів більше для виконання, і можуть бути компроміси у продуктивності залежно від обсягу роботи.

Крім того, витрати вищі тепер, ніж були для звичайного висновку у хмарі, що може зробити складним для малих підприємств розібратися у цифрах. Є також питання зміни стандартів сумісності, які можуть залишити деяких ранніх приймачів під загрозою бути в пастці з їхніми постачальниками.

Однак ці питання є лише тимчасовими інженерними проблемами, які можуть бути вирішені. Постачальники хмарних послуг та виробники мікросхем продовжують випускати нові продукти, а проекти програмного забезпечення створюють проміжне програмне забезпечення, яке поєднує поточні стеки ML та області.

Якщо щось, компанії, які вважають, що стандартне шифрування та засоби контролю доступу достатні, знаходяться під більшим ризиком, оскільки вони будуть вразливі, коли моделі обробляють велику кількість конфіденційних записів.

Виклик до змін у корпоративній практиці

Команди з управління ризиками повинні змінити правила щодо придбання та використання AI. Класифікація даних та управління все ще важливі, але вони повинні бути підтримані технічними гарантіями під час їх використання.

Контракти з третіми постачальниками моделей повинні вимагати від них продемонструвати докази атестації. Команди з закупівель повинні вимагати базові показники продуктивності та перевірені варіанти для конфіденційної обробки даних. Тести команд червоних команд повинні включати тестування, яке знає області, як частину своєї роботи. Ці кроки перекладають відповідальність з ад hoc-зобов’язань на засоби контролю, які можуть бути перевірені.

Крім того, громадська політика та промислові стандарти групи повинні встановити очікування. Аудитори, офіцери з дотримання вимог та регулюючі органи повинні вимагати верифіковані засоби захисту під час виконання для категорій робочих процесів, які обробляють регулюються дані.

Ці правила зменшать кількість порушень, які трапляються пізніше, та нададуть сектору свободу інновувати без турбот про юридичні проблеми. Це дозволить фінансовим, медичним та державним робочим процесам використовувати нові моделі без будь-яких регулюючих перешкод.

Конфіденційність як стандарт

Генеративний AI став корисним інструментом для підприємств, які займаються дуже приватною інформацією. Ця реальність означає, що конфіденційна обробка даних вже не є нішею; вона повинна бути стандартною практикою для будь-якої системи AI, яка обробляє регулюються, власні або особисті дані.

Вже існують інструменти, такі як області, служби атестації та приватні пропозиції VM, а економіка швидко покращується. Інший варіант — продовжувати тримати конфіденційні активи відкритими для витоку під час висновку, що може мати юридичні, фінансові та репутаційні наслідки, яких підприємства вже не можуть собі дозволити. Наприклад, згідно з звітом IBM про витрати на порушення даних за 2025 рік, середня глобальна вартість порушення достигла майже 5 мільйонів доларів, при цьому регулятори, такі як GDPR, накладають штрафи до 20 мільйонів євро за серйозні порушення.

Компанії, які ставлять конфіденційність на перше місце в управлінні AI, матимуть перевагу: вони можуть проводити більш повні, відповідні тестування та використовувати моделі в галузях, де зовнішня інновація раніше була заборонена. Коротко кажучи, захист даних під час виконання моделей не є бар’єром для прийняття; це основа для відповідального, масштабованого AI у бізнесі та уряді.