Нові загрози безпеки швидкої адоптації Генеративного ІІ, яких організації повинні розглянути

Генеративний ІІ (GenAI) стрімко перетворився з курйозу на центральну силу в корпоративній технології. Його здатність генерувати текст, код, зображення та інсайти на вимогу зробила його незамінним для працівників, які хочуть подолати складність і прискорити продуктивність. Але разом з цією інновацією та ефективністю приходять масові ризики.

Під час розмов з виконавцями та лідерами управління ІІ в різних галузях одна тема постійно повторюється: безпека даних перейшла від ключової проблеми до фокусу їхньої стратегії і тепер є визначальною проблемою адоптації ІІ. На відміну від традиційного програмного забезпечення або навіть попередніх хвиль машинного навчання, GenAI фундаментально змінює процес забезпечення безпеки даних у організації.

Останнє дослідження МІТ показало, що 95% пілотних проектів корпоративного GenAI закінчуються невдачею. Це не через те, що технологія слабка; це через те, що підприємства缺ують рамки управління та безпеки для належної та відповідальної реалізації GenAI. В іншому дослідженні МІТ, лідери підприємств назвали безпеку даних основним бізнес- та безпековим ризиком, який гальмує швидшу адоптацію ІІ. Крім того, “тіньовий ІІ”, який являє собою несанкціоноване використання працівників публічних інструментів, широко визнаний як фактор стрімкого зростання ризиків даних поза корпоративним контролем.

Модель мінімальних привілеїв – це безпекова модель, в якій будь-яка сутність, незалежно від того, чи є вона користувачем, програмою чи процесом, отримує мінімальний рівень доступу та привілеїв, необхідних для виконання її законних функцій. GenAI, однак, повністю змінює весь парадигму: мінімальні привілеї самі по собі стають обмеженням, яке конфліктує з тим, як ці системи спроектовані для роботи. Це відбувається через те, що корпоративні інструменти GenAI забезпечують більші продуктивні вигоди, коли вони мають доступ до більшої кількості бізнес-даних та бізнес-контексту.

Під час прискорення адоптації GenAI користувачі продовжують відкривати нові застосування GenAI, більшість з яких виникає з органічного експерименту та цікавості, а не з верхівного, бізнес-драйвеного планування. Якщо сутність не може визначити завдання, для яких буде використовуватися GenAI, або типи даних, до яких йому потрібно доступ, стає неможливим налаштувати привілеї мінімального доступу. Крім того, користувач може мати відповідний доступ до набору даних і легітимно надати його як вхідні дані інструменту GenAI, але після того, як дані будуть прокинуті, вони більше не будуть обмежені первісними привілеями користувача. Натомість вони можуть бути поглинені моделлю, висунуті в майбутніх виходах або зроблені доступними для інших, хто використовує той же інструмент. Оскільки GenAI не обов’язково успадковує контролі доступу даних, він фактично робить мінімальні привілеї незастосовними.

Загрози GenAI, які слід розглянути

GenAI створює величезну та постійно розширювану поверхню даних, ускладнюючи корпоративне управління даними та безпекою кількома взаємопов’язаними способами. До них належать:

Витік вхідних даних – GenAI може прокинувати дані у їхньому первісному вигляді, включаючи текст, зображення, аудіо, відео та структуровані дані. Користувачі тепер можуть спрямовувати інструменти GenAI на нові набори даних з мінімальними зусиллями чи експертизою. Натомість вони обмежені ретельно відібраними, структурованими таблицями з визначеними схемами та відносинами, ці дані можуть включати записи дзвінків, нотатки електронної пошти CRM, транскрипти служби підтримки клієнтів та інше. На практиці працівники подають промпти з високочутливою бізнес-інформацією, включаючи особисті дані клієнтів, інтелектуальну власність, фінансові прогнози та навіть вихідний код.

Вихідна експозиція – Генеративні моделі не тільки споживають, але й синтезують. Промпт може ненавмисно витягнути інсайти з різних наборів даних та розкрити їх користувачам без належної очистки. У деяких випадках виходи можуть навіть “галюцинувати” дані, які виглядають легітимними, але містять фрагменти справжніх, високочутливих навчальних матеріалів.

Інструменти GenAI працюють краще, коли мають контекст для завдання. Як результат, GenAI не тільки прокинує існуючу інформацію, але й користувачі створюють нові дані для керівництва ним у вигляді розширених, детальних промптів, які документують бізнес-контекст, внутрішні процеси та інші потенційно чутливі або бізнес-критичні дані.

Доступність без нагляду – Традиційні корпоративні системи вимагали реєстрації постачальника та надання ІТ. Сьогодні GenAI вбудований скрізь – у пакети Microsoft Office, браузерах, інструментах чату, платформах SaaS. Працівники можуть прийняти його миттєво, обходячи управління повністю. Цей безперешкодний доступ сприяє “тіньовому ІІ”, і кожне несанкціоноване використання GenAI є потенційною подією екзфільтрації даних, яка відбувається невидимо, у масштабі та поза межами корпоративного управління.

Ризик другого рівня ланцюга постачання – Постачальник може здаватися безпечним, але вони часто покладаються на субпідрядників, таких як хости хмари, служби анотації або треті сторони лабораторії ІІ. Кожен з них вводить свої власні угоди про ліцензування кінцевого користувача (EULA) та політики. Чутливі корпоративні дані можуть поширюватися через多 невидимі руки, але відповідальність залишається повністю на підприємстві. Наприклад, підприємство може мати постачальника, який раніше пройшов процес реєстрації, але тепер цей постачальник використовує інструмент GenAI, який міг би дозволити використати дані підприємства як навчальні дані, з значними подальшими наслідками.

Прорізи управління навчальними даними – Як тільки дані потрапляють до моделі ІІ, контроль фактично закінчується. Підприємства не можуть легко відкликати або управляти тим, як їхня інформація використовується. Власна інформація може зберегтися та потім з’явитися у виходах довго після того, як її джерело було забуте. Ми ще не зустріли жодного інструменту GenAI, який би дозволяв запитувати видалення інформації, яку він прокинув, подібно до того, що бачимо в регуляторних актах, таких як Загальний регламент захисту даних (GDPR) або Закон про конфіденційність споживачів Каліфорнії (CCPA). Реалізація таких процесів є малоймовірною, доки регулятори не спричинять зміни.

Ризик застосунчого коду – ІІ все частіше пише код, який лежить в основі бізнес-систем. Розробники, які використовують інструменти GenAI, такі як Microsoft Copilot, для генерації коду, можуть ненавмисно вводити небезпечні залежності, поширювати уразливості або впроваджувати код під конфліктними відкритими ліцензіями. Як тільки ці слабкості будуть розгорнуті, вони стають частиною ланцюга постачання програмного забезпечення.

Подолання ризиків GenAI

GenAI вже вбудований у корпоративні робочі процеси, тому питання для підприємств полягає не в тому, чи приймати його, а в тому, як це зробити відповідально. Прийняття GenAI без управління ризиками може привести до дорогої порушення безпеки, штрафів регуляторів та шкоди репутації. Але блокування його тільки спонукає працівників використовувати несанкціоновані рішення. Єдиний шлях вперед – це забезпечення, яке поєднується з видимістю та контролем.

Управління GenAI вимагає контекстно-залежної видимості не тільки того, які дані є в підприємстві, де вони розташовані та хто має до них доступ, але й того, як використовується GenAI. Підприємства повинні бачити, які інструменти доступні, які промпти вводяться та чи залишаються чутливі дані їхнього середовища. З цього вони можуть застосувати відповідні контролі для моніторингу промптів та виходів в реальному часі, виділяти ризикові сесії або аномальні потоки даних, блокувати несанкціоновані інструменти, фільтрувати чутливі промпти, перш ніж вони покинуть підприємство, деідентифікувати чутливі дані при введенні їх у промпти та застосовувати рольові обмеження на інсайти, одержані за допомогою ІІ.

GenAI – це цілком новий рівень корпоративного ризику та можливостей. Управління ним вимагає розуміння того, що безпека не є гальмом інновацій, а фундаментом, який робить її безпечною.