Розкриття прихованих ризиків Shadow AI

Не минуло багато часу, поки підприємства не відчули широке використання Генеративного ІІ (GenAI) серед своїх працівників. Однак, коли мова йде про ризики GenAI, інструменти, відомі всередині вашої організації, не є тими, про які вам слід найбільше турбуватися. Це ті, про які ви не знаєте, повинні тримати вас у напрузі.

Дякуючи швидкому розширенню інструментів GenAI, таких як ChatGPT, Copilot, Gemini і Perplexity, а також багатьом спеціалізованим SaaS-асистентам, працівники приймають їх швидше, ніж команди безпеки можуть впоратися. І це використання створює швидко зростаючу сліпу зону, відому як тіньовий ІІ.

Якщо тіньовий ІІ звучить знайомо, то це тому, що він запозичує термін тіньове ІТ, який використовується для опису використання не затверджених інструментів і сервісів на робочому місці. Але з тіньовим ІІ ставки можуть бути ще вищими. Замість злому файлового сервісу тіньовий ІІ може призвести до того, що конфіденційна інформація буде вставлена в чат-бот, поглинена зовнішніми моделями і невідомо експонована третім сторонам.

Тіньовий ІІ представляє одну з найменш видимих, але найurgentніших загроз у сфері безпеки даних підприємств сьогодні.

Що таке тіньовий ІІ?

Тіньовий ІІ відноситься до неавторизованого використання інструментів ІІ – особливо GenAI – працівками без знання або схвалення команд ІТ або безпеки компанії. В межах організації користувачі можуть бути маркетинговою командою, яка створює блог-пости з великими мовними моделями (LLM), юридичною командою, яка досліджує мову контрактів в інструментах ІІ, або інженерами, які відладжують код з вільними GPT-обгортками.

І хоча таке експериментування може здаватися безневинним, те, що ділиться з цими інструментами, може бути не таким. Це можуть бути конфіденційні стратегічні слайди або інформація про клієнтів. Ці дані в кінцевому підсумку потрапляють в незашифровані промпти, без жодного управління і без можливості відстежувати, що відбувається далі.

Чому тіньовий ІІ є проблемою?

Проблема тіньового ІІ полягає в тому, що досить працівкові з добрими намірами і доступом до ChatGPT, щоб створити ризик безпеки даних. На відміну від хакера, тіньовий ІІ не є зловмисним, але це не робить його менш небезпечним. Кожного разу, коли конфіденційна інформація додається до промпту, вона потенційно експонується моделі, постачальнику і будь-кому, хто має доступ до журналів. Вона навіть може знову з’явитися в відповіді на інший запит користувача. І найгірше те, що ви, ймовірно, ніколи не дізнаєтеся, що це відбулося.

Ось п’ять ключових ризиків тіньового ІІ, про які слід знати.

1. Виклик даних через вхідні промпти – Поле промпту є чорною дірою безпеки даних. Як тільки конфіденційна інформація, така як вихідний код, документи злиття та поглинання і дані про зарплату, ділиться з інструментом GenAI, вона виходить з вашого контролю. Навіть якщо постачальник ІІ обіцяє, що дані не зберігаються, виконання неясне, і немає жодних гарантій щодо навчання або телеметрії.

2. Відсутність контролю доступу або журналів аудиту – На відміну від санкціонованих корпоративних додатків, більшість інструментів GenAI не пропонують рольові контролі доступу, гранульовані дозволи або журнали діяльності, що означає, що команди безпеки не мають жодної видимості того, хто отримав доступ до яких даних, або коли. Якщо відбувається інцидент, немає нічого, щоб розслідувати.

3. Порушення вимог – Багато з безлічі вимог, яких організації повинні дотримуватися, наказують, що регулювана інформація повинна зберігатися, оброблятися і отримуватися дуже конкретними способами. Надання цієї інформації зовнішній моделі ІІ може порушити ці правила, експонуючи вашу організацію юридичному ризику, штрафам і обов’язковим повідомленням про порушення.

4. Поширення застарілої або упередженої інформації – Інструменти GenAI часто надають відповіді впевнено і позиціонують їх як факти, навіть коли вони дуже неправильні. Покладаючись на ці виходи для повідомлень клієнтам, підсумків з питань дотримання законодавства або фінансових звітів без валідації може привести до бізнес-рішень на основі неточної інформації. Галюцинації відбуваються регулярно і не здаються зникати, навіть коли ці LLM стають розумнішими.

5. Тіньовий ІІ, який стає тіньовими даними – Вихідні дані інструментів GenAI, включаючи підсумки і фрагменти коду, часто зберігаються, діляться і повторно використовуються. Оскільки вони були створені поза формальними робочими процесами, ці файли стають невідстеженими, некласифікованими і незахищеними тіньовими даними.

У більшості випадків з тіньовим ІІ ніхто в команді безпеки не має жодної ідеї, коли відбувається порушення. Ці реальні приклади можуть відбуватися в вашій організації:

• Молодший інженер-програміст вставляє власний код у вільний GPT-відладчик.
• Представник відділу продажів вводить список клієнтів останнього кварталу в інструмент ІІ для генерації пропозицій про підвищення рівня обслуговування.
• Менеджер з персоналу використовує зовнішній інструмент ІІ для аналізу відповідей на опитування працівників.
• Фінансовий аналітик просить ChatGPT спростити мову конфіденційних прогнозів доходів для виконавців.
• Юрист просить GenAI переписати контракт, використовуючи конфіденційний пункт з договору клієнта.

Чому традиційні інструменти безпеки не помічають тіньовий ІІ

Спадкові стеки безпеки не створені для загроз, заснованих на промптах GenAI. Наприклад, брандмауер не може заблокувати інструменти ІІ, засновані на браузері. CASB не бачить, що вводиться в вікна чату. А SIEM не сповістить про те, хто刚 запитав LLM про підсумок конфіденційної інтелектуальної власності.

Тіньовий ІІ діє на рівні застосунку і існує в браузері, де видимість найслабша. Працівники також використовують свої особисті пристрої. Не існує плагіна, який зупинить їх, жодного водяного знака, щоб відстежувати, яку інформацію було витекло, і жодного сповіщення, коли дані перетинають лінію. І до того часу, як це з’являється в сповіщенні DLP, якщо це відбувається, дані вже експонуються.

Як визначити і усунути ризики тіньового ІІ

Ви не можете контролювати те, чого не бачите, і з GenAI більшість організацій летить сліпо. Традиційні інструменти не були створені для розуміння взаємодій, заснованих на промптах, або відстежування того, що відбувається після натискання користувачем кнопки “Enter”.

Однак нові підходи безпеки, засновані на ІІ, є готові до виклику допомогти організаціям вивести тіньовий GenAI з темряви. Ось кілька заходів, які пропонують просунуті рішення:

Виявлення тіньового ІІ – Ці інструменти визначають, які інструменти GenAI використовують ваші користувачі, навіть ті, що засновані на браузері і обходять традиційні засоби контролю. Вони аналізують рух даних, моделі доступу і контекст, щоб виявити порушення без необхідності встановлення агентів або інвазивного моніторингу.

Класифікація того, що є чутливим – Сучасні рішення використовують контекстно-чутливий ІІ, щоб зрозуміти як зміст, так і контекст даних. Це означає, що вони можуть виділити ризики, такі як прогноз доходів, вбудований в слайди PowerPoint, або дані клієнтів, вставлені в чернетку електронної пошти. Це саме той контент, який працівники можуть надати інструментам GenAI, не подумавши про це двічі.

Запобігання ризикованому поведінку промпту – Як тільки виявлені чутливі дані і визначено їхнє розташування, допомога безпеки даних ІІ запобігає їхньому експонуванню. Ці інструменти виділяють, видалення або блокують ризиковані вхідні промпти, перш ніж вони покинуть організацію.

Очищення тіньових даних – Промпти інструментів GenAI часто генерують хвилю нових файлів, таких як підсумки, чернетки і відповіді, які зберігаються, діляться і забуваються. Просунуті платформи безпеки даних визначають ці побічні продукти, виявляють ризики експонування (такі як надмірний доступ або невідповідне зберігання) і усунують їх, перш ніж втрати даних стають заголовками.

Тіньовий ІІ не є теоретичним ризиком. Це реально, це зростає, і це відбувається в вашому середовищі прямо зараз, незалежно від того, чи ви бачили це чи ні. Заборонити інструменти GenAI не реально, але закрити очі на це дуже ризиковано. Організаціям потрібна видимість, контроль і інтелект щодо використання GenAI – не тільки для того, що виходить, а й для того, що входить.

Нові підходи доступні, які розкривають ризиковану поведінку, запобігають випадковому експонуванню і очищають хаос даних, який залишають ІІ і тіньовий ІІ.

Тіньовий ІІ не є теоретичним ризиком, а реальним, і він зростає. Організаціям потрібно бачити, контролювати і розуміти використання Генеративного ІІ – не тільки для того, що виходить, а й для того, що входить. Нові підходи доступні, які розкривають ризиковану поведінку, запобігають випадковому експонуванню і очищають хаос даних, який залишають ІІ і тіньовий ІІ. tic, але закриття очей на це дуже ризиковано. Організації потребують видимості, контролю та інтелекту щодо використання Генеративного ІІ – не тільки для того, що виходить, а й для того, що входить. Нові підходи доступні, які розкривають ризиковану поведінку, запобігають випадковому експонуванню та очищають хаос даних, який залишають ІІ та тіньовий ІІ.