Більшість корпоративного штучного інтелекту не є безпечною. Що можуть зробити підприємства?

Корпорації спішать впроваджувати генеративний штучний інтелект (ШІ), щоб залишатися конкурентоспроможними на ринку. Однак команди з безпеки стикаються з суттєвою проблемою, оскільки вони покладаються на застарілі框ки, розроблені для іншої технологічної епохи. Інструменти, які успішно захищали організації протягом десятиліть, тепер залишають критичні уразливості відкритими, коли співробітники взаємодіють з браузерними платформами ШІ. Для безпечного впровадження останньої технології підприємства повинні повністю змінити свій підхід до контролю доступу до інформації та виявлення нових загроз.

Розростання загрози тіньового ШІ в корпорації

Тіньовий ШІ виникає, коли співробітники обходять офіційні канали ІТ та використовують неавторизовані споживчі інструменти ШІ для виконання робочих завдань. Ці платформи пропонують швидкість та зручність, яких не можуть забезпечити внутрішні процеси затвердження, роблячи їх непереможними для працівників, орієнтованих на продуктивність.

Недавні дослідження показують, що 73,8% взаємодії співробітників з ChatGPT відбувається на некорпоративних рахунках, що означає, що конфіденційна інформація безпосередньо потрапляє до публічних моделей. Аналогічно, використання Gemini та Bard на особистих рахунках сягає 94,4% та 95,9% відповідно.

Виокремлення завдань на неверифіковані зовнішні платформи має суттєві наслідки. Аналіз показує, що 55% усіх провалень ШІ походять від цих зовнішніх рішень, створюючи ризики, які охоплюють шкоду репутації та фінансові втрати. Недовіра споживачів, штрафи за невідповідність та судові позови часто слідують. Для компаній, які використовують зовнішні інструменти ШІ без проведення ризикової оцінки перед розгортанням, це є тривожним.

Без обов’язкових керівних принципів співробітники надміру діляться конфіденційною інформацією компанії, створюючи величезні ризики для конфіденційності, тоді як багато зовнішніх платформ не мають суворих заходів безпеки для захисту конфіденційних бізнес-записів. Політики зберігання та практики цих рішень можуть випадково викрити інформацію клієнтів та фінансові записи до потенційних порушень.

Чому традиційна профілактика втрати даних не працює

Застарілі інструменти профілактики втрати даних (DLP) були розроблені для зупинки файлів, які завантажуються або надсилаються за допомогою електронної пошти. Ці рішення добре справляються зі своєю первісною метою, але мають фундаментальну обмеженість у добу браузерних платформ ШІ. Наприклад, вони не можуть легко контролювати або блокувати текст, який співробітник вручну вводить або вставляє безпосередньо до вікна запиту ШІ, створюючи сліпу пляму в безпеці, яка стає все більш проблематичною з кожним кварталом.

Пропуск стає очевидним, коли розглядається, що ці інструменти можуть і не можуть захистити:

• DLP виявляє: Завантаження файлів, електронні листи, передачу через USB та завантаження документів
• DLP пропускає: Дії копіювання-вставлення у вікна браузера, вручну введений текст, зображення, перетворені на текст, та прямий текстовий ввід у веб-додатки

Когда впровадження ШІ прискорюється в організаціях, цей розрив у безпеці розширюється та створює шлях для витоку інформації, який традиційна безпека не була розроблена для вирішення. Команди з безпеки опиняються в реактивній позиції, виявляючи порушення лише після того, як конфіденційна інформація вже залишила контроль організації.

Який найкращий підхід для безпечного корпоративного ШІ?

Триматися застарілих рішень DLP, ігноруючи реальність впровадження ШІ, не становить життєздатної довгострокової бізнес-стратегії. Компанії повинні оновити свої інструменти до ШІ-заснованого виявлення загроз, яке адаптується до нових атак та встановлює суворі межі використання ШІ, які захищають конфіденційну інформацію. Централізація практик управління для запобігання випадковому витоку завершує цю безпекову основу.

Перейти до багаторівневого контексту ШІ

Традиційні інструменти виявлення загроз покладаються на реактивні правила, які шукають історичні підписи відомих атак. Цей підхід або генерує надмірну кількість помилкових спрацьовувань, позначаючи нормальну поведінку співробітників як підозрілу, або повністю пропускає нові атаки, які не відповідають жодному попередньому шаблону в його базі даних.

Наприклад, Артезійська лікарня визнала ці обмеження у захисті своїх операцій з надання медичної допомоги та цифрових екосистем, що призвело організацію до розгортання технології Darktrace. Працюючи без будь-якого попередньо визначеного списку загроз, платформа вчиться кожному пристрою, користувачеві та взаємодії у мережі лікарні, щоб розвинути розуміння того, що таке нормальна поведінка знизу.

Компонент Cyber AI Analyst досліджує сигнали за допомогою методів, подібних до тих, які використовують люди, а також з’єднує тонкі аномалії, які можуть свідчити про справжні загрози для записів пацієнтів та операцій лікарні. Система автономно досліджує загрози мережі Артезії, щоб визначити, які сигнали представляють справжні інциденти безпеки.

Цей багаторівневий підхід ШІ суттєво зменшує кількість помилкових спрацьовувань, які обтяжують команди з безпеки. Коли кількість сигналів зменшується з 100 безпечних сигналів на день до двох чи трьох критичних інцидентів, які真正 потребують людської уваги, їхнє внимание звужується. Аналітики отримують саме ту інформацію, якої їм потрібно, не витрачаючи години на ручне дослідження.

Встановити суворі внутрішні політики використання ШІ

Встановлення твердих меж та розгортання технічних бар’єрів, які контролюють, яку інформацію можна ввести до публічних моделей ШІ, вирішує уразливості, яких не можуть самостійно закрити застарілі рішення DLP.

Samsung надає застережливий приклад того, що відбувається, коли співробітники отримують доступ до інструментів ШІ без достатніх технічних засобів захисту. Усього за 20 днів після надання доступу до ChatGPT у квітні 2023 року компанія зазнала трьох окремих витоків, які скомпрометували висококонфіденційну інформацію по декільках департаментів.

Інженери вставили власний джерельний код бази даних напівпровідників до ChatGPT, щоб перевірити на наявність помилок у коді, викриваючи критичні деталі про виробничі процеси Samsung. У іншому інциденті співробітник завантажив спеціальний код, призначений для виявлення дефектів обладнання, шукаючи пропозиції щодо оптимізації. Персонал також перетворив записані внутрішні зустрічі на текст, перш ніж надати ці транскрипти ChatGPT для автоматичної генерації хвилин.

Як тільки інформація потрапляє до навчальної бази даних публічної моделі ШІ, немає кнопки “видалити”, щоб повернути або видалити її з бази знань. Samsung у кінцевому підсумку заборонила ChatGPT повністю, оскільки витекла власна інформація не може бути відновлена.

Встановити централізоване управління даними

Рішення корпоративного ШІ є таким же безпечним, як і інформація, до якої воно може отримати доступ у організації, а стандартизація дозволів по всіх системах утворює основу безпечного розгортання ШІ. Коли внутрішня мережа компанії страждає від несумісних контролів доступу та фрагментарних практик управління, навіть затверджені інструменти ШІ можуть випадково виявити конфіденційні кадрові файли чи фінансові записи необізнаним співробітникам.

Наприклад, AXIS Capital зіткнулася з цією проблемою безпосередньо під час роботи зі самостійними, ізольованими платформами політики та претензій, розкиданими по різних географічних регіонах. Кожна бізнес-лінія створила свої власні стандарти звітності, а несумісності призвели до помилок у квотуванні, страхуванні та коригуванні претензій, що зробило корпоративну звітність дуже складною.

Страхова компанія розробила організаційну стратегію, використовуючи веб-форму опіки та суворі правила безпеки для стандартизації основних ієрархій посилань. Починаючи з Північноамериканської системи класифікації галузей та стандартної системи класифікації галузей, AXIS потім розширила свою діяльність на коди рейтингу та страхування, які раніше варіювалися за місцем розташування.

Встановивши централізоване управління даними та контроль, компанія створила єдине безпечне джерело правди, доступне по всіх операціях. Це викорило несумісності, які спіткали їхні платформи, тоді як AXIS змогла прискорити основні страхові процеси, такі як введення нових пропозицій, зменшення операційного ризику та досягнення надійної аналітики на корпоративному рівні.

Захист майбутнього інновацій підприємства

Впровадження ШІ в бізнесі є неминучим, оскільки організації конкурують за ринкову перевагу. Покладання на застарілі безпекові рамки та толерантність до неструктурованих практик управління тільки прискорить витоки та порушення вимог. Питання полягає не в тому, чи впровадять компанії ШІ, а чи зроблять вони це безпечно. Реалізуючи багаторівневе виявлення загроз ШІ та встановлюючи суворі засоби контролю доступу до інформації, підприємства можуть прийняти інновації ШІ, захищаючи свою найчутливішу інформацію.