Чому компанії залишаються обережними щодо штучного інтелекту — і як розгорнути його безпечно

Штучний інтелект захопив світ. Хоча деякі організації були ранніми приймачами, багато компаній обрали більш обережний підхід — турбуючись про конфіденційність, відповідність вимогам та операційні питання, які досі залишаються.

Я працював над сотнями розгортань інструментів безпеки, що працюють за допомогою штучного інтелекту, і бачив знайому картину. Захисники приносять ранній ентузіазм. Тестові проєкти показують перспективи. Потім відбуваються внутрішні дебати, юридичні огляди, і врешті-решт відбувається пауза, оскільки організації занурюються в аналіз паралічу. Незважаючи на величезний потенціал штучного інтелекту для трансформації операцій з безпеки, багато компаній усе ще вагаються щодо повного прийняття його.

У сфері кібербезпеки обережність часто є правильним інстинктом. Але затримка реалізації штучного інтелекту не зупинить загроз, що працюють за допомогою штучного інтелекту, які зараз зростають за масштабами та частотою. Реальна проблема полягає в тому, як прийняти штучний інтелект безпечно, свідомо та без компрометації довіри.

Ось що я дізнався з передової — і що я рекомендую лідерам з безпеки, які готові рухатися вперед з впевненістю.

1. Проблема довіри до даних

Першим і найбільшим перешкодою є управління даними. Багато компаній страшно думати, що конфіденційні дані можуть витекти, бути невірно використані або — найгірше — бути використані для навчання моделі, яка буде корисна конкурентам. Відомі порушення безпеки та невиразні гарантії постачальників лише посилюють ці страхи.

Це не параноя. Коли ви займаєтеся персональними даними клієнтів, інтелектуальною власністю або регульованими даними, передача їх третій стороні може відчуватися як втрата контролю. І поки постачальники не зроблять кращу роботу з роз’яснення своєї політики щодо сегрегації даних, збереження, участі четвертої сторони та навчання моделей, прийняття буде залишається обережним.

Це місце, де управління стає критично важливим. CISO повинні оцінювати постачальників за допомогою нових рамок, таких як NIST AI Risk Management Framework або ISO/IEC 42001, які пропонують практичну допомогу щодо довіри, прозорості та підзвітності в системах штучного інтелекту.

2. Ви не можете покращити те, що не вимірюєте

Іншою поширеною перешкодою є відсутність базових метрик. Багато компаній не можуть кількісно оцінити поточну продуктивність, що робить доведення ROI інструментів штучного інтелекту майже неможливим. Як ви можете стверджувати про 40% підвищення ефективності, якщо ніхто не відстежував, скільки часу займав завдання до автоматизації?

Чи то середній час виявлення (MTTD), чи то рівень хибних позитивних результатів, чи то кількість годин, збережених аналітиками SOC, організації повинні почати з вимірювання поточних робочих процесів. Без цих даних справа про штучний інтелект залишається анекдотичною — і спонсори не погодяться на великомасштабні ініціативи без реальних, обґрунтованих цифр.

Почніть відстежувати ключові показники зараз, включаючи:

• Середній час виявлення/реагування (MTTD/MTTR)
• Зниження рівня хибних позитивних результатів, хибних негативних результатів та кількості тикетів
• Кількість годин, збережених аналітиками на інцидент
• Покращення покриття (наприклад, уразливості, які скануються та ліквідуються)
• Інциденти, вирішені без ескалації

Ці базові показники стануть основою вашої стратегії виправдання штучного інтелекту.

3. Коли інструменти працюють занадто добре

Іронічно, однією з причин, чому прийняття штучного інтелекту зупиняється, є те, що деякі інструменти працюють занадто добре — відкриваючи більше ризиків, ніж організація готова обробити.

Розширені платформи розвідки загроз, інструменти моніторингу темної мережі та рішення з підвищеною видимістю, що працюють за допомогою великих мовних моделей, часто виявляють вкрадені дані для входу, домени-подібні домени або раніше невиявлені уразливості. Замість створення ясності, ця переважна видимість може створити нову проблему: з чого почати?

Я бачив команди, які вимкнули розширені сканиування, оскільки об’єм знахідок створив політичний або бюджетний дискомфорт. Краща видимість вимагає кращої пріоритезації — і готовності зустріти проблеми обличчям до обличчя.

4. Заключені в спадкові контракти

Дажи коли кращі інструменти доступні, багато компаній заключені в багаторічні угоди зі спадковими постачальниками. Деякі з цих контрактів мають фінансові штрафи такої величини, що зміна постачальника в середині терміну є недопустимою.

Безпека електронної пошти — це класичний випадок. Сучасні рішення тепер пропонують виявлення загроз, що працюють за допомогою штучного інтелекту, моделювання поведінки та вбудовану стійкість для гібридних середовищ. Але якщо ваш поточний постачальник не впорався з цим і ви заключені в п’ятирічну угоду, ви фактично застряли на місці до закінчення терміну контракту.

Це не тільки про технології. Це про час, закупівлі та стратегічне планування.

5. Підйом тіньового штучного інтелекту

Прийняття штучного інтелекту не відбувається тільки зверху вниз — воно відбувається всюди, часто без відома служби безпеки. Наше дослідження показало, що понад 85% працівників вже використовують інструменти штучного інтелекту, такі як ChatGPT, Copilot і Bard. (не кажучи вже про DeepSeek і TikTok!)

Без належного нагляду працівники можуть вводити конфіденційні дані в публічні інструменти, покладатися на виведення, що було сфабриковано, або випадково порушувати політику компанії. Це нічмар щодо відповідності вимогам та захисту даних, і прикидання, що це не відбувається, не вирішує проблему.

Лідери служби безпеки повинні зайняти активну позицію, встановивши:

• політику прийнятного використання
• блокування не затверджених інструментів штучного інтелекту, якщо це необхідно, і перенаправлення користувачів на затверджені інструменти
• розгортання затверджених, безпечних платформ штучного інтелекту для внутрішнього використання
• навчання працівників про відповідальне використання штучного інтелекту

Примітка поля: політики використання штучного інтелекту не змінять використання. Ви не можете примусити те, про що не знаєте, тому першим кроком є кількісна оцінка використання, а потім перемкнути вимикач на примус.

6. Аутсорсинг несе свої власні ризики

Мало компаній має інфраструктуру для побудови та розміщення великих моделей всередині. Це означає, що аутсорсинг часто є єдиним життєздатним шляхом — але він несе ризики третьої сторони та ланцюга постачань, з якими CISO знайомі.

Інциденти, такі як SolarWinds, Kaseya та недавнє порушення безпеки Snowflake, підкреслюють, як довіра зовнішнім партнерам без видимості може привести до великих порушень. Коли ви аутсорсуйте інфраструктуру штучного інтелекту, ви успадкуєте безпекову позицію постачальника — добру чи погану.

Це не достатньо довіряти бренду. Вимагайте ясності щодо:

• життєвого циклу моделі та частоти оновлення
• протоколів реагування на інциденти
• безпекових засобів контролю постачальника та історії відповідності
• ізоляції даних та контролю орендарів

7. Атакувальна поверхня штучного інтелекту розширюється

Когда організації приймають штучний інтелект, вони повинні також готуватися до векторів атак, специфічних для штучного інтелекту. Нападники вже експериментують з:

• отруєнням моделі (незначним зміною навчальних даних)
• введенням підказки (маніпулюванням поведінкою великих мовних моделей)
• введенням супротивних входів (обхідом виявлення)
• експлуатацією галюцинацій (обманом користувачів фальшивими виведеннями)

Це не теоретично. Це реально і зростає. Коли захисники приймають штучний інтелект, їм також потрібно адаптувати свої стратегії червоних команд, моніторингу та реагування на інциденти, щоб врахувати цю нову та унікальну атакувальну поверхню.

8. Люди та процеси можуть бути справжньою пробкою

Одна з найбільш недооцінених проблем — це організаційна готовність. Інструменти штучного інтелекту часто вимагають змін у робочих процесах, наборі навичок та менталітеті.

Аналітикам потрібно розуміти, коли довіряти штучному інтелекту, коли його оскаржувати та як ефективно ескалювати. Лідерам потрібно інтегрувати штучний інтелект у процеси прийняття рішень без сліпого автоматизму ризиків.

Навчання, інструкції та управління змінами повинні розвиватися поряд з технологією. Прийняття штучного інтелекту не тільки технічна ініціатива. Це людська трансформаційна ініціатива.

Що ж ми можемо зробити?

Незважаючи на перешкоди, я твердо вірю, що переваги штучного інтелекту в сфері безпеки значно переважують ризики — якщо все зробити правильно. Ось як я раджу організаціям рухатися вперед:

• Почніть з малого та тестируйте ретельно
• Виберіть обмежений випадок використання з вимірним впливом. Виконайте контрольні пілоти. Валідуйте продуктивність. Будуйте довіру за допомогою даних, а не гіперболі.
• Прийміть юридичну, ризикову та безпекову команди на ранній стадії
• Не чекайте фази контракту. Прийміть юридичну та комплаєнс-команду для перевірки умов обробки даних, ризиків відповідності вимогам та наслідків ланцюга постачань на ранній стадії.

Виміряйте все

Відстежуйте KPI перед і після реалізації. Створюйте панелі, які спілкуються як на мові безпеки, так і на мові бізнесу. Метрики роблять або зруйновують фінансування штучного інтелекту.

Виберіть партнерів з реальним доказом успішних проєктів

Подивіться за межі демонстрацій. Вимагайте рекомендацій. Запитайте про постпродажну підтримку, складність розгортання та результати в середовищах, подібних до ваших.

Що далі? Нові випадки використання, які варто спостерігати

Ми ще на початку шляху штучного інтелекту в сфері безпеки. Передові CISO вже досліджують:

• копілоти штучного інтелекту для управління брандмауером, автоматизації відповідності та управління
• використання потоків загроз, що працюють за допомогою штучного інтелекту, для прискорення реакції на нульові загрози та підвищення точності
• генеративне червоне командування та симуляція атак
• самовідновлювальна інфраструктура з кількох постачальників
• контроль ідентифікації на основі ризику, що працює за допомогою штучного інтелекту, заснованого на поведінкових даних

Ці випадки використання переходять з інноваційних лабораторій у виробництво. Організації, які зараз будують м’язи, будуть значно краще підготовлені до капіталізації.

Остаточна думка: затримка не є захистом

Штучний інтелект уже тут, і так само й загрози, що працюють за допомогою штучного інтелекту. Чим довше ви чекаєте, тим більше втрачені території. Але це не означає, що ви повинні поспішати сліпо.

З ретельним плануванням, прозорим управлінням та правильними партнерами ваша організація може прийняти штучний інтелект безпечно — підвищуючи можливості без компрометації контролю.

Майбутнє безпеки доповнюється. Єдине питання — чи будете ви лідером чи відставатим.