Переосмислення стійкості ШІ: Чому настав час відкинути модель «Встанови і забудь»

A нещодавнє опитування Gallup вказує на тенденцію зростання впровадження ШІ, оскільки більше половини працюючих дорослих стверджують, що користуються технологією принаймні кілька разів на рік. Ці дані лише натякають на швидке впровадження ШІ в корпоративних середовищах. Хоча кілька лідерів підприємств розпочали сумніви щодо ROI ШІ, це не зупинило організації від використання технології для оптимізації ручних завдань і підвищення продуктивності.

Поки це впровадження триває, організації можуть бути спокушені ігнорувати шкідливі помилки в автоматизованих робочих процесах. Вони розглядають ШІ як готове рішення, яке вимагає лише встановити технологію, запустити її і «забути», що вона існує. Деякі команди безпеки намагаються протистояти такому мисленню, створюючи посібники з автоматизації, спрямовані на безпечне використання ШІ. Однак навіть найкращі ІТ‑ і безпекові команди залишають дуже мало простору для коригувань у цих посібниках. Тому підприємства не можуть безпечно розвиватися разом із ШІ, коли сама технологія розвивається.

As enterprises grant AI more authority in business-critical workflows, operational agility must be the new mandate for today’s organizations. For this to become a universal practice, enterprise security leaders must abandon a “set-it-and-forget-it” mindset and engineer for resilience.

Розуміння парадоксу автоматизації

AI‑запроваджена автоматизація забезпечує величезне підвищення продуктивності у багатьох функціях підприємства. Візьмемо, наприклад, кібербезпеку. Інструменти ШІ дозволяють аналітикам виконувати додаткові кроки, на які раніше не вистачало часу у перевантажених центрах безпеки. Це включає пріоритизацію сповіщень, перегляд подій, виявлення загроз, валідацію перехресних посилань і отримання другої думки. На відміну від деяких керівників C‑suite, CISO загалом залишаються оптимістичними щодо цінності ШІ у майбутньому. За даними Звіт CISO: Від ризику до стійкості в еру ШІ, 83 % CISO вважають автоматизацію інвестицією, яка найімовірніше перевершить очікування.

У зв’язку з цими перевагами зберігається парадокс. Той самий звіт підкреслює скептицизм CISO щодо ШІ, побоюючись наслідків автономних помилок. 83 % CISO оцінюють вплив галюцинацій, таких як пропущені сповіщення чи хибнопозитивні результати, як найбільшу стурбованість щодо агентного ШІ. Існує достатньо доказів, що підтверджують ці занепокоєння. Велика комерційна авіакомпанія була законно притягнута до відповідальності і змушена виплатити відшкодування після того, як її чат‑бот служби підтримки «згалюцівав» політику повернення коштів за тариф на випадок втрати близької людини. Компанія з розвідки загроз стикається з юридичними проблемами, оскільки, за повідомленнями, випустила звіт, який пов’язує стартап з хакерами іноземної держави. Коли ШІ помиляється, наслідки можуть поширитися поза межі внутрішніх систем, впливаючи як на капітал, так і на репутацію.

Проблема застарілих посібників

Посібники з безпеки, орієнтовані на ШІ, є базою для успішного і безпечного впровадження ШІ. Однак проблеми виникають, коли ці посібники ніколи не змінюються. Загрози, ІТ‑інфраструктура та бізнес‑середовища постійно еволюціонують. ШІ дозволяє зловмисникам масштабувати атаки, а розширювана та все більш складна ІТ‑інфраструктура ускладнює їх виявлення. Одночасно, коли бізнес надає ШІ більше відповідальності, наслідки помилок стають значно серйознішими.

Якщо всі ці фактори продовжуватимуть еволюціонувати, логіка автоматизації також має еволюціонувати разом з ними. Заморожені посібники автоматизації перешкоджають цьому. Вони залишають команди безпеки перед поточними проблемами з застарілою логікою. У деяких випадках ця ситуація може завершитися гірше, ніж якщо б у команди безпеки не було жодного посібника.

Для того щоб посібники стали живими організмами, придатними до поточної реалізації ШІ, і таким чином сприяли внутрішній стійкості, вони мають бути:

• Постійно тестуються на основі нових даних про загрози
• Оновлюються після реальних інцидентів
• Виводяться з експлуатації, коли перестають бути ефективними або корисними

Цей підхід відповідає рекомендаціям Cybersecurity and Infrastructure Security Agency (CISA) та інших глобальних агентств у сфері кібербезпеки, які пропагують безперервний моніторинг систем ШІ та постійну людську інтервенцію.

Впровадження формули стійкості

Ера ШІ вимагає, щоб підприємства відмовилися від мислення, що ШІ — це лише точкове рішення, або простого «накладання» автоматизації на існуючі випадки використання. Організації ж повинні будувати культуру стійкості, яка дозволяє як ІТ‑персоналу, так і системам підсилювати те, де ШІ працює правильно, і ефективно реагувати, коли технологія помиляється.

Тривіальна практична формула в три частини може допомогти впровадити цю стійкість у автоматизовані дії.

• Confidence: Для кожного автоматизованого робочого процесу команди мають запитати себе: Наскільки ми впевнені у тригері, який ініціював автоматичну відповідь?
• Reversibility: Чи можна скасувати дію? Якщо так, то наскільки швидко та безпечно ми можемо це зробити?
• Blast Radius: Наскільки широкі наслідки, якщо помилка пошириться, і наскільки критичним для бізнесу є уражений ресурс?

Правильні інструменти спостереження та моніторингу є ключовими для відповіді на ці питання. Команди повинні використовувати єдину платформу спостереження та управління даними, щоб повністю розуміти, де в ІТ‑середовищі може виникнути автоматизована реакція, які інші активи вона впливає та які бізнес‑наслідки це має. Регулярне виконання цієї вправи дозволить командам безпеки підтримувати актуальні посібники ШІ. Крім того, це забезпечить належну практику «людина‑в‑циклі», оскільки ІТ‑команди будуть знати, де і як втрутитися, щоб запобігти неправильним автоматизованим діям, які можуть мати широкомасштабні та дорогі наслідки.

Більше не «встановлюй і забудь»

Важливо, щоб сучасний CISO та ІТ‑лідери усвідомили, що відповідальність за поведінку ШІ лягає саме на них. Чим більше ШІ впливає на важливу роботу підприємства, тим більший тягар лежить на головних офіцерах кібербезпеки. Хороше правило, яке варто пам’ятати: «Автоматизація змінює того, хто натискає кнопку. Вона не змінює того, хто несе відповідальність за натискання кнопки».

Ставки та обов’язки сьогоднішнього CISO занадто високі, щоб залишати посібники типу «встанови‑і‑забудь». Натомість стійкість має стати і практикою, і культурою, що пронизує підприємство і дозволяє йому відновлюватися після помилок ШІ. Коли команди впроваджують безперервний моніторинг, можливість скасування, ізоляцію та людську відповідальність у посібник автоматизації, підприємства можуть запобігти тому, щоб автоматичне рішення стало проблемою для всього бізнесу.