У свідомості сучасного CISO: як поєднувати ажіотаж навколо ШІ та хаос хакерів

Як директори з інформаційної безпеки (CISO), ми стоїмо на передовій парадоксу кібербезпеки. З одного боку, штучний інтелект пропонує трансформаційні можливості, маючи можливість підвищити швидкість, ефективність та інновації. З іншого боку, штучний інтелект вводить рівень складності, масштабу та ризику, якого ми ніколи раніше не бачили.

Через складність сучасних гібридних хмарних середовищ, що підживлюється впровадженням штучного інтелекту, майже всі (97%) керівники CISO все частіше йдуть на компроміси у тому, як вони захищають та керують своєю інфраструктурою.

Це змушує керівників інформаційних систем (CISO) переглядати свої стратегії кібербезпеки та змінювати менталітет з «як нам встигати» на «як нам керувати?».

Публічна хмара: від чемпіона інновацій до нашої найбільшої загрози

Лише кілька років тому публічна хмара була синонімом гнучкості, економії коштів та швидкості. Але та сама відкритість і гнучкість, які зробили публічну хмару такою привабливою, також стали її найбільшим недоліком. Сьогодні, 75% керівників інформаційних систем (CISO) визначають це як найбільший ризик безпеки будь-якого іншого середовища.

Що стоїть за цим зрушенням? В основі лежить невизначеність мережевого трафіку. Оскільки організації впроваджують генеративні інструменти штучного інтелекту та LLM, гібридна хмарна інфраструктура переживає безпрецедентний сплеск обсягів даних. Фактично, кожна третя організація зараз каже, що її мережевий трафік подвоївся через ШІ. Ці експоненціальні потоки даних не лише перевантажують системи, але й виявляють прогалини у видимості хмари та виявленні загроз.

Суб'єкти загрози – це використання цих невідповідностей. Майже половина організацій спостерігає зростання атак, спрямованих безпосередньо на їхні LLM, причому понад половина спостерігає збільшення кількості програм-вимагачів на базі штучного інтелекту, що на 17% більше, ніж минулого року.

Ми вже не говоримо про теоретичний ризик. Ми говоримо про реальну та зростаючу поверхню загрози, яку активно використовують дедалі витонченіші зловмисники. Хакери ховаються в зашифрованому трафіку, змішуються з легітимними потоками даних штучного інтелекту та використовують автоматизацію для масштабування атак швидше, ніж більшість організацій можуть їх виявити.

Дорожня карта CISO для ери, керованої штучним інтелектом

Як керівники інформаційних систем можуть відновити контроль в середовищі, де правила змінюються щодня, а ставки вищі, ніж будь-коли?

Відповідь полягає не в більшій кількості інструментів, а просто в кращому розумінні того, що відбувається з усіма даними, що рухаються. Це, у поєднанні зі стратегічним зрушенням у нашому підході до безпеки хмарних технологій та штучного інтелекту, є тим, що потрібно керівникам відділів інформаційної безпеки (CISO), щоб очолити свої організації в умовах цієї трансформації.

Ось дорожня карта, яку я використовую для забезпечення ясності для моєї організації, оскільки ми продовжуємо як використовувати, так і впроваджувати інновації зі штучним інтелектом:

1. Видимість має бути основоположною, а не необов'язковою

Штучний інтелект переосмислює те, що нам потрібно бачити. Більшість застарілих інструментів безпеки не створені для такого рівня складності. Традиційних даних з кінцевих точок та журналів більше недостатньо. Нам потрібна повна видимість усіх даних, що рухаються, включаючи латеральний східно-західний трафік, зашифровані потоки та специфічну для ШІ поведінку, таку як доступ до LLM, тіньові розгортання ШІ та спроби витоку даних, приховані в конвеєрах виведення. Ключ полягає в мережевій телеметрії у вигляді пакетів, потоків та метаданих, які, об'єднані з даними журналів, надають організаціям глибоку спостережуваність по всій їхній інфраструктурі.

Керівники сфери безпеки говорили про це багато разів, але зараз це звучить правдиво як ніколи: якщо ви чогось не бачите, ви не можете це захистити.

2. Вбудовуйте безпеку в ініціативи ШІ з першого дня

Одна з найнебезпечніших тенденцій, яку ми спостерігаємо, — це розрив між інноваціями у сфері штучного інтелекту та наглядом за безпекою. Безпеку не можна забезпечити постфактум, особливо враховуючи, що багато CISO несуть відповідальність за недоліки. Натомість, керівники з безпеки мають можливість переосмислити стратегії безпеки, збалансувавши трансформаційну силу ШІ з надійною моделлю управління. CISO повинні брати участь у розробці структури ШІ, співпрацюючи з командами, щоб визначити прийнятне використання, порогові значення ризику та політики управління з самого початку. Це забезпечить його безпечне розгортання та використання.

3. Об’єднуйте інструменти, а не множте їх

Розповсюдження інструментів – це тихий вбивця. У відповідь на нові ризики, пов’язані зі штучним інтелектом, багато організацій додавання інших інструментів, можливості та складності. Але це лише створює плутанину та більше сліпих зон. Натомість зосередьтеся на інтеграції меншої кількості потужніших платформ, які можуть обробляти та збагачувати телеметрію в усьому середовищі.

4. Надайте командам безпеки можливості за допомогою штучного інтелекту, а не проти нього

Все так просто: вам потрібна безпека для ШІ, і вам потрібен ШІ для безпеки. Керівники CISO повинні забезпечити собі видимість усього трафіку GenAI та LLM у режимі реального часу, включаючи Використання тіньового штучного інтелекту, що підозрюється майже у 80% організацій. Вкрай важливо, щоб використання ШІ було безпечним та врахованим, але давайте також заглибимося в останнє. Щоб зберегти перевагу, існує багато можливостей для використання переваг GenAI на благо вашої організації безпеки. Наприклад, помічники GenAI можуть допомогти аналітикам SOC писати правила виявлення, розслідувати інциденти та автоматизувати робочі процеси реагування. Інформація про трафік за допомогою ШІ може виявляти аномалії в поведінці моделі або виявляти несанкціоноване використання сервісів GenAI. Справа не в тому, щоб боятися ШІ, а в тому, щоб прийняти його на наших умовах, з управлінням та метою.

5. Розмовляйте мовою ради директорів

Зрештою, як директори з інформаційної безпеки (CISO), ми повинні працювати над узгодженням себе та своїх пріоритетів з радою директорів. Кібербезпека, особливо в епоху штучного інтелекту, прямує до того, щоб нести таку ж відповідальність, як і фінансові чи юридичні ризики, але ми повинні забезпечити, щоб бюджет, відповідальність та пріоритети були розподілені на рівні ради директорів.

З мого досвіду, рада директорів не хоче чути про технічні гіпотези та проблеми. Натомість вони хочуть розуміти бізнес-ризики та винагороди. Згідно з опитуванням, 88% керівників кажуть, що безпека штучного інтелекту зараз є пріоритетом на рівні ради директорів. Це дає нам чудову можливість переосмислити наші ініціативи з точки зору захисту цінності, операційної стійкості та конкурентної переваги.

В епоху цифрового прискорення керівники інформаційних систем (CISO) мають унікальну можливість очолити трансформацію штучного інтелекту. Забезпечуючи прозорість, узгоджуючи кібербезпеку з реаліями, що розвиваються, та перекладаючи ризики на стратегічну мову, зрозумілу для ради директорів, вони можуть розкрити конкурентну перевагу для своїх організацій. Майбутнє кібербезпеки полягає в одночасному прийнятті та впровадженні штучного інтелекту — відповідально, розумно та цілеспрямовано.