Штучний інтелект, підзвітність та сигнал тривоги кібербезпеки

Як організації продовжують впроваджувати штучний інтелект (ШІ), щоб стимулювати інновації, трансформувати операції та оптимізувати процеси прийняття рішень, вони повинні мати справу з іншою реальністю: ШІ швидко змінює ландшафт загроз кібербезпеки. Хоча ШІ допомагає керівникам з інформаційною безпекою покращити виявлення та реагування, він також призводить до більш складних кібератак. Ті самі двигуни ШІ, які генерують цінні відомості, також можуть генерувати фальшиві особистості, фішингові кампанії та шкідливе програмне забезпечення.

Звіт Wipro про стан кібербезпеки 2025 року точно зображає цю реальність. Незважаючи на обіцянки ШІ посилити безпеку, організації все ще не дотягують до мети. Однак це не через технології, а через прогалини у підзвітності, ізольовані плани управління та погану підготовку працівників з питань кібербезпеки. Багато кібер-атак відбуваються не тільки через дії складних противників, а й через людську помилку та недостатню інвестицію в базову кібербезпеку.

Розширення ландшафту загроз

ШІ змінив ландшафт для кіберзлочинців. Тепер вони можуть використовувати генеративні моделі для створення персоналізованих фішингових повідомлень, автоматизувати створення шкідливого програмного забезпечення, яке може уникнути виявлення, та甚至 маніпулювати аудіо- та відеозаписами, щоб видавати себе за виконавців через глибокі фальсифікації. Ці тактики вже не обмежуються лише діями державних акторів або елітних груп хакерів, оскільки вони доступні через відкриті інструменти та платформи ШІ як послугу.

Дослідження Wipro показує, що 44% організацій зараз називають внутрішню недбалість та відсутність підготовки працівників з питань кібербезпеки основними уразливостями, навіть більшими, ніж вимагання викупу в індексі ризиків. Це показує, що багато підприємств не справляються з еволюцією атак: застарілі системи, застарілі програми та слабкі стратегії управління патчами роблять легко для кіберзлочинців порушувати мережі.

Ігнорування базових практик безпеки більше не є застарілим або прощеним недоглядом – це критичний ризик для бізнесу. Рост атак, що використовують ШІ, лише розширює розрив між організаціями, які серйозно ставляться до кібербезпеки, та тими, хто цього не робить.

Розмиті лінії відповідальності

Одним з ключових висновків звіту є відсутність ясності щодо володіння кібербезпекою. Хоча 53% керівників з інформаційною безпекою звітують безпосередньо керівникам інформаційних технологій, решта розкидані по різних виконавчих функціях, включаючи операційні директори, фінансових директорів та юридичні команди. Це ослаблює процес прийняття рішень та робить складним визначення, хто насправді відповідає за результати безпеки.

Ця проблема стає ще більш гострою, коли вступає в гру ШІ. Звіт показав, що 70% європейських респондентів вважають, що впровадження ШІ повинно бути спільною відповідальністю, однак лише 13% мають призначену команду, яка керує цим процесом. Впровадження ШІ часто відбувається без критичної оцінки ризиків та без чітко визначеної власності, що призводить до нестабільних практик, необмежених уразливостей та пропущених можливостей для узгодження з нормативними рамками.

Лідери інформаційних технологій повинні розглядати кібербезпеку та управління ШІ як стратегічні пріоритети на рівні виконавчої ради. Старші виконавці повинні виходити за межі пасивного нагляду та брати участь у таблицях, плануванні сценаріїв та оглядах кіберготовності. У сучасному середовищі співробітництво, комунікація та кризове управління необхідні для підтримання стійкості.

Роль ШІ у зміні безпеки

Хоча ШІ створив нові загрози, він також пропонує потужні можливості для захисту організацій. Виявлення загроз, що використовує ШІ, може аналізувати великі об’єми даних в реальному часі, зменшувати кількість помилкових спрацьовувань та визначати поведінкові аномалії, які можуть свідчити про порушення безпеки. Він може автоматизувати інцидентну трияжу, прискорювати час реакції та допомагати центрам операцій з безпеки.

За даними Wipro, 93% опитаних організацій віддають пріоритет ШІ для виявлення та реагування на загрози, що відображає цінність організацій у виявленні загроз. Ця двозначна природа ШІ вимагає виміреної та відповідальної підходу до впровадження. Організації потребують рамок управління, які охоплюють пояснення моделей, мінімізацію упередженості та дотримання законів про захист даних. Без цих рамок ШІ може стати непередбачуваним ризиком, а не інструментом для стійкості.

Чому підготовка працівників все ще має значення

У світі просунутих інструментів ШІ людська помилка все ще залишається найбільш послідовною уразливістю в кібербезпеці. Фішинг залишається основним вектором атак для 65% організацій. Коли нападники використовують ШІ для створення більш переконливих тактик соціальної інженерії, ризик порушення безпеки через дії користувачів збільшується.

Одна з основних причин цього полягає в тому, що організації часто розглядають підготовку з питань кібербезпеки як одноразову діяльність з дотримання вимог. Це повинно бути постійним процесом, який розвивається з часом. Працівників повинні готувати до загальних загроз та ризиків, пов’язаних з ШІ, таких як глибокі фальсифікації голосу або атаки на платформи, що використовують ШІ. Забуті оновлення, неозначені системи та залежність від застарілих інфраструктур залишаються постійними проблемами, які створюють можливості для порушень. Підготовка повинна супроводжуватися регулярними аудитами, управлінням патчами та координацією між відділами.

Щоб真正но захиститися від сучасних загроз, організації повинні інвестувати в людський та машинний інтелект та забезпечувати, щоб їхні команди були так само гнучкими та адаптивними, як і їхні технології.

Будівництво культури підзвітності

Основою стратегії кібербезпеки не є технологія; це ясність. Організації повинні визначити, хто відповідає за що, встановити структури управління та заохочувати культуру безпеки, яка охоплює всі області.

Ключем є надання керівнику з інформаційною безпекою або еквівалентній ролі ІТ-лідерства повноважень та видимості. Це мудро сформувати міжфункціональні ради з питань кіберризиків, які включають представників ІТ, відповідності, юридичних та бізнес-одиниць. Деякі компанії створюють комітети на рівні ради директорів, які займаються конкретно наглядом за кібербезпекою.

Рамки управління для розгортання ШІ повинні включати контроль над навчальними даними, розгортанням моделей, правами доступу та моніторингом в реальному часі. Ці рамки повинні розвиватися разом з регуляторними актами, такими як акт ШІ ЄС, та новими галузевими стандартами для етичного використання ШІ.

Підготовка працівників щодо ШІ також повинна бути вбудована в цю культурну зміну. Безпека ШІ не лише проблема ІТ – це спільна відповідальність по всіх відділам, регіонах та ролях. Уся компанія виграє, коли кожен у організації розуміє свою роль у захисті даних та систем.

Від усвідомлення до дії

ШІ переходить ландшафт кібербезпеки. Нападники стають швидшими, більш масштабними та все більш автоматизованими. Захисники мають потужні інструменти у своєму розпорядженні, але інструменти самі по собі не врятують їх.

Організаціям потрібно будувати кращі процеси управління, а не лише більш потужні алгоритми. Це включає у себе уточнення відповідальності за системи ШІ та, можливо, включення ШІ до складу кібербезпеки.

Звіт посилає чітке повідомлення: технології розвиваються швидко, але люди, процеси та пріоритети відстають. Перехід цього розриву є стратегічною необхідністю, особливо зараз, коли ШІ вступає в гру. Не залишається сумнівів, що ШІ продовжить трансформувати спосіб нашого життя та роботи. Але чи ця трансформація зміцнить чи підірве вашу організацію, залежить від того, наскільки серйозно ви ставитесь до підзвітності, починаючи з сьогодні.