AI проти AI: Нова реальність кібербезпеки

Кібератаки, які використовують штучний інтелект, вже відбулися, підтвердивши те, що раніше було лише теоретичним, але очікуваним ризиком, і вони оголошують нову еру в ландшафті загроз. З появою агентів штучного інтелекту, які можуть запускати складні, повністю автоматизовані кампанії за лічені хвилини, кіберзлочинці можуть виявляти та експлуатувати уразливості підприємств з швидкістю машин. Правила взаємодії змінилися: вчорашня кібербезпека вже не може впоратися з сьогоднішньою атакою, яка використовує штучний інтелект.

Оскільки штучний інтелект посилює кіберзагрози, підприємства повинні розгорнути свої власні захисні можливості, які використовують штучний інтелект, щоб збереження темпу в плані швидкості, масштабу та точності. Наразі кіберзлочинці все ще дотримуються знайомих тактик, технік та процедур (TTP), але штучний інтелект прискорює та вдосконалює їхню книгу рецептів. Крім того, власні моделі штучного інтелекту підприємств також стають новою ціллю через отруєння моделей та соціальну інженерію, засновану на мові, що вимагає від кіберкоманд правильно захистити свої можливості штучного інтелекту. Тому безпека повинна бути основною частиною більшої стратегії штучного інтелекту організації.

Що відрізняє кібератаки, які використовують штучний інтелект?

У цифровому світі, який вже насичений майже безперервними спробами кіберінтриг, бар’єр для входу зловмисного актора був знижений, що збільшує не тільки кількість, але й складність атак. Кібератаки, які використовують штучний інтелект, можуть тепер використовувати штучний інтелект або машинне навчання (ML), щоб автоматизувати, прискорити або вдосконалити будь-яку фазу життєвого циклу атаки, від розвідки та збору інформації до експлуатації та витоку конфіденційних даних.

Залишатися виключно на існуючих процесах та технологіях безпеки без розгортання тих самих передових технологій, які використовують противники, надає противнику перевагу, яку майже неможливо масштабувати без захисного штучного інтелекту. Організації вже перевантажені моніторингом свого підприємства з традиційних загроз. Кібератаки, які використовують штучний інтелект, ще більше посилять втому від попереджень. Це вимагає еволюції від процесів, керованих людиною, до гібридної кібербезпеки людини/цифрової робочої сили.

Мапа кожного цифрового активу

У сучасному світі розуміння потенційних точок входу по всьому підприємству є мінімальним вимогами, але все ще недоступним для багатьох великих підприємств. Окрім цифрових систем та активів існує необхідність у комплексному мапуванні всіх ідентифікаторів та доступу в організації. Цифрова ідентичність, яка зв’язує фізичні та поведінкові характеристики з людиною, добре зрозуміла з існуючими контролями, необхідними для управління цифровим доступом.

Однак розуміння підприємства-широкого ландшафту нелюдських ідентифікаторів (NHIs) є важливим для захисту цифрових активів. Реалізація потенційної цінності штучного інтелекту в організації означає надання агентам штучного інтелекту доступу та дозволу автономно завершувати бізнес-процес. Як і хмарні середовища попередньої епохи безпеки, сьогодні агентські потоки роботи створюються та ліквідуються нелюдськими ідентифікаторами у масштабі, що вимагає розширеної здатності керувати та відстежувати, де вони діють у середовищі та як вони виконують призначені місії чи ролі.

Підприємства повинні розширити управління ідентифікацією по всьому життєвому циклу ідентифікації агента та моніторити дії агента, як вони сьогодні моніторять доступ людини для внутрішніх ризиків чи компрометації облікових записів з боку загроз. Коли агентські можливості набувають більшої автономії та виконують бізнес-критичні завдання, розуміння того, яким є їхній слід ідентифікації та шаблон доступу, є критичним для реалізації необхідних контролю доступу та моніторингу для захисту їх та підприємства від зловживання.

Заблокуйте моделі штучного інтелекту

Можливості штучного інтелекту мають обіцянку розблокування ефективності та продуктивності, але також мають потенціал бути використаними проти організацій. Введення штучного інтелекту у кожний аспект бізнес-операцій вже не є “приємним”, а є вимогами для успіху в сучасному конкурентному ландшафті. Тому безпечне розгортання штучного інтелекту є необхідним компонентом для безпечної реалізації повного бізнес-потенціалу та результатів.

Перехід до кібербезпеки, яка використовує штучний інтелект, триває, тоді як моделі штучного інтелекту самі стали цілями. Противники можуть спробувати отруїти дані, які живлять ці моделі, та маніпулювати ними, щоб вони виконували ненавмисні дії або навіть розкривали конфіденційну інформацію.

Ворожі атаки проти штучного інтелекту можуть мати різні форми, такі як атаки отруєння, атаки ін’єкції запитів та інші. Для належного захисту штучного інтелекту від потенційної маніпуляції організації повинні використовувати філософію Агентства кібербезпеки інфраструктури (CISA) Безпечно за проектом. Це починається з даних, які живлять навчання моделі. Блокування входів на ранній стадії розробки створює основу для надійних виходів під час розгортання.

Розуміння входів, які використовуються для розробки моделей та можливостей, є можливим завдяки наміреному керування даними разом з контролем доступу до самих моделей. Критичні контролі, які дозволяють验证увати бажані виходи, приймаються у вигляді запобігання втраті даних (DLP); виконання політики та безпеки; зв’язування через верифіковані джерела; та суворі контролі схвалення для дій високого впливу, аудитабельності та безперервного тестування, включаючи тестування на проникнення моделей для їхнього посилення.

Вбудуйте штучний інтелект у операції з безпеки

До цього часу застосування штучного інтелекту до кібербезпеки було тактичним, з багатьма організаціями, які прикріплювали штучний інтелект до спадкових, людсько-орієнтованих процесів, а не стратегічно переосмислювали, як будувати процеси, орієнтовані на штучний інтелект. Це схоже на те, щоб прикріпити двигун V8 до велосипеда. Наступна еволюція можливостей штучного інтелекту буде полягати у проектуванні процесів з нуля, з агентським штучним інтелектом та автоматизацією, вбудованими в проект. Спробовані та перевірені методи та процеси безпеки, такі як виявлення загроз, полювання на загрози та інженерія виявлення, все ще є критичними елементами, які необхідні для організаційної безпеки в епоху штучного інтелекту. Трансформація поточних процесів безпеки для забезпечення посилення штучним інтелектом може створити сильну основу для майбутнього центру операцій з безпеки, який використовує штучний інтелект.

Крім того, автоматизація не є новим поняттям, унікальним для появи штучного інтелекту; безпекові робочі потоки та процеси автоматизувалися протягом років, з зрілими організаціями, які мають дуже складні можливості оркестрації та автоматизації. Однак штучний інтелект посилює існуючу автоматизацію, засновану на правилах, та вдосконалює її далі, дозволяючи створювати динамічні, адаптивні, контекстно-багаті автоматизовані робочі потоки, які можуть допомогти впоратися з швидкістю та гнучкістю, необхідними для цих нових ризиків штучного інтелекту.

Що далі?

Безпека повинна продовжувати бути на першому місці для бізнесу та ІТ, щоб зберегти їхні критичні активи та користувачів у безпеці від зловмисної експлуатації. Безпечний за проектом штучний інтелект є необхідністю, враховуючи швидкість, з якою моделі штучного інтелекту можуть бути розгорнуті та запрошені до виконання більш критичних завдань. Кіберкоманди повинні стратегічно думати про трансформацію процесів з нуля для належного впровадження нових можливостей штучного інтелекту, щоб збереження темпу в кібер-кішці та миші.

Лідери з безпеки можуть зробити кілька конкретних кроків у ближньому майбутньому: провести комплексний огляд поточних процесів безпеки, щоб виявити пробіли, можливості модернізації та області, які готові до трансформації. Залишатися на вершині нових загроз, тенденцій та технологій штучного інтелекту. Передусім, залишаються прив’язані до фундаментальної безпекової засади захисту в глибину, яка довела себе протягом часу – шаровий захист та верифікація від ідентифікації до кінцевої точки, мережі, даних з потужними можливостями моніторингу та реагування, які постійно тестируються.

Трансформаційна потенція штучного інтелекту обіцяє занадто велику вигоду, щоб відмовитися від його прийняття, і джин уже вийшов з пляшки для загроз. Тому роль лідерів з безпеки в цій наступній епохі така ж, як і завжди була: підтримка організацій у досягненні їхніх бізнес-цілей з вдумливою мітігацією ризиків – тільки зараз з швидкістю машин за допомогою використання штучного інтелекту.