Генеративний ІІ перетворює кібербезпеку

Індустрія кібербезпеки завжди стикалася з великими викликами, і сьогодні ці виклики ще більш серйозні та поширені, ніж будь-коли раніше.

Хоча організації приймають все більше цифрових інструментів для оптимізації операцій та підвищення ефективності, вони одночасно збільшують свою атаковану поверхню – ступінь уразливих точок входу, які можуть бути використані хакерами, роблячи їх більш вразливими до зростаючих кібер-загроз, навіть якщо їхні засоби захисту покращуються. Що ще гірше, організації повинні протистояти цій швидко зростаючій кількості загроз серед браку кваліфікованих фахівців з кібербезпеки.

На щастя, інновації в галузі штучного інтелекту, особливо Генеративного ІІ (Генеративний ІІ), пропонують рішення деяких із найскладніших проблем індустрії кібербезпеки. Але ми тільки почали використовувати потенціал Генеративного ІІ – хоча його роль у кібербезпеці очікується зростати експоненціально у найближчі роки, залишаються не використані можливості, де ця технологія могла б ще більше поліпшити прогрес.

Поточні застосування та переваги Генеративного ІІ у кібербезпеці

Одним із найважливіших напрямків впливу Генеративного ІІ на індустрію кібербезпеки є його здатність надавати автоматичні висновки, які раніше були недоступні.

Перші етапи обробки даних, фільтрації та маркування все ще часто виконуються старішими поколіннями машинного навчання, які добре справляються з обробкою та аналізом великих масивів даних, таких як сортування через великі набори сигналів про уразливості та виявлення потенційних аномалій. Генеративний ІІ має справжню перевагу в тому, що відбувається далі.

Після того, як дані були попередньо оброблені та визначені, Генеративний ІІ може вступити у дію, щоб надати розширені можливості висновків, які виходять за межі того, що можуть досягти попередні покоління ІІ. Інструменти Генеративного ІІ пропонують глибшу контекстуалізацію, більш точні прогнози та нюансовані висновки, які недоступні старішими технологіями.

Наприклад, після обробки великого набору даних – скажімо, мільйонів документів – через інші засоби, Генеративний ІІ надає додатковий шар аналізу, валідації та контексту над відібраними даними, визначаючи їхню актуальність, терміновість та потенційні ризики безпеки. Він навіть може ітеруватися над своїм розумінням, генеруючи додатковий контекст, переглядаючи інші джерела даних, уточнюючи свої можливості прийняття рішень з часом. Цей шаровий підхід виходить за межі простої обробки даних та зсуває фокус на розширені висновки та адаптивний аналіз.

Виклики та обмеження

Незважаючи на недавні поліпшення, залишаються багато викликів при інтеграції Генеративного ІІ до існуючих рішень з кібербезпеки.

По-перше, можливості ІІ часто сприймаються з нереалістичними очікуваннями, що веде до ризику надмірної залежності та недооцінки інженерних рішень. ІІ не є магічним чи досконалим. Не секрет, що Генеративний ІІ часто дає неточні результати через упередженість входних даних або неправильні виходи, відомі як галюцинації.

Ці системи вимагають ретельної інженерії, щоб бути точними та ефективними, і повинні розглядатися як один з елементів ширшої структури кібербезпеки, а не як повна заміна. У більш неформальних ситуаціях або некомерційних використаннях Генеративного ІІ галюцинації можуть бути незначними, навіть комічними. Але у світі кібербезпеки галюцинації та упередженість можуть мати катастрофічні наслідки, які можуть привести до випадкової експозиції критичних активів, порушення та суттєві репутаційні та фінансові збитки.

Не використані можливості: ІІ з агентством

Виклики не повинні зупиняти організації від прийняття рішень щодо використання ІІ. Технологія все ще розвивається, і можливості для ІІ поліпшити кібербезпеку будуть продовжувати зростати.

Спроможність Генеративного ІІ до висновків та отримання інформації з даних стане ще більш розвиненою в найближчі роки, включаючи визнання тенденцій та пропозицію дій. Сьогодні ми вже бачимо вплив передового ІІ на спрощення та прискорення процесів шляхом активної пропозиції дій та стратегічних наступних кроків, що дозволяє командам зосередитися менше на плануванні та більше на продуктивності. Коли можливості висновків Генеративного ІІ продовжать покращуватися та зможуть краще імітувати процеси мислення безпеки-аналітиків, він буде діяти як розширення людського досвіду, роблячи складну кібербезпеку більш ефективною.

Під час оцінки безпеки агент ІІ може діяти з справжнім агентством, приймаючи контекстні рішення під час дослідження взаємопов’язаних систем – таких як Okta, GitHub, Jenkins та AWS. Замість того, щоб спиратися на статичні правила, агент ІІ динамічно рухається через екосистему, визначаючи закономірності, коригуючи пріоритети та зосереджуючись на ділянках з підвищеними ризиками безпеки. Наприклад, агент може визначити вектор, де дозволи в Okta дозволяють розробникам широкий доступ через GitHub до Jenkins, а потім до AWS. Розпізнавши цей шлях як потенційний ризик для небезпечного коду, який досягає виробництва, агент може автономно вирішити провести подальше дослідження, зосереджуючись на конкретних дозволах, робочих процесах та засобах безпеки, які можуть бути слабкими місцями.

Інкорпоруючи пошуково-розширений генеративний підхід (RAG), агент використовує як зовнішні, так і внутрішні джерела даних – черпаючи з недавніх звітів про уразливості, рекомендацій та навіть конкретних конфігурацій організації для формування свого дослідження. Коли RAG надає інформацію про загальні пробіли в безпеці CI/CD-пайплайнів, наприклад, агент може включити цю інформацію до свого аналізу, коригуючи свої рішення в реальному часі, щоб підкреслити ділянки, де збігаються ризикові чинники.

Крім того, тонке налаштування може підвищити автономність агента ІІ, адаптуючи його процес прийняття рішень до унікальної середовища, в якому він діє. Зазвичай, тонке налаштування здійснюється за допомогою спеціалізованих даних, які застосовуються до широкого спектра випадків використання, а не даних з конкретного середовища клієнта. Однак у певних випадках, таких як продукти з одним клієнтом, тонке налаштування може застосовуватися до даних конкретного клієнта, щоб дозволити агенту внутрішньо поглинати конкретні нюанси безпеки, роблячи свої вибори ще більш інформованими та нюансованими з часом. Цей підхід дозволяє агенту навчатися з попередніх оцінок безпеки, уточнюючи своє розуміння того, як пріоритизувати певні вектори, наприклад ті, які включають прямий зв’язок від середовищ розробки до виробництва.

З комбінацією агентства, RAG та тонкого налаштування цей агент виходить за межі традиційного виявлення до проактивного та адаптивного аналізу, дзеркально відображаючи процеси прийняття рішень кваліфікованих людей-аналітиків. Це створює більш нюансований, контекстно-чутливий підхід до безпеки, де ІІ не просто реагує, а передбачає ризики та коригує відповідно, як це робить людина-експерт.

ІІ-орієнтована пріоритизація сигналів

Іншим напрямком, де підходи на основі ІІ можуть зробити суттєвий вплив, є зменшення втоми від сигналів. ІІ може допомогти зменшити втому від сигналів, співробітничуючи у фільтрації та пріоритезації сигналів на основі конкретної структури та ризиків всередині організації. Замість застосування загального підходу до всіх подій безпеки, ці агенти ІІ аналізують кожну діяльність у її ширшому контексті та спілкуються один з одним, щоб висвітити сигнали, які свідчать про справжні проблеми безпеки.

Наприклад, замість того, щоб спрацьовувати сигнали на всі зміни дозволів доступу, один агент може визначити чутливу ділянку, вплинутою зміною, тоді як інший оцінює історію подібних змін, щоб оцінити ризик. Разом ці агенти зосереджуються на конфігураціях або діяльності, які дійсно підвищують ризики безпеки, допомагаючи командам безпеки уникнути шуму від низькопріоритетних подій.

Постійно навчаючись як з зовнішньої розвідки загроз, так і з внутрішніх закономірностей, ця система агентів адаптується до нових ризиків та тенденцій по всій організації. З спільним розумінням контекстних чинників агенти можуть уточнювати сигнали в реальному часі, переходячи від потоку сповіщень до потоку, який підкреслює критичні висновки.

Цей співробітницький, контекстно-чутливий підхід дозволяє командам безпеки зосередитися на високопріоритетних питаннях, зменшуючи когнітивне навантаження управління сигналами та підвищуючи операційну ефективність. Приймаючи мережу агентів, які спілкуються та адаптуються на основі нюансів, що змінюються в реальному часі, організації можуть зробити суттєві кроки у пом’якшенні викликів втоми від сигналів, в кінцевому підсумку підвищуючи ефективність операцій з безпеки.

Майбутнє кібербезпеки

По мірі зростання цифрового ландшафту зростає й складність та частота кібер-загроз. Інтеграція Генеративного ІІ до стратегій кібербезпеки вже доводить свою трансформаційну силу у боротьбі з цими новими загрозами.

Але ці інструменти не є універсальним засобом для всіх проблем індустрії кібербезпеки. Організації повинні бути обізнані про обмеження Генеративного ІІ та тому приймати підхід, у якому ІІ доповнює людський досвід, а не замінює його. Ті, хто приймає інструменти кібербезпеки на основі ІІ з відкритим розумом та стратегічним поглядом, допоможуть формувати майбутнє індустрії у щось більш ефективне та безпечне, ніж будь-коли раніше.