Що прихід моделей штучного інтелекту Frontier говорить нам про майбутнє виявлення уразливостей

Коли Claude Mythos був оголошений у квітні, він швидко став одним з найбільших кібербезпекових обговорень епохи штучного інтелекту. Розроблений компанією Anthropic, нова модель великих мовних моделей продемонструвала безпрецедентні кіберможливості та викликав реакції, які класифікували його як значний технологічний прорив поряд з попередженнями про те, що кібербезпека може вступити в період безпрецедентної дестабілізації.

За даними компанії Anthropic, модель може самостійно виявляти велику кількість уразливостей нульового дня, як повідомляється, виявляючи помилки в основних операційних системах і браузерах, включаючи приклади, які залишалися невиявленими протягом десятиліть. Вона також могла поєднувати окремі слабкості в робочі багатокрокові експлойти.

Його вплив був настільки драматичним, що до 12 червня уряд США наказав компанії Anthropic припинити доступ до технології для будь-яких іноземних громадян у світі, включаючи іноземних працівників компанії Anthropic. Це було широко сприйнято як реакція на побоювання, що наступальні можливості штучного інтелекту можуть досягти точки, в якій необмежений доступ може створити неприйнятні, навіть неконтрольовані ризики.

У рамках проекту Glasswing, програми розкриття та усунення вад компанії Anthropic, доступ зараз обмежений приблизно 50 організаціями, включаючи AWS, Apple, Google, Microsoft, CrowdStrike, Cisco та Linux Foundation, серед інших. Цим підприємствам було надано вікно для патчування критичних систем до того, як уразливості, виявлені моделлю Mythos, будуть публічно розкриті з липня. На цьому етапі галузь справді вступає в нову територію.

Перетин Рубікону

Багато хто погодиться, що прихід моделей штучного інтелекту Frontier означає, що рубіж безпеки перетинуто. І давайте будемо ясними: основна проблема полягає не обов’язково в появі конкретної моделі, а у можливості (або навіть ймовірності) того, що виявлення уразливостей та розробка експлойтів самі по собі можуть вступити в нову епоху, в якій штучний інтелект зможе діяти в масштабі та зі швидкістю, недоступними для людських дослідників.

Якщо це доведеться, наслідки виходять далеко за межі конкретних уразливостей; вони впливають на припущення, на яких традиційно будувалися процеси управління уразливостями та усунення вад. Зокрема, поточні процеси управління уразливостями були розроблені в епоху, коли людські дослідники обмежували темп відкриття.

Одним із наслідків, ймовірно, стане різке збільшення кількості уразливостей, що входять у безпекову екосистему. Об’єми CVE вже значно зросли за останні роки, і команди з безпеки вже зараз піддаються зростаючому тиску, навіть до того, як повний вплив моделей штучного інтелекту Frontier буде відчутний.

У цьому контексті сам процес виявлення уразливостей вже не є обмежувальним чинником. Замість цього瓶нець зсувається до тріажу та усунення вад. Виклик посилюється тим фактом, що часові рамки експлуатації скорочуються роками, і в деяких випадках експлойти з’являються до того, як патчі стають доступними, залишаючи організаціям мало часу на реакцію.

Операційна готовність стає пріоритетом

Так, який вигляд має оновлений, придатний для використання підхід до управління уразливостями? По-перше, його потрібно розглядати як безперервну операційну здатність, оскільки вікно між відкриттям і розгортуванням патчів часто занадто повільне. Команди з безпеки повинні розуміти, які уразливості насправді експлуатуються, та які системи під впливом.

По мірі зростання кількості результатів та зменшення часу до експлуатації оперативне використання штучного інтелекту для безпеки стане необхідним. Команди, які використовують передові можливості виявлення штучного інтелекту (при управлінні витратами на токени) та автоматизують виявлення, тріаж та усунення вад, будуть найкраще підготовлені до мінімалізації вікон експлуатації та негативних впливів на бізнес. Це не про те, щоб виявити найбільшу кількість уразливостей; це про те, щоб ідентифікувати та усунути найважливіші питання швидко.

По-друге, і що важливіше, моделі штучного інтелекту Frontier – це інструменти кіберзахисту. Члени проекту Glasswing можуть використовувати ці моделі для виявлення та виправлення раніше невиявлених уразливостей, ідеально з передовим доступом, щоб мати перевагу над атакувальниками, коли вони неминуче отримають доступ до можливостей моделей штучного інтелекту Frontier. Моделі штучного інтелекту Frontier – це цінний інструмент виявлення; однак вони не автоматично розв’язують операційні аспекти управління скануванням штучного інтелекту (що потрібно сканувати, коли, як оркеструвати сканування, що робити з результатами, як керувати витратами на токени тощо). Незалежно від того, яку модель використовують (і вони покращуватимуться з часом), команди з безпеки повинні бути здатні оперативно використовувати можливості моделей штучного інтелекту для кібербезпеки швидше, ніж атакувальники зможуть використати ці можливості для експлуатації.

Довгостроковий виклик, з яким стикаються організації, полягає не в підготовці до однієї моделі або конкретної хвилі розкриття інформації, а в тому, чи можуть існуючі операційні моделі адаптуватися до світу, в якому уразливості виявляються та використовуються з безпрецедентною швидкістю. Якщо це зробити неправильно, організації будуть стикатися зі світом проблем.