ИИ-агенты превращают нулевые дни в гонку, которую люди не могут выиграть в одиночку

В течение многих лет уязвимости нулевого дня были опасными, но они были редкими и трудными для эксплуатации в масштабе. Для обнаружения одной уязвимости требовалось терпение, специальные навыки и глубокое понимание поведения программного обеспечения. Как сообщали Николь Перлрот и другие журналисты, существовал рынок нулевых дней, и государства рассматривали их как чрезвычайно ценные кибер-оружия.

Сегодня нулевые дни широко доступны. Почти любой может обнаружить новые уязвимости самостоятельно, с помощью открытых ИИ-моделей или проприетарных ИИ, таких как Claude и OpenAI.

Те же самые достижения, которые делают ИИ полезным для написания кода, суммирования журналов и ускорения операций безопасности, также могут быть использованы для поиска уязвимостей, цепочки уязвимостей и тестирования путей эксплуатации с скоростью машины. Атакующим больше не нужно вручную проверять каждую зависимость,逆-инженер каждое приложение или тратить недели на поиск уязвимости. ИИ-агенты могут автоматизировать большую часть этой работы, исследуя кодовые базы, сканируя открытые системы, генерируя гипотезы и итерируя до тех пор, пока они не найдут что-то полезное.

Это изменяет экономику эксплуатации нулевых дней. Человеческий атакующий может иметь время только для преследования наиболее перспективных целей. ИИ-ассистированный атакующий может позволить себе изучить гораздо больше программного обеспечения, гораздо быстрее, с гораздо меньшей усталостью. Даже если большинство попыток терпят неудачу, огромное количество попыток делает успех более вероятным. В кибербезопасности масштаб часто превращает редкие события в обычные.

ИИ расширяет поверхность поиска нулевых дней

Это почему нулевые дни становятся более срочным риском для предприятий. Современное программное обеспечение слишком велико, слишком взаимосвязано и слишком зависит от компонентов третьих сторон, чтобы любая организация могла полностью понять каждую слабость до того, как это сделает атакующий. Большинство компаний полагаются на сложную смесь коммерческих платформ, открытых библиотек, облачных сервисов, приложений SaaS, API, систем идентификации, устройств на краю сети и внутренних инструментов. Каждый слой вводит потенциальные уязвимости. Каждая интеграция создает новые пути атаки. Каждое обновление может тихо изменить профиль риска.

Неудобная реальность заключается в том, что существует огромное количество неоткрытых уязвимостей внутри программного обеспечения всех видов. Некоторые из них существуют в старом коде. Некоторые из них существуют в новом коде, написанном под давлением. Некоторые из них приходят из зависимостей, которые немногие организации отслеживают с достаточной точностью. Некоторые из них возникают из того, как системы взаимодействуют, даже когда каждый отдельный компонент кажется безопасным. ИИ-агенты хорошо подходят для исследования этой сложности, потому что они могут искать широко, настойчиво и адаптивно.

Защитники сталкиваются с невозможной задачей патчинга. Вы не можете исправить уязвимость, которую вы не знаете. Вы не можете расставить приоритеты для каждой теоретической слабости одинаково. Вы не можете полностью протестировать каждую комбинацию программного обеспечения, конфигурации и поведения пользователя до развертывания. Даже зрелые программы управления уязвимостями часто строятся вокруг известных CVE, рекомендаций поставщиков и потоков угроз. Те являются важными, но они приходят после обнаружения. В мире, где ИИ ускоряет охоту за нулевыми днями, обнаружение может произойти сначала в руках атакующего.

Это создает растущую игру в “кто кого”. Уязвимость обнаружена. Патч срочно выпускается. Эксплуатация смещается на соседнюю систему, другую зависимость или новый открытый интерфейс. Команды безопасности реагируют, но список задач продолжает расширяться. ИИ увеличивает скорость молотка с обеих сторон, но атакующие часто выигрывают сначала, потому что им нужно найти только один жизнеспособный путь. Защитники должны защитить все.

Долгосрочный ответ может прийти от самого ИИ. Когда системы ИИ становятся лучше в генерации, проверке и тестировании кода, они должны помочь исключить целые классы уязвимостей до того, как программное обеспечение достигнет производства. Разработка, ориентированная на безопасность, может стать гораздо более практической, когда ИИ может непрерывно проверять код, выявлять небезопасные модели, моделировать эксплуатацию и рекомендовать исправления в реальном времени. В конце концов, мы можем достичь точки, когда общие ошибки памяти, внедрения, ошибки аутентификации и небезопасные конфигурации будут значительно сокращены, потому что ИИ-ассистированная инженерия обнаруживает их на ранней стадии. В нашей работе над DeepTempo мы уже видим более широкое использование безопасных языков, таких как Rust, в нашем программном обеспечении; хотя Rust более сложен в некоторых отношениях, он более безопасен, и его написание стало намного проще благодаря ИИ.

Защитники должны сменить фокус с скорости патчинга на устойчивость к атакам

Хотя будущее, в котором все программное обеспечение исправлено или переписано в более безопасном виде, стоит преследовать, неясно, насколько теоретически возможно это на самом деле по разным причинам. В любом случае, мы знаем, что оно еще не наступило и не наступит в течение многих лет. Сегодняшний ИИ-генерируемый код все еще может ввести уязвимости. И инструменты безопасности ИИ все еще могут пропустить контекст. Сегодняшние корпоративные среды все еще содержат десятилетия накопленного технического долга. Атакующие уже используют автоматизацию, чтобы двигаться быстрее, в то время как защитники все еще интегрируют ИИ в существующие рабочие процессы, цепочки утверждений и модели риска, и обнаруживают, что модели крупного языка не полезны при обнаружении атак.Более подробную информацию о том, как модели крупного языка справляются с обнаружением, можно найти в недавних открытых бенчмарках, таких как SOC Bench. Например, инженеры, стоящие за SOC Bench, обнаружили, что лучшие модели крупного языка имеют уровень ложных положительных результатов в диапазоне 20% и будут стоить сотен миллионов долларов в день в масштабе типичной крупной среды безопасности.В результате всех этих факторов, рост ИИ в настоящее время сильно благоприятствует атакующим.

К сожалению, организации должны предположить, что некоторые неизвестные уязвимости будут обнаружены противниками до того, как они будут раскрыты публично. Более того, благодаря улучшению фишинга и распространению захвата идентификаций, атакующие могут просто войти в систему.Короче говоря, по крайней мере в среднесрочной перспективе, больше чем когда-либо стратегия безопасности не может зависеть исключительно от предотвращения. Предотвращение остается важным, но оно должно быть сочетано с более быстрым обнаружением, более сильными поведенческими аналитиками и более плотным содержанием.

Как предложили различные организации недавно, включая NIST, Five Eyes и Национальную академию наук, учитывая рост ИИ-усилителей атак, команды безопасности должны пересмотреть подходы к пониманию того, что такое нормальное поведение пользователей, машин, идентификаций, приложений и потоков данных. Эксплуатация нулевых дней часто успешна, потому что она обходит известные сигнатуры, но она все равно оставляет следы, которые сегодняшние наиболее мощные модели классификации могут увидеть и различить. Например, атаки могут показывать необычные модели доступа, аномальное использование привилегий, неожиданную активность процессов, странные потоки аутентификации или перемещение данных, которое, в сочетании, не соответствует базовой линии среды. Специально разработанный ИИ может помочь защитникам найти эти сигналы раньше, особенно когда сама атака является новой.

Кроме того, компании должны уменьшить радиус компрометации. Сегментация, минимальные привилегии, сильный контроль идентификаций, непрерывный мониторинг и быстрая изоляция имеют значение больше, когда неизвестные уязвимости эксплуатируются. Если атакующий использует нулевой день для входа, следующий вопрос заключается в том, как далеко он может продвинуться, прежде чем будет обнаружен. Чем меньше это окно, тем менее ценна эксплуатация становится.

Нет чистой паузы для этого момента. ИИ-агенты будут продолжать улучшаться. Офенсивная экспериментация будет продолжать ускоряться. Количество систем, достойных исследования, будет продолжать расти. Задача сообщества безопасности заключается в том, чтобы обеспечить быстрое созревание защитного ИИ.

Нулевые дни всегда вознаграждали скорость, креативность и асимметрию. ИИ-агенты усиливают все три. Организации, которые адаптируются, будут рассматривать ИИ как нечто большее, чем слой производительности для команд безопасности. Они также будут использовать специально разработанный ИИ для эффективного и точного обнаружения неизвестных угроз, определения приоритета слабых сигналов, которые в сочетании с тысячами других предполагают компрометацию, и реагирования до того, как эксплуатируемая уязвимость станет бизнес-кризисом.