Искусственный интеллект против искусственного интеллекта: новая реальность кибербезопасности

Кибератаки, использующие искусственный интеллект, стали реальностью, подтвердив теоретический, но ожидаемый риск, и они знаменуют новую эру в ландшафте угроз. С помощью агентов ИИ, которые могут запускать сложные, комплексные кампании за несколько минут, киберпреступники могут выявлять и использовать уязвимости предприятий с машинной скоростью. Правила взаимодействия изменились: вчерашняя кибербезопасность больше не может идти в ногу с сегодняшней ИИ-обеспеченной атакой.

Поскольку ИИ усиливает киберугрозы, предприятиям необходимо развертывать свои собственные ИИ-обеспеченные защитные возможности, чтобы идти в ногу по скорости, масштабу и точности. Пока киберпреступники следуют знакомым тактикам, техникам и процедурам (ТТП), но ИИ ускоряет и улучшает их игровой план. Кроме того, сами модели ИИ предприятий стали новой целью через отравление моделей и языковую социальную инженерию, требуя от киберкоманд правильно защитить свои возможности ИИ. Поэтому безопасность должна быть основной частью более широкой стратегии ИИ организации.

Что отличает кибератаки, использующие искусственный интеллект?

В цифровом мире, уже насыщенном практически непрерывными попытками кибер-вторжения, барьер для входа злоумышленника был снижен, увеличивая не только объем, но и сложность атак. Атаки, использующие ИИ, могут теперь использовать ИИ или машинное обучение (МО) для автоматизации, ускорения или улучшения любой и каждой фазы цикла атаки, от разведки и сбора информации до эксплуатации и выведения конфиденциальных данных.

Полагаться исключительно на существующие процессы и технологии безопасности без развертывания той же передовой технологии, которую используют противники, дает противнику преимущество, которое практически невозможно масштабировать без защитного ИИ. Организации уже перегружены мониторингом своей деятельности от традиционных угроз. Атаки, использующие ИИ, будут усугублять усталость от оповещений. Это требует эволюции от процессов, управляемых людьми, к гибридной кибер-человеческой и цифровой рабочей силе.

Отобразить каждое цифровое активы

В сегодняшнем мире понимание потенциальных точек входа во всей среде предприятия является основным требованием, но все еще недоступным для многих крупных предприятий. Помимо цифровых систем и активов есть необходимость в комплексном отображении всех идентификаторов и доступа внутри организации. Цифровая идентичность, которая связывает физические и поведенческие характеристики с отдельным человеком, хорошо понимается с существующими контролями, необходимыми для управления цифровым доступом.

Однако понимание ландшафта организации в целом по нечеловеческим идентификаторам (НИ) является необходимым для защиты цифровых активов. Осознание потенциальной ценности ИИ внутри организации означает предоставление агентам ИИ доступа и разрешения на автономное выполнение бизнес-процесса. Как и облачные среды предыдущей эры безопасности, сегодняшние агентно-управляемые рабочие процессы запускаются и останавливаются НИ в масштабе, требуя продвинутой возможности управления и отслеживания того, где они работают в среде и как они выполняют намеченные миссии или роли.

Предприятия должны расширить управление идентификаторами на протяжении всего жизненного цикла агентской идентичности и отслеживать действия агентов, как они отслеживают доступ пользователей сегодня для поведения внутренних рисков или компрометации учетных записей угрозами. По мере того, как агентские возможности приобретают больше автономности и бизнес-критические задачи, понимание того, как выглядит их идентификатор и шаблон доступа, имеет решающее значение для реализации необходимых контролей доступа и мониторинга для защиты их и предприятия от неправильного использования.

Заблокировать модели ИИ

Возможности ИИ имеют обещание разблокировать эффективность и производительность, но также имеют потенциал быть использованными против организаций. Введение ИИ в каждый аспект бизнес-операций больше не является “хорошим”, а является требованием для успеха в сегодняшнем конкурентном ландшафте. Поэтому безопасное развертывание ИИ является необходимым компонентом для безопасного освоения полного бизнес-потенциала и результатов.

Переход к кибер-оборонной системе, основанной на ИИ, продолжается, в то время как модели ИИ сами стали целями. Противники могут попытаться отравить данные, которые подают эти модели, и манипулировать ими, чтобы они выполняли непредвиденные действия или даже раскрывали конфиденциальную информацию.

Враждебные атаки против ИИ могут принимать различные формы, такие как атаки по отравлению, атаки по внедрению запросов и другие. Чтобы правильно защитить ИИ от потенциальной манипуляции, организации должны использовать философию Кибер-инфраструктуры и Агентства безопасности (CISA) Безопасность по дизайну. Это начинается с данных, которые подают обучение модели. Блокировка входных данных на ранней стадии разработки закладывает основу для надежных выходных данных в развертывании.

Понимание входных данных, которые используются для разработки моделей и возможностей, возможно благодаря намеренному управлению данными и контролю доступа к самим моделям. Критические контроли, которые позволяют проверять желаемые выходные данные, включают в себя предотвращение потери данных (DLP); обеспечение политики и безопасности; привязку через проверяемые источники; и строгие контроли утверждения для действий с высоким воздействием, аудитability и непрерывного тестирования, включая тестирование на проникновение моделей для их укрепления.

Встроить ИИ в операции безопасности

До сих пор применение ИИ к кибер-обороне было тактическим, и многие организации прикрепляли ИИ к наследованным, человеко-ориентированным процессам, а не стратегически переосмысливали, как строить ИИ-центрические процессы. Это похоже на то, как если бы вы пытались прикрепить двигатель V8 к велосипеду. Следующая эволюция ИИ-обеспечения будет заключаться в проектировании процессов с нуля, с агентным ИИ и автоматизацией, родными в дизайне. Попробованные и истинные методы и процессы безопасности, такие как обнаружение угроз, охота за угрозами и инженерия обнаружения, все еще являются важными элементами, которые необходимы для безопасности организации в эру ИИ. Преобразование текущих процессов безопасности для включения ИИ-усиления может заложить прочный фундамент для будущего ИИ-обеспеченного центра операций безопасности (SOC).

Кроме того, автоматизация не является новым понятием, уникальным для появления ИИ; рабочие процессы и процессы безопасности были автоматизированы на протяжении многих лет, и зрелые организации имеют очень сложные возможности оркестровки и автоматизации. Однако ИИ усиливает существующую автоматизацию на основе правил и развивает ее дальше, позволяя создавать динамические, адаптируемые, контекстно-богатые автоматизированные рабочие процессы, которые могут помочь решить проблему скорости и гибкости, необходимых для этих возникающих ИИ-рисков.

Что дальше?

Безопасность должна продолжать быть в центре внимания бизнеса и ИТ для сохранения безопасности критически важных активов и пользователей от злонамеренного использования. Безопасный ИИ по дизайну является необходимостью, учитывая скорость, с которой модели ИИ могут быть развернуты и использованы для выполнения более критических действий. Киберкоманды должны стратегически подумать о преобразовании процессов с нуля для правильной реализации новых возможностей ИИ, чтобы идти в ногу в кибер-игре в кошки-мышки.

Руководители безопасности могут предпринять несколько конкретных шагов в ближайшем будущем: провести комплексный обзор текущих процессов безопасности, чтобы выявить пробелы, возможности модернизации и области, готовые к преобразованию. Следите за возникающими ИИ-угрозами, тенденциями и технологиями. Прежде всего, оставайтесь привязанными к основополагающему принципу безопасности в глубину, который доказал себя во времени – многослойная защита и проверка от идентификатора до конечной точки, от сети до данных, с прочными возможностями мониторинга и реагирования, которые постоянно тестируются.

Трансформационный потенциал ИИ обещает слишком большую выгоду, чтобы отказаться от его принятия, и джинн уже вышел из бутылки для угроз. Поэтому роль руководителей безопасности в этом следующем возрасте остается прежней, как и всегда: поддержка организаций в достижении их бизнес-целей с вдумчивым смягчением рисков – теперь уже на машинной скорости с использованием ИИ.