Лидеры мнений
ИИ против ИИ: новая реальность кибербезопасности

Ключевые моментыАтаки на основе ИИ автоматизируют полные циклы атак на машинных скоростях, подавляя…
Показать больше
- Атаки на основе ИИ автоматизируют полные циклы атак на машинных скоростях, подавляя традиционные средства защиты, управляемые человеком.
- Предприятия должны идентифицировать и защищать идентичности нечеловеческих ИИ-агентов, поскольку эти автономные системы получают критически важный доступ к бизнес-процессам.
- Организации должны защищать ИИ-модели, применяя принципы «Безопасность по умолчанию», чтобы предотвратить отравление данных и враждебные манипуляции.
Кибератаки, использующие искусственный интеллект, стали реальностью, подтвердив теоретический, но ожидаемый риск, и они знаменуют новую эру в ландшафте угроз. С помощью агентов ИИ, которые могут запускать сложные, комплексные кампании за несколько минут, киберпреступники могут выявлять и использовать уязвимости предприятий с машинной скоростью. Правила взаимодействия изменились: вчерашняя кибербезопасность больше не может идти в ногу с сегодняшней ИИ-обеспеченной атакой.
Поскольку ИИ усиливает киберугрозы, предприятиям необходимо развертывать свои собственные ИИ-обеспеченные защитные возможности, чтобы идти в ногу по скорости, масштабу и точности. Пока киберпреступники следуют знакомым тактикам, техникам и процедурам (ТТП), но ИИ ускоряет и улучшает их игровой план. Кроме того, сами модели ИИ предприятий стали новой целью через отравление моделей и языковую социальную инженерию, требуя от киберкоманд правильно защитить свои возможности ИИ. Поэтому безопасность должна быть основной частью более широкой стратегии ИИ организации.
Что отличает кибератаки, использующие искусственный интеллект?
В цифровом мире, уже насыщенном практически непрерывными попытками кибер-вторжения, барьер для входа злоумышленника был снижен, увеличивая не только объем, но и сложность атак. Атаки, использующие ИИ, могут теперь использовать ИИ или машинное обучение (МО) для автоматизации, ускорения или улучшения любой и каждой фазы цикла атаки, от разведки и сбора информации до эксплуатации и выведения конфиденциальных данных.
Полагаться исключительно на существующие процессы и технологии безопасности без развертывания той же передовой технологии, которую используют противники, дает противнику преимущество, которому практически невозможно противостоять в сопоставимом масштабе без защитного ИИ. Организации уже перегружены мониторингом своей деятельности от традиционных угроз. Атаки, использующие ИИ, будут усугублять усталость от оповещений. Это требует эволюции от процессов, управляемых людьми, к гибридной кибер-человеческой и цифровой рабочей силе.
Составьте карту всех цифровых активов
В сегодняшнем мире понимание потенциальных точек входа во всей среде предприятия является основным требованием, но все еще недоступным для многих крупных предприятий. Помимо цифровых систем и активов есть необходимость в комплексном отображении всех идентификаторов и доступа внутри организации. Цифровая идентичность, которая связывает физические и поведенческие характеристики с отдельным человеком, хорошо понимается с существующими контролями, необходимыми для управления цифровым доступом.
Однако понимание ландшафта организации в целом по нечеловеческим идентификаторам (НИ) является необходимым для защиты цифровых активов. Реализация потенциальной ценности ИИ внутри организации означает предоставление агентам ИИ доступа и разрешения на автономное выполнение бизнес-процесса. Как и облачные среды предыдущей эры безопасности, сегодняшние рабочие процессы на основе агентов создают и отключают нечеловеческие идентичности в больших масштабах, требуя продвинутой возможности управления и отслеживания того, где они работают в среде и как они выполняют намеченные миссии или роли.
Предприятия должны расширить управление идентификаторами на протяжении всего жизненного цикла агентской идентичности и отслеживать действия агентов, как они отслеживают доступ пользователей сегодня для поведения внутренних рисков или компрометации учетных записей угрозами. По мере того, как агентские возможности приобретают больше автономности и бизнес-критические задачи, понимание того, как выглядят их след цифровой идентичности и схема доступа, имеет решающее значение для реализации необходимых контролей доступа и мониторинга для защиты их и предприятия от неправильного использования.
Заблокировать модели ИИ
Возможности ИИ имеют обещание разблокировать эффективность и производительность, но также имеют потенциал быть использованными против организаций. Введение ИИ в каждый аспект бизнес-операций больше не является “хорошим”, а является требованием для успеха в сегодняшнем конкурентном ландшафте. Поэтому безопасное развертывание ИИ является необходимым компонентом для безопасного освоения полного бизнес-потенциала и результатов.
Переход к кибер-оборонной системе, основанной на ИИ, продолжается, в то время как модели ИИ сами стали целями. Противники могут попытаться отравить данные, поступающие в эти модели, и манипулировать ими, чтобы они выполняли непредвиденные действия или даже раскрывали конфиденциальную информацию.
Враждебные атаки против ИИ могут принимать различные формы, такие как атаки по отравлению, атаки по внедрению запросов и другие. Чтобы правильно защитить ИИ от потенциальной манипуляции, организации должны использовать философию Кибер-инфраструктуры и Агентства безопасности (CISA) Безопасность по дизайну. Это начинается с данных, используемых для обучения модели. Блокировка входных данных на ранней стадии разработки закладывает основу для надежных выходных данных в развертывании.
Понимание входных данных, которые используются для разработки моделей и возможностей, возможно благодаря намеренному управлению данными и контролю доступа к самим моделям. Критические контроли, которые позволяют проверять желаемые выходные данные, включают в себя предотвращение потери данных (DLP); обеспечение политики и безопасности; привязку через проверяемые источники; и строгие контроли утверждения для действий с высоким воздействием, возможность аудита и непрерывного тестирования, включая тестирование на проникновение моделей для их укрепления.
Встроить ИИ в операции безопасности
До сих пор применение ИИ к кибер-обороне было тактическим, и многие организации прикрепляли ИИ к традиционным процессам, ориентированным на человека, а не стратегически переосмысливали, как строить ИИ-центрические процессы. Это похоже на то, как если бы вы пытались прикрепить двигатель V8 к велосипеду. Следующая эволюция ИИ-обеспечения будет заключаться в проектировании процессов с нуля, с агентным ИИ и автоматизацией, изначально встроенными в проект. Проверенные на практике методы и процессы безопасности, такие как обнаружение угроз, охота за угрозами и инженерия обнаружения, все еще являются важными элементами, которые необходимы для безопасности организации в эру ИИ. Преобразование текущих процессов безопасности для их усиления с помощью ИИ может заложить прочный фундамент для будущего ИИ-обеспеченного центра операций безопасности (SOC).
Кроме того, автоматизация не является новым понятием, уникальным для появления ИИ; рабочие процессы и процессы безопасности были автоматизированы на протяжении многих лет, и зрелые организации имеют очень сложные возможности оркестровки и автоматизации. Однако ИИ усиливает существующую автоматизацию на основе правил и развивает ее дальше, позволяя создавать динамические, адаптируемые, контекстно-богатые автоматизированные рабочие процессы, которые могут помочь решить проблему скорости и гибкости, необходимых для этих возникающих ИИ-рисков.
Что дальше?
Безопасность должна продолжать быть в центре внимания бизнеса и ИТ для сохранения безопасности критически важных активов и пользователей от злонамеренного использования. Безопасный ИИ по дизайну является необходимостью, учитывая скорость, с которой модели ИИ могут быть развернуты и использованы для выполнения более критических действий. Киберкоманды должны стратегически подумать о преобразовании процессов с нуля для правильной реализации новых возможностей ИИ, чтобы идти в ногу в кибер-игре в кошки-мышки.
Руководители безопасности могут предпринять несколько конкретных шагов в ближайшем будущем: провести комплексный обзор текущих процессов безопасности, чтобы выявить пробелы, возможности модернизации и области, готовые к преобразованию. Следите за возникающими ИИ-угрозами, тенденциями и технологиями. Прежде всего, оставайтесь привязанными к основополагающему принципу безопасности в глубину, который доказал себя во времени – многослойная защита и проверка от идентификатора до конечной точки, от сети до данных, с прочными возможностями мониторинга и реагирования, которые постоянно тестируются.
Трансформационный потенциал ИИ обещает слишком большую выгоду, чтобы отказаться от его принятия, и джинн уже вышел из бутылки для угроз. Поэтому роль руководителей безопасности в этой новой эпохе остается прежней, как и всегда: поддержка организаций в достижении их бизнес-целей с вдумчивым смягчением рисков – теперь уже на машинной скорости с использованием ИИ.













