Борьба с ИИ при помощи ИИ в современном ландшафте угроз

Не является новостью сказать, что ИИ кардинально изменил отрасль кибербезопасности. И атакующие, и защитники используют искусственный интеллект, чтобы повысить свои возможности, каждый пытаясь опередить другого. Эта игра в кошки-мышки не нова – атакующие пытаются обмануть команды безопасности на протяжении десятилетий, – но появление искусственного интеллекта привнесло свежий (и часто непредсказуемый) элемент в эту динамику. Атакующие по всему миру с удовольствием используют эту новую технологию, чтобы разработать инновационные, ранее не виданные методы атак.

По крайней мере, таково общее мнение. Но реальность немного другая. Хотя верно, что атакующие все чаще используют ИИ, они в основном используют его, чтобы увеличить масштаб и сложность своих атак, совершенствуя свой подход к существующим тактикам, а не разрабатывая новые. Мысли здесь ясны: зачем тратить время и усилия на разработку методов атак завтрашнего дня, когда защитники уже испытывают трудности в остановке атак сегодняшнего дня? К счастью, современные команды безопасности используют возможности ИИ, многие из которых помогают обнаруживать вредоносное ПО, фишинговые атаки и другие общие тактики атак с большей скоростью и точностью. Поскольку “гонка вооружений ИИ” между атакующими и защитниками продолжается, будет все более важно, чтобы команды безопасности понимали, как противники фактически используют эту технологию, и чтобы их собственные усилия были сосредоточены в правильном месте.

Как атакующие используют ИИ

Идея о том, что полуавтономный ИИ будет развернут для методического взлома защит организаций, является страшной, но (пока) она остается в области научной фантастики. Верно, что ИИ развивался с невероятной скоростью в последние несколько лет, но мы все еще далеки от искусственного общего интеллекта (ИОИ), способного идеально имитировать человеческие мыслительные процессы и поведение. Это не означает, что современный ИИ не впечатляет – он действительно впечатляет. Но инструменты генеративного ИИ и большие языковые модели (БЯМ) наиболее эффективны при синтезе информации из существующих материалов и генерации небольших, итеративных изменений. Они не могут создать что-то совершенно новое самостоятельно, но не сомневайтесь, возможность синтеза и итерации невероятно полезна.

На практике это означает, что вместо разработки новых методов атак противники могут улучшить свои существующие методы. С помощью ИИ атакующий может отправить миллионы фишинговых писем вместо тысяч. Они также могут использовать БЯМ, чтобы создать более убедительное сообщение, обманув больше получателей и заставив их кликнуть на вредоносную ссылку или скачать файл с вредоносным ПО. Тактики, такие как фишинг, по сути являются игрой в числа: большинство людей не попадутся на фишинговое письмо, но если миллионы людей получат его, даже 1% успеха может привести к тысячам новых жертв. Если БЯМ могут увеличить этот 1% успеха до 2% или более, мошенники могут фактически удвоить эффективность своих атак с минимальными усилиями. То же самое относится и к вредоносному ПО: если небольшие изменения в коде вредоносного ПО могут эффективно скрыть его от инструментов обнаружения, атакующие могут получить гораздо больше выгоды от одного вредоносного ПО, прежде чем им придется перейти к чему-то новому.

Другим фактором здесь является скорость. Поскольку атаки на основе ИИ не ограничены человеческими ограничениями, они могут часто проводить всю последовательность атак гораздо быстрее, чем человеческий оператор. Это означает, что атакующий потенциально может проникнуть в сеть и добраться до наиболее ценных или конфиденциальных данных жертвы, прежде чем команда безопасности даже получит оповещение, не говоря уже о реакции на него. Если атакующие могут двигаться быстрее, они не должны быть так осторожны, что могут заниматься более шумными и разрушительными действиями без остановки. Они не обязательно делают что-то новое, но, продвигаясь вперед со своими атаками более быстро, они могут обогнать сети защиты потенциально кардинальным образом.

Это ключ к пониманию того, как атакующие используют ИИ. Социальные инженерные атаки и программы вредоносного ПО уже являются успешными векторами атак, но теперь противники могут сделать их еще более эффективными, развертывать их более быстро и действовать в еще большем масштабе. Вместо того, чтобы отражать десятки попыток в день, организации могут столкнуться с сотнями, тысячами или даже десятками тысяч быстрых атак. И если у них нет решений или процессов, чтобы быстро обнаружить эти атаки, определить, какие из них представляют реальную угрозу, и эффективно устранить их, они оставляют себя опасно открытыми для атакующих. Вместо того, чтобы задумываться о том, как атакующие могут использовать ИИ в будущем, организации должны использовать решения ИИ, чтобы справиться с существующими методами атак в большем масштабе.

Использование ИИ в интересах команд безопасности

Эксперты по безопасности на всех уровнях бизнеса и правительства ищут способы использования ИИ для оборонительных целей. В августе Управление перспективных исследований и разработок Министерства обороны США (DARPA) объявило финалистов своего недавнего конкурса ИИ по кибербезопасности (AIxCC), который награждает команды исследователей безопасности, работающих над обучением БЯМ для выявления и исправления уязвимостей, связанных с кодом. Конкурс поддерживается крупными поставщиками ИИ, включая Google, Microsoft и OpenAI, которые предоставляют технологическую и финансовую поддержку этих усилий по укреплению безопасности на основе ИИ. Конечно, DARPA – это только один пример – вы можете едва ли не столкнуться с десятком основателей стартапов в долине Кремния, которые с удовольствием расскажут вам о своих передовых решениях безопасности на основе ИИ. Достаточно сказать, что поиск новых способов использования ИИ для оборонительных целей является приоритетом для организаций всех типов и размеров.

Но, как и атакующие, команды безопасности часто находят наибольший успех, когда используют ИИ для усиления своих существующих возможностей. С атаками, происходящими с все увеличивающейся скоростью, команды безопасности часто растягиваются тонким слоем – как по времени, так и по ресурсам, – что делает трудным адекватное выявление, расследование и устранение каждого сигнала безопасности, который возникает. Просто нет времени. Решения ИИ играют важную роль в смягчении этого вызова, предоставляя автоматические возможности обнаружения и реагирования. Если есть одна вещь, в которой ИИ хорош, то это выявление закономерностей – и это означает, что инструменты ИИ очень хороши в распознавании аномального поведения, особенно если это поведение соответствует известным закономерностям атак. Поскольку ИИ может просматривать огромные объемы данных гораздо быстрее, чем люди, это позволяет командам безопасности масштабировать свои операции значительным образом. Во многих случаях эти решения даже могут автоматизировать базовые процессы устранения, противодействуя низкоуровневым атакам без необходимости человеческого вмешательства. Они также могут быть использованы для автоматизации процесса проверки безопасности, постоянного тестирования сетевых защит, чтобы убедиться, что они функционируют как ожидается.

Также важно отметить, что ИИ не только позволяет командам безопасности выявлять потенциальную атакующую активность более быстро – он также значительно улучшает их точность. Вместо того, чтобы преследовать ложные тревоги, команды безопасности могут быть уверены, что когда решение ИИ предупреждает их о потенциальной атаке, оно заслуживает их немедленного внимания. Это элемент ИИ, о котором не говорят достаточно – в то время как большая часть обсуждения центрируется вокруг ИИ, “заменяющего” людей и берущего их работу, реальность заключается в том, что решения ИИ позволяют людям делать свою работу лучше и более эффективно, а также смягчают выгорание, которое возникает при выполнении однообразных и повторяющихся задач. Далеко от того, чтобы иметь негативное влияние на человеческих операторов, решения ИИ обрабатывают большую часть “бюрократической работы”, связанной с позициями безопасности, позволяя людям сосредоточиться на более интересных и важных задачах. В то время, когда выгорание находится на историческом максимуме и многие предприятия борются за привлечение новых талантов безопасности, улучшение качества жизни и удовлетворенности работой может иметь огромное положительное влияние.

Вот где заключается реальное преимущество для команд безопасности. Не только решения ИИ могут помочь им масштабировать свои операции, чтобы эффективно противостоять атакующим, использующим инструменты ИИ, – они также могут сохранить безопасность профессионалов счастливыми и удовлетворенными в своих ролях. Это редкое решение, выигрышное для всех участников, и оно должно помочь сегодняшним предприятиям понять, что время инвестировать в решения безопасности на основе ИИ – сейчас.

Гонка вооружений ИИ только начинается

Гонка за принятие решений ИИ началась, и атакующие и защитники находят разные способы использования этой технологии в своих интересах. Поскольку атакующие используют ИИ, чтобы увеличить скорость, масштаб и сложность своих атак, команды безопасности будут нуждаться в том, чтобы бороться с огнем, используя инструменты ИИ, чтобы улучшить скорость и точность своих возможностей обнаружения и устранения. К счастью, решения ИИ предоставляют командам безопасности критически важную информацию, позволяя им лучше тестировать и оценивать эффективность своих собственных решений, а также освобождать время и ресурсы для более критических задач. Не сомневайтесь, гонка вооружений ИИ только начинается – но тот факт, что профессионалы безопасности уже используют ИИ, чтобы оставаться на шаг впереди атакующих, является очень хорошим знаком.