Генеративный ИИ революционизирует кибербезопасность

Отрасль кибербезопасности всегда сталкивалась с трудностями, и сегодня эти проблемы более крутые и широкие, чем когда-либо прежде.

Хотя организации принимают все больше цифровых инструментов для оптимизации операций и повышения эффективности, они одновременно увеличивают свою поверхность атаки – объем уязвимых точек входа, которые хакеры могут использовать, – что делает их более уязвимыми для возрастающих киберугроз, даже когда их оборона улучшается. Что еще хуже, организации должны сталкиваться с этим быстро растущим рядом угроз на фоне нехватки квалифицированных специалистов в области кибербезопасности.

К счастью, инновации в области искусственного интеллекта, особенно генеративного ИИ (GenAI), предлагают решения некоторых из наиболее сложных проблем отрасли кибербезопасности. Но мы только поцарапали поверхность – хотя роль GenAI в кибербезопасности ожидается экспоненциально расти в ближайшие годы, остаются неиспользованные возможности, где эта технология могла бы еще больше улучшить прогресс.

Текущие применения и преимущества GenAI в кибербезопасности

Одним из наиболее значительных областей влияния GenAI на отрасль кибербезопасности является его способность предоставлять автоматические идеи, которые ранее были недоступны.

Первоначальные этапы обработки данных, фильтрации и маркировки все еще часто выполняются старыми поколениями машинного обучения, которые отлично справляются с обработкой и анализом огромных объемов данных, таких как сортировка уязвимых предупреждений и выявление потенциальных аномалий. Правда GenAI заключается в том, что происходит после этого.

Как только данные были предварительно обработаны и определены, GenAI может подключиться, чтобы предоставить передовые возможности рассуждения, которые выходят за рамки того, что могут достичь предыдущие поколения ИИ. Инструменты GenAI предлагают более глубокую контекстуализацию, более точные прогнозы и нюансированные идеи, которые недоступны с помощью более старых технологий.

Например, после того, как большой набор данных – скажем, миллионы документов – был обработан, отфильтрован и помечен другими средствами, GenAI предоставляет дополнительный слой анализа, проверки и контекста поверх отобранных данных, определяя их актуальность, срочность и потенциальные риски безопасности. Он даже может повторно проанализировать свое понимание, генерируя дополнительный контекст, изучая другие источники данных, совершенствуя свои возможности принятия решений с течением времени. Этот многослойный подход выходит за рамки простой обработки данных и смещает фокус на передовой анализ и адаптивный анализ.

Проблемы и ограничения

Несмотря на недавние улучшения, многие проблемы остаются при интеграции GenAI в существующие решения кибербезопасности.

Во-первых, возможности ИИ часто принимаются с нереалистичными ожиданиями, что приводит к риску чрезмерной зависимости и недооценки. ИИ не является ни магическим, ни идеальным. Не секрет, что GenAI часто производит неточные результаты из-за предвзятых входных данных или неправильных выходов, известных как галлюцинации.

Эти системы требуют тщательного проектирования, чтобы быть точными и эффективными, и должны рассматриваться как один из элементов более широкой структуры кибербезопасности, а не как полная замена. В более неформальных ситуациях или непрофессиональном использовании GenAI галлюцинации могут быть незначительными, даже комичными. Но в мире кибербезопасности галлюцинации и предвзятые результаты могут иметь катастрофические последствия, которые могут привести к случайному раскрытию критических активов, нарушений и обширного ущерба репутации и финансам.

Неиспользованные возможности: ИИ с агентством

Проблемы не должны останавливать организации от принятия решений ИИ. Технология все еще развивается, и возможности для ИИ улучшить кибербезопасность будут продолжать расти.

Способность GenAI рассуждать и извлекать идеи из данных станет более совершенной в ближайшие годы, включая распознавание тенденций и предложение действий. Сегодня мы уже видим влияние передового ИИ на упрощение и ускорение процессов, предложение действий и стратегических следующих шагов, позволяя командам сосредоточиться меньше на планировании и больше на производительности. По мере того, как возможности рассуждения GenAI продолжают улучшаться и могут лучше имитировать мыслительный процесс аналитиков безопасности, он будет действовать как расширение человеческой экспертизы, делая кибербезопасность более эффективной.

При оценке безопасности посторонняя агент может действовать с настоящим агентством, принимая контекстные решения, исследуя взаимосвязанные системы – такие как Okta, GitHub, Jenkins и AWS. Вместо того, чтобы полагаться на статические правила, агент динамически проходит через экосистему, выявляя закономерности, корректируя приоритеты и фокусируясь на областях с повышенными рисками безопасности. Например, агент может выявить вектор, где разрешения в Okta позволяют разработчикам широкий доступ через GitHub к Jenkins и, наконец, к AWS. Распознав этот путь как потенциальный риск для не安全ного кода, достигающего производства, агент может автономно решить провести дальнейшее исследование, фокусируясь на конкретных разрешениях, рабочих процессах и контролях безопасности, которые могут быть слабыми точками.

Включая генерацию с поддержкой извлечения (RAG), агент использует как внешние, так и внутренние источники данных – черпая из недавних отчетов о уязвимостях, лучших практик и даже конфигураций организации, чтобы сформировать свое исследование. Когда RAG выявляет идеи о распространенных пробелах в конвейерах CI/CD, агент может включить эти знания в свой анализ, корректируя свои решения в реальном времени, чтобы подчеркнуть области, где факторы риска сходятся.

Кроме того, тонкая настройка может повысить автономность агента ИИ, адаптируя его процесс принятия решений к уникальной среде, в которой он работает. Обычно тонкая настройка выполняется с помощью специализированных данных, которые применяются к широкому кругу случаев использования, а не к данным из конкретной среды клиента. Однако в определенных случаях, таких как продукты с единственным арендатором, тонкая настройка может быть применена к данным конкретного клиента, позволяя агенту внутренне осознавать конкретные нюансы безопасности, делая его выбор более обоснованным и нюансированным с течением времени. Этот подход позволяет агенту учиться на прошлых оценках безопасности, совершенствуя свое понимание того, как расставлять приоритеты в определенных векторах, таких как те, которые涉ивают прямые соединения из сред разработки в производство.

С комбинацией агентства, RAG и тонкой настройки этот агент выходит за рамки традиционного обнаружения и переходит к проактивному и адаптивному анализу, отражая процесс принятия решений квалифицированных человеческих аналитиков. Это создает более нюансированный, контекстно-осведомленный подход к безопасности, где ИИ не просто реагирует, но и предвидит риски и корректирует соответственно, как это мог бы сделать человеческий эксперт.

ИИ-ориентированная приоритизация оповещений

Другой областью, где подходы, основанные на ИИ, могут оказать существенное влияние, является снижение усталости от оповещений. ИИ может помочь снизить усталость от оповещений, сотрудничая в фильтрации и приоритизации оповещений на основе конкретной структуры и рисков внутри организации. Вместо применения общего подхода ко всем событиям безопасности эти агенты ИИ анализируют каждую деятельность в ее более широком контексте и общаются друг с другом, чтобы выявить оповещения, которые указывают на реальные проблемы безопасности.

Например, вместо того, чтобы запускать оповещения на все изменения разрешений доступа, один агент может выявить чувствительную область, затронутую изменением, в то время как другой оценивает историю аналогичных изменений, чтобы оценить риск. Вместе эти агенты фокусируются на конфигурациях или действиях, которые действительно повышают риски безопасности, помогая командам безопасности избегать шума от событий с низким приоритетом.

Постоянно учась из как внешней разведки угроз, так и внутренних закономерностей, эта система агентов адаптируется к возникающим рискам и тенденциям на протяжении всей организации. С общим пониманием контекстных факторов агенты могут уточнить оповещения в реальном времени, смещаясь от потока уведомлений к упорядоченному потоку, который подчеркивает критические идеи.

Этот сотруднический, контекстно-чувствительный подход позволяет командам безопасности сосредоточиться на проблемах высокого приоритета, снижая когнитивную нагрузку управления оповещениями и повышая оперативную эффективность. Принимая сеть агентов, которые общаются и адаптируются на основе нюансированных, реальных факторов, организации могут сделать значительные шаги в смягчении проблем усталости от оповещений, в конечном итоге повышая эффективность операций безопасности.

Будущее кибербезопасности

По мере того, как растет цифровой ландшафт, растет и сложность и частота киберугроз. Интеграция GenAI в стратегии кибербезопасности уже доказала свою трансформирующую силу в решении этих новых угроз.

Но эти инструменты не являются панацеей от всех проблем киберотрасли. Организации должны быть осведомлены об ограничениях GenAI и поэтому принять подход, где ИИ дополняет человеческую экспертизу, а не заменяет ее. Те, кто принимает инструменты кибербезопасности ИИ с открытым умом и стратегическим взглядом, помогут сформировать будущее отрасли в нечто более эффективное и безопасное, чем когда-либо прежде.