GenAI трансформирует кибербезопасность

Индустрия кибербезопасности всегда сталкивалась с трудностями, а сегодня проблемы стали более серьезными и масштабными, чем когда-либо прежде.

Хотя организации внедряют все больше цифровых инструментов для оптимизации операций и повышения эффективности, они одновременно увеличивают поверхность своих атак — количество уязвимых точек входа, которые могут использовать хакеры, — что делает их более уязвимыми для повышение киберугроз, даже если их защита улучшается. Хуже того, организациям приходится сталкиваться с этим быстро растущим набором угроз на фоне нехватка квалифицированных специалистов по кибербезопасности.

К счастью, инновации в области искусственного интеллекта, особенно Generative AI (GenAI), предлагают решения некоторых из самых сложных проблем индустрии кибербезопасности. Но мы только поцарапали поверхность – в то время как роль GenAI в кибербезопасности, как ожидается, будет расти экспоненциально В ближайшие годы останутся неиспользованные возможности, где эта технология могла бы еще больше ускорить прогресс.

Текущие применения и преимущества GenAI в кибербезопасности

Одной из наиболее значимых областей влияния GenAI на отрасль кибербезопасности является его способность предоставлять автоматизированную информацию, которая ранее была недостижима.

Начальные этапы обработки данных, фильтрации и маркировки по-прежнему часто выполняются старыми поколениями машинного обучения, которые преуспевают в обработке и анализ Огромные объёмы данных, например, сортировка огромных массивов оповещений об уязвимостях и выявление потенциальных аномалий. Истинное преимущество GenAI заключается в том, что происходит после.

После предварительной обработки и определения области действия данных GenAI может вмешаться, чтобы предоставить расширенные возможности рассуждений, которые выходят за рамки возможностей ИИ предыдущего поколения. Инструменты GenAI предлагают более глубокую контекстуализацию, более точные прогнозы и тонкие идеи, которые недостижимы с помощью старых технологий.

Например, после обработки, фильтрации и маркировки большого набора данных — скажем, миллионов документов — другими способами GenAI обеспечивает дополнительный уровень анализа, проверки и контекста поверх отобранных данных, определяя их релевантность, срочность и потенциальные риски безопасности. Он даже может итерировать свое понимание, генерируя дополнительный контекст, просматривая другие источники данных, со временем совершенствуя свои возможности принятия решений. Этот многоуровневый подход выходит за рамки простой обработки данных и переключает внимание на расширенные рассуждения и адаптивный анализ.

Проблемы и ограничения

Несмотря на недавние улучшения, все еще остается много проблем, связанных с интеграцией GenAI в существующие решения по кибербезопасности.

Во-первых, возможности ИИ часто воспринимаются с нереалистичными ожиданиями, что приводит к риску чрезмерной зависимости и недостаточной проработки. AI не является ни волшебным, ни идеальным. Не секрет, что GenAI часто выдает неточные результаты из-за предвзятых входных данных или неверных выходных данных, известных как галлюцинаций.

Для обеспечения точности и эффективности эти системы требуют тщательной разработки и должны рассматриваться как элемент более широкой структуры кибербезопасности, а не как ее полная замена. В более повседневных ситуациях или при непрофессиональном использовании GenAI галлюцинации могут быть несущественными, даже комичный. Но в мире кибербезопасности галлюцинации и предвзятые результаты могут иметь катастрофические последствия, которые могут привести к случайному раскрытию информации. критические активы, нарушения и значительный репутационный и финансовый ущерб.

Неиспользованные возможности: ИИ с агентством

Проблемы не должны удерживать организации от внедрения решений на основе ИИ. Технологии все еще развиваются, и возможности ИИ для повышения кибербезопасности будут продолжать расти.

Способность GenAI рассуждать и извлекать информацию из данных станет более продвинутой в ближайшие годы, включая распознавание тенденций и предложение действий. Сегодня мы уже видим влияние, которое оказывает продвинутый ИИ, упрощая и ускоряя процессы, проактивно предлагая действия и стратегические следующие шаги, позволяя командам меньше концентрироваться на планировании и больше на производительности. Поскольку возможности рассуждения GenAI продолжают совершенствоваться и могут лучше имитировать мыслительный процесс аналитиков безопасности, он будет действовать как расширение человеческого опыта, делая сложные кибер-системы более эффективными.

При оценке состояния безопасности агент ИИ может действовать с истинной агентностью, автономно принимая контекстные решения при исследовании взаимосвязанных систем, таких как Okta, GitHub, Jenkins и AWS. Вместо того чтобы полагаться на статические правила, агент ИИ динамически пробирается по экосистеме, выявляя закономерности, корректируя приоритеты и сосредотачиваясь на областях с повышенными рисками безопасности. Например, агент может определить вектор, где разрешения в Okta позволяют разработчикам широкий доступ через GitHub к Jenkins и, наконец, к AWS. Распознав этот путь как потенциальный риск попадания небезопасного кода в производство, агент может автономно принять решение о дальнейшем исследовании, сосредоточившись на определенных разрешениях, рабочих процессах и элементах управления безопасностью, которые могут быть слабыми местами.

Включая генерация с расширенным поиском (RAG)Агент использует как внешние, так и внутренние источники данных, опираясь на последние отчёты об уязвимостях, передовой опыт и даже на специфические конфигурации организации, для формирования своего исследования. Например, когда RAG обнаруживает информацию о распространённых уязвимостях в конвейерах CI/CD, агент может включить эти знания в свой анализ, корректируя решения в режиме реального времени, чтобы подчеркнуть области, где факторы риска совпадают.

Помимо вышесказанного,  тонкая настройка Может повысить автономность ИИ-агента, адаптируя процесс принятия решений к уникальной среде, в которой он работает. Как правило, тонкая настройка выполняется с использованием специализированных данных, применимых к широкому спектру вариантов использования, а не данных из среды конкретного клиента. Однако в некоторых случаях, например, для продуктов с одним арендатором, тонкая настройка может применяться к данным конкретного клиента, чтобы позволить агенту усвоить специфические нюансы безопасности, делая его выбор ещё более обоснованным и продуманным с течением времени. Такой подход позволяет агенту учиться на прошлых оценках безопасности, совершенствуя своё понимание того, как расставлять приоритеты в определённых векторах, например, в тех, которые предполагают прямые соединения между средами разработки и производственной средой.

Благодаря сочетанию агентства, RAG и тонкой настройки этот агент выходит за рамки традиционного обнаружения и переходит к проактивному и адаптивному анализу, отражая процессы принятия решений опытных аналитиков-людей. Это создает более тонкий, контекстно-зависимый подход к безопасности, где ИИ не просто реагирует, но и предвидит риски и соответствующим образом корректирует их, как это мог бы сделать эксперт-человек.

Приоритизация оповещений на основе искусственного интеллекта

Еще одна область, в которой подходы на основе ИИ могут оказать существенное влияние, — это снижение усталости от оповещений. ИИ может помочь снизить усталость от оповещений путем совместной фильтрации и приоритизации оповещений на основе конкретной структуры и рисков в организации. Вместо того чтобы применять общий подход ко всем событиям безопасности, эти агенты ИИ анализируют каждое действие в его более широком контексте и общаются друг с другом, чтобы выявлять оповещения, указывающие на реальные проблемы безопасности.

Например, вместо того, чтобы активировать оповещения обо всех изменениях разрешений на доступ, один агент может определить чувствительную область, затронутую изменением, в то время как другой оценивает историю подобных изменений, чтобы оценить риск. Вместе эти агенты фокусируются на конфигурациях или действиях, которые действительно повышают риски безопасности, помогая группам безопасности избегать шума от событий с более низким приоритетом.

Постоянно обучаясь как на основе внешней разведки угроз, так и на основе внутренних закономерностей, эта система агентов адаптируется к возникающим рискам и тенденциям в организации. Благодаря общему пониманию контекстуальных факторов агенты могут совершенствовать оповещения в режиме реального времени, переходя от потока уведомлений к оптимизированному потоку, который выделяет критически важные идеи.

Этот совместный, контекстно-зависимый подход позволяет группам безопасности сосредоточиться на высокоприоритетных проблемах, снижая когнитивную нагрузку управления оповещениями и повышая операционную эффективность. Приняв сеть агентов, которые общаются и адаптируются на основе нюансов, действующих в реальном времени, организации могут добиться значительных успехов в смягчении проблем усталости от оповещений, в конечном итоге повышая эффективность операций по обеспечению безопасности.

Будущее кибербезопасности

По мере роста цифрового ландшафта растут и сложность, и частота киберугроз. Интеграция GenAI в стратегии кибербезопасности уже оказывается преобразующей в борьбе с этими новыми угрозами.

Но эти инструменты не являются панацеей от всех проблем кибериндустрии. Организации должны знать об ограничениях GenAI и поэтому использовать подход, при котором ИИ дополняет человеческий опыт, а не заменяет его. Те, кто принимает инструменты кибербезопасности ИИ с открытым умом и стратегическим взглядом, помогут сформировать будущее отрасли во что-то более эффективное и безопасное, чем когда-либо прежде.