Стив Уилсон, главный офицер по ИИ и продуктам в Exabeam – Интервью

Стив Уилсон является главным офицером по ИИ и продуктам в Exabeam, где его команда применяет передовые технологии ИИ для решения реальных проблем кибербезопасности. Он основал и сопредседательствует в проекте OWASP Gen AI Security, организации, стоящей за отраслевым стандартом списка OWASP Top 10 для безопасности крупномасштабных языковых моделей.

Его награжденная книга «Руководство разработчика по безопасности крупномасштабных языковых моделей» (O’Reilly Media) была выбрана в качестве лучшей книги по кибербезопасности на переднем крае технологий по версии Cyber Defense Magazine.

Exabeam является лидером в области интеллекта и автоматизации, обеспечивающим безопасность операций для самых умных компаний мира. Объединяя масштаб и мощь ИИ с силой нашей ведущей поведенческой аналитики и автоматизации, организации получают более целостный взгляд на инциденты безопасности, обнаруживают аномалии, которые другие инструменты пропускают, и достигают более быстрых, точных и повторяющихся реакций. Exabeam наделяет глобальные команды безопасности возможностью бороться с киберугрозами, смягчать риски и оптимизировать операции.

Ваш новая должность – главный офицер по ИИ и продуктам в Exabeam. Как это отражает эволюцию важности ИИ в кибербезопасности?

Кибербезопасность была одной из первых областей, которая真正 приняла машинное обучение – в Exabeam мы используем МО как основу нашего двигателя обнаружения уже более десяти лет для выявления аномального поведения, которое люди могут пропустить. С появлением новых технологий ИИ, таких как интеллектуальные агенты, ИИ вырос из важного до абсолютно центральной роли.

Моя совмещенная роль главного офицера по ИИ и продуктам в Exabeam отражает именно эту эволюцию. В компании, которая глубоко привержена внедрению ИИ во все свои продукты, и в отрасли, такой как кибербезопасность, где роль ИИ становится все более критической, было логично объединить стратегию ИИ и продукта под одной ролью. Это объединение гарантирует, что мы стратегически выравниваемся для предоставления трансформирующих ИИ-ориентированных решений командам безопасности и операций, которые от нас наиболее зависят.

Exabeam является пионером в области “агентского ИИ” в операциях безопасности. Можете ли вы объяснить, что это значит на практике и как это отличается от традиционных подходов к ИИ?

Агентский ИИ представляет собой значительную эволюцию от традиционных подходов к ИИ. Это ориентировано на действие – агенты инициируют процессы, анализируют информацию и предоставляют идеи до того, как аналитики даже попросят об этом. Помимо простого анализа данных, агентский ИИ выступает в качестве советника, предлагая стратегические рекомендации по всему центру операций безопасности, направляя пользователей к наиболее простым победам и предоставляя пошаговые рекомендации для улучшения их безопасности. Кроме того, агенты работают в виде специализированных команд, не одного громоздкого чат-бота, каждый из которых имеет конкретные личности и наборы данных, которые без проблем интегрируются в рабочий процесс аналитиков, инженеров и менеджеров для предоставления целевой и эффективной помощи.

С Exabeam Nova, интегрирующей несколько ИИ-агентов в рабочий процесс операций безопасности, как выглядит будущее роли аналитика безопасности? Изменится ли она, уменьшится или станет более специализированной?

Роль аналитика безопасности определенно эволюционирует. Аналитики, инженеры и менеджеры центра операций безопасности перегружены данными, оповещениями и инцидентами. Реальный сдвиг в будущем заключается не только в экономии времени на рутинных задачах – хотя агенты действительно помогают в этом – но и в повышении роли каждого до уровня командира. Аналитики все еще будут нуждаться в сильных технических навыках, но теперь они будут возглавлять команду агентов, готовых ускорить их задачи, усилить их решения и действительно улучшить безопасность. Этот переход позиционирует аналитиков как стратегических организаторов, а не тактических реагентов.

Недавние данные показывают разрыв между руководителями и аналитиками в отношении влияния ИИ на производительность. Почему, по вашему мнению, существует этот разрыв в восприятии?

Недавние данные показывают явный разрыв: 71% руководителей считают, что ИИ значительно повышает производительность, но только 22% аналитиков первого уровня, ежедневных пользователей, согласны с этим. В Exabeam мы наблюдали рост этого разрыва вместе с недавним ажиотажем вокруг обещаний ИИ в кибербезопасности. Никогда не было проще создать впечатляющие демонстрации ИИ, и поставщики быстро заявляют, что они решили каждую проблему центра операций безопасности. Хотя эти демонстрации изначально поражают руководителей, многие из них не оправдывают ожиданий на практике – в руках аналитиков. Потенциал есть, и есть отдельные примеры真正ых выгод, но все еще слишком много шума и слишком мало реальных улучшений. Чтобы преодолеть этот разрыв в восприятии, руководителям необходимо отдавать приоритет инструментам ИИ, которые действительно наделяют аналитиков полномочиями, а не просто впечатляют на демонстрациях. Когда ИИ действительно повышает эффективность аналитиков, доверие и реальные улучшения производительности последуют.

ИИ ускоряет обнаружение угроз и реагирование, но как вы поддерживаете баланс между автоматизацией и человеческим суждением в инцидентах кибербезопасности с высокими ставками?

Возможности ИИ развиваются стремительно, но основные “языковые модели” современных интеллектуальных агентов изначально были разработаны для задач, таких как перевод языка, а не для тонкого принятия решений, теории игр или обработки сложных человеческих факторов. Это делает человеческое суждение более важным, чем когда-либо, в кибербезопасности. Роль аналитика не снижается ИИ; она повышается. Аналитики теперь являются командиром, использующим свой опыт и инсайты для руководства и направления нескольких агентов, гарантируя, что решения остаются информированными контекстом и нюансами. В конечном итоге, баланс между автоматизацией и человеческим суждением заключается в создании симбиотических отношений, где ИИ усиливает человеческую экспертизу, не заменяя ее.

Как ваша стратегия продукта эволюционирует, когда ИИ становится основным принципом проектирования, а не добавкой?

В Exabeam наша стратегия продукта фундаментально формируется ИИ как основным принципом проектирования, а не поверхностной добавкой. Мы построили Exabeam с нуля, чтобы поддерживать машинное обучение – от ингестии журналов, парсинга, обогащения и нормализации – для популяции прочной Общей модели информации, специально оптимизированной для кормления систем МО. Высококачественные, структурированные данные не только важны для систем ИИ – они являются их жизненной кровью. Сегодня мы напрямую встраиваем наши интеллектуальные агенты в критические рабочие процессы, избегая генерических, громоздких чат-ботов. Вместо этого мы точно нацеливаемся на важные случаи использования, которые предоставляют реальные, осязаемые выгоды нашим пользователям.

С Exabeam Nova вы стремитесь “перейти от вспомогательного к автономному”. Каковы ключевые вехи для достижения полностью автономных операций безопасности?

Идея полностью автономных операций безопасности интригует, но преждевременна. Полностью автономные агенты, в любой области, просто не эффективны или безопасны. Хотя принятие решений в ИИ улучшается, оно не достигло человеческого уровня надежности и не достигнет его в ближайшее время. В Exabeam наш подход не заключается в преследовании полной автономии, которую наша группа в OWASP определяет как основную уязвимость, известную как Чрезмерное агентство. Предоставление агентам большей автономии, чем может быть надежно протестировано и проверено, ставит операции на рискованную почву. Вместо этого наша цель – команды интеллектуальных агентов, способных, но тщательно направленных, работающих под наблюдением человеческих экспертов в центре операций безопасности. Это сочетание человеческого надзора и целевой агентской помощи является реалистичным, эффективным путем вперед.

Каковы самые большие проблемы, с которыми вы столкнулись при интеграции GenAI и машинного обучения в масштабе, необходимом для операций кибербезопасности в реальном времени?

Одной из самых больших проблем при интеграции GenAI и машинного обучения в масштабе для операций кибербезопасности в реальном времени является баланс между скоростью и точностью. GenAI alone не может заменить огромный масштаб того, что наш высокоскоростной двигатель МО обрабатывает – обработка терабайт данных непрерывно. Даже самые передовые ИИ-агенты имеют “контекстное окно”, которое чрезвычайно недостаточно. Вместо этого наш рецепт включает в себя использование МО для дистилляции огромных данных в действенные идеи, которые наши интеллектуальные агенты затем переводят и операционализируют эффективно.

Вы стали сооснователем OWASP Top 10 для приложений LLM. Что вдохновило это, и как вы видите, как это формирует лучшие практики безопасности ИИ?

Когда я запустил OWASP Top 10 для приложений LLM в начале 2023 года, структурированная информация о безопасности LLM и GenAI была скудной, но интерес к этому был невероятно высок. В течение нескольких дней более 200 волонтеров присоединились к инициативе, привнося разнообразные мнения и экспертизу для формирования исходного списка. С тех пор он был прочитан более 100 000 раз и стал фундаментальным для международных отраслевых стандартов. Сегодня усилия расширились до проекта OWASP Gen AI Security, охватывающего такие области, как Красная команда ИИ, безопасность агентских систем и обработка наступательных использований GenAI в кибербезопасности. Наша группа недавно превысила 10 000 участников и продолжает продвигать лучшие практики безопасности ИИ во всем мире.

Ваша книга «Руководство разработчика по безопасности LLM» получила главную награду. Какой самый важный вывод или принцип из книги, который каждый разработчик ИИ должен понимать при создании безопасных приложений?

Самый важный вывод из моей книги «Руководство разработчика по безопасности LLM» прост: «с большой силой приходит большая ответственность». Хотя понимание традиционных концепций безопасности остается важным, разработчики теперь сталкиваются с совершенно новым набором проблем, уникальных для LLM. Эта мощная технология не является свободным пропуском; она требует активных, вдумчивых практик безопасности. Разработчики должны расширить свою точку зрения, признавая и решая эти новые уязвимости с самого начала, встраивая безопасность на каждом этапе жизненного цикла приложения ИИ.

Как вы видите эволюцию рабочей силы кибербезопасности в течение следующих 5 лет, когда агентский ИИ становится более распространенным?

Мы сейчас находимся в гонке вооружений ИИ. Противники агрессивно развертывают ИИ для продвижения своих злонамеренных целей, что делает профессионалов кибербезопасности более важными, чем когда-либо. Следующие пять лет не уменьшат рабочую силу кибербезопасности; они повысят ее. Профессионалам необходимо принять ИИ, интегрировав его в свои команды и рабочие процессы. Роли безопасности будут смещаться в сторону стратегического командования – меньше индивидуальных усилий и больше об оркестровке эффективного реагирования с командой ИИ-агентов. Этот переход наделяет профессионалов кибербезопасности возможностью руководить решительно и уверенно в битве против эволюционирующих угроз.

Благодарим за отличное интервью, читатели, которые хотят узнать больше, могут посетить Exabeam.