Дэвид Келлерман, технический директор Cymulate – Интервью

Дэвид Келлерман является техническим директором Cymulate и старшим техническим специалистом, работающим с клиентами в области информационной и кибербезопасности. Дэвид помогает клиентам добиться успеха и высоких стандартов безопасности.

Cymulate – это компания по кибербезопасности, предоставляющая услуги по проверке уязвимостей безопасности для организаций, которые хотят закрыть бреши в безопасности до того, как их смогут использовать злоумышленники. Ее платформа позволяет организациям оценить свою безопасность и повысить устойчивость к киберугрозам посредством непрерывного обнаружения, проверки, приоритизации и устранения уязвимостей. Благодаря автоматизации и искусственному интеллекту Cymulate предлагает передовые методы проверки безопасности для проверки контроля, угроз и путей атак. Как открытая платформа, Cymulate интегрируется с существующей безопасностью и ИТ-инфраструктурой для управления процессом управления уязвимостями и улучшения защит в реальном времени. Предоставляя услуги по имитации взлома и атак, управлению уязвимостями и управлению безопасностью, Cymulate помогает бизнесу выявлять уязвимости.

Что, по вашему мнению, является основным фактором, способствующим росту киберугроз, связанных с ИИ, в 2025 году?

Киберугрозы, связанные с ИИ, растут из-за повышения доступности ИИ. Злоумышленники теперь имеют доступ к инструментам ИИ, которые могут помочь им совершенствовать вредоносное ПО, создавать более правдоподобные фишинговые электронные письма и увеличивать масштаб своих атак. Эти тактики не являются новыми, но скорость и точность, с которой они применяются, значительно увеличили уже существующий список киберугроз, с которыми должны бороться команды безопасности. Организации спешат внедрять технологию ИИ, не полностью понимая, что вокруг нее необходимо создать средства безопасности, чтобы она не была легко эксплуатируема злоумышленниками.

Есть ли какие-либо конкретные отрасли или сектора, которые более уязвимы для этих киберугроз, связанных с ИИ, и почему?

Отрасли, которые постоянно делятся данными между сотрудниками, клиентами или заказчиками, уязвимы для киберугроз, связанных с ИИ, поскольку ИИ делает более простым для злоумышленников участие в социальной инженерии. Фишинговые атаки эффективно являются игрой в числа, и если злоумышленники могут теперь отправлять более правдоподобные электронные письма большему числу получателей, их успех значительно увеличится. Организации, которые открывают свои сервисы, основанные на ИИ, для публики, потенциально приглашают злоумышленников попытаться их эксплуатировать. Хотя это является врожденным риском, связанным с открытием сервисов для публики, важно сделать это правильно.

Какие основные уязвимости организаций сталкиваются при использовании публичных моделей ИИ для бизнес-функций?

Утечка данных, вероятно, является главной проблемой. При использовании публичной модели ИИ трудно сказать точно, куда пойдут эти данные, и последнее, что вы хотите сделать, – это случайно загрузить конфиденциальную информацию в публично доступный инструмент ИИ. Если вам необходимо проанализировать конфиденциальные данные, сохраните их внутри компании. Не обращайтесь к публичным моделям ИИ, которые могут передать эти данные в Интернет.

Как предприятия могут эффективно защитить конфиденциальные данные при тестировании или внедрении систем ИИ в производстве?

При тестировании систем ИИ в производстве организации должны принять наступательную позицию (в отличие от оборонительной). То есть команды безопасности должны активно тестировать и проверять безопасность своих систем ИИ, а не реагировать на входящие угрозы. Постоянный мониторинг атак и проверка систем безопасности может помочь обеспечить защиту конфиденциальных данных и эффективность решений безопасности.

Как организации могут активно защищаться от киберугроз, основанных на ИИ, которые постоянно эволюционируют?

Поскольку злоумышленники используют ИИ для эволюции своих угроз, команды безопасности также могут использовать ИИ для обновления инструментов имитации взлома и атак, чтобы обеспечить защиту от новых угроз. Инструменты, такие как ежедневная лента угроз Cymulate, загружают последние появляющиеся угрозы в программное обеспечение Cymulate для имитации взлома и атак, чтобы обеспечить проверку безопасности организаций против последних угроз. ИИ может помочь автоматизировать процессы, такие как эти, позволяя организациям оставаться гибкими и готовыми к новым угрозам.

Какую роль играют автоматические платформы проверки безопасности, такие как Cymulate, в смягчении рисков, связанных с киберугрозами, основанными на ИИ?

Автоматические платформы проверки безопасности могут помочь организациям оставаться на высоте новых киберугроз, основанных на ИИ, посредством инструментов, направленных на выявление, проверку и приоритизацию угроз. Поскольку ИИ служит умножителем для злоумышленников, важно не только обнаружить потенциальные уязвимости в сетях и системах, но и проверить, какие из них представляют реальную угрозу для организации. Только тогда можно эффективно приоритизировать уязвимости, позволяя организациям смягчить наиболее опасные угрозы первыми, прежде чем перейти к менее важным вопросам. Злоумышленники используют ИИ для сканирования цифровых сред в поисках потенциальных слабостей, прежде чем запустить высокоадаптированные атаки, что означает, что возможность устранения опасных уязвимостей автоматическим и эффективным способом никогда не была более критической.

Как предприятия могут включить инструменты имитации взлома и атак, чтобы подготовиться к киберугрозам, основанным на ИИ?

Программное обеспечение для имитации взлома и атак является важным элементом управления уязвимостями, позволяющим организациям создавать реальные сценарии атак, которые они могут использовать для проверки контроля безопасности против наиболее актуальных угроз. Последняя информация о угрозах и первичные исследования группы исследований угроз Cymulate (в сочетании с информацией о новых угрозах и симуляциях) применяются ежедневно к инструменту Cymulate для имитации взлома и атак, предупреждая руководителей безопасности, если новая угроза не была заблокирована или обнаружена существующими средствами безопасности. С помощью инструментов имитации взлома и атак организации также могут адаптировать симуляции, основанные на ИИ, к своим уникальным средам и политикам безопасности с открытым каркасом для создания и автоматизации пользовательских кампаний и продвинутых сценариев атак.

Какие три основных рекомендации вы дали бы командам безопасности, чтобы оставаться впереди этих новых угроз?

Угрозы становятся все более сложными каждый день. Организации, которые не имеют эффективной программы управления уязвимостями, рискуют отстать, поэтому моя первая рекомендация будет заключаться в внедрении решения, которое позволяет организации эффективно приоритизировать уязвимости. Далее, убедитесь, что решение по управлению уязвимостями включает функции имитации взлома и атак, которые позволяют команде безопасности симулировать новые угрозы (основанные на ИИ или нет), чтобы оценить, как средства безопасности организации справляются. Наконец, я бы рекомендовал использовать автоматизацию, чтобы обеспечить проверку и тестирование на постоянной основе, а не только во время периодических обзоров. С учетом того, что ландшафт угроз меняется каждую минуту, важно иметь актуальную информацию. Данные о угрозах с прошлого квартала уже совершенно устарели.

Какие разработки в технологии ИИ, по вашему мнению, могут либо усугубить, либо смягчить киберриски в течение следующих пяти лет?

Многое будет зависеть от того, насколько доступным будет ИИ. Сегодня низкоуровневые злоумышленники могут использовать возможности ИИ, чтобы повысить уровень и масштаб своих атак, но они не создают новых, беспрецедентных тактик – они просто делают существующие тактики более эффективными. На данный момент мы (в основном) можем компенсировать это. Но если ИИ продолжит расти и будет высоко доступен, это может измениться. Регуляции будут играть роль здесь – ЕС (и, в меньшей степени, США) предприняли шаги по регулированию разработки и использования ИИ, поэтому будет интересно посмотреть, окажет ли это влияние на развитие ИИ.

Ожидаете ли вы сдвиг в том, как организации отдают приоритет киберугрозам, связанным с ИИ, по сравнению с традиционными кибербезопасными проблемами?

Мы уже видим, как организации признают ценность решений, таких как имитация взлома и атак и управление уязвимостями. ИИ позволяет злоумышленникам быстро запускать продвинутые и целевые кампании, и командам безопасности нужна любая возможность, чтобы оставаться впереди. Организации, которые используют инструменты проверки, будут иметь значительно легче время, чтобы оставаться на высоте, отдаляя приоритет и смягчая наиболее важные и опасные угрозы первыми. Помните, что большинство злоумышленников ищут легкую добычу. Вы не можете остановить каждую атаку, но можете избежать того, чтобы стать легкой целью.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, могут посетить Cymulate.