Эксперты по кибербезопасности защищают от кибератак с использованием ИИ

Не все, кто имеет добрые намерения, используют преимущества искусственного интеллекта. Кибербезопасность – это определенно одна из тех областей, где как те, кто пытается защитить определенную киберсистему, так и те, кто пытается ее атаковать, используют самые передовые технологии.

В своем анализе этой темы Всемирный экономический форум (ВЭФ) цитирует пример, когда в марте 2019 года “генеральный директор крупной энергетической компании санкционировал срочный перевод 220 000 евро на то, что он считал счетом нового восточноевропейского поставщика после звонка который он считал разговором с генеральным директором своей материнской компании. В течение нескольких часов деньги прошли через сеть счетов в Латинской Америке к подозреваемым преступникам, которые использовали искусственный интеллект (ИИ) для убедительного подражания голосу генерального директора.” С своей стороны, Forbes цитирует пример, когда “две больницы в Огайо и Западной Вирджинии отказались от пациентов из-за атаки программы-вымогателя которая привела к сбою системы. Больницы не могли обработать никакие запросы пациентов на экстренную помощь. Поэтому они отправили входящих пациентов в ближайшие больницы.”

Эта угроза кибербезопасности, безусловно, является причиной почему Equifax (EFX ) и Всемирный экономический форум созвали первую Future Series: Cybercrime 2025. Глобальные эксперты по кибербезопасности из академии, правительства, правоохранительных органов и частного сектора должны встретиться в Атланте, штат Джорджия, чтобы рассмотреть возможности, которые ИИ может предоставить им в области кибербезопасности. Кроме того, Capgemini Research Institute подготовил отчет, который заключает, что построение оборонительных сооружений кибербезопасности с помощью ИИ является императивом для практически всех организаций.

В своем анализе ВЭФ указал на четыре проблемы, связанные с предотвращением использования ИИ в киберпреступности. Первая – это растущая сложность атакующих – объем атак будет расти, и “ИИ-обеспеченная технология также может повысить способность атакующих сохранять свою анонимность и расстояние от своих жертв в среде, где атрибуция и расследование преступлений уже является сложной задачей.”

Вторая – это асимметрия в целях – защитники должны иметь 100% успеха, а атакующие должны быть успешными только один раз. “ИИ и автоматизация снижают вариативность и стоимость, улучшают масштаб и ограничивают ошибки, атакующие также могут использовать ИИ, чтобы изменить баланс.”

Третья – это тот факт, что “по мере роста организаций растет и размер и сложность их технологических и данных активов, что означает, что у атакующих есть больше поверхностей для изучения и эксплуатации. Чтобы оставаться впереди атакующих, организации могут развернуть передовые технологии, такие как ИИ и автоматизация, чтобы помочь создать оборонительные “узкие места” вместо распределения усилий равномерно по всей среде.”

Четвертая – это достижение правильного баланса между возможными рисками и фактической “оперативной поддержкой” защитников. ВЭФ считает, что “команды безопасности могут использовать подход, основанный на риске, устанавливая процессы управления и пороги существенности, информируя оперативных лидеров о их кибербезопасной позиции и определяя инициативы для постоянного улучшения ее.” Через свою программу Future Series: Cybercrime 2025 ВЭФ и его партнеры стремятся “определить эффективные действия, необходимые для смягчения и преодоления этих рисков.”

С своей стороны, Forbes определил четыре шага прямого использования ИИ в кибербезопасности, подготовленные их вкладчиком Нaveен Джоши и представленные в нижеприведенной графике:

В любом случае, можно с уверенностью сказать, что и защитники, и атакующие в области кибербезопасности будут продолжать развивать свое использование искусственного интеллекта, поскольку сама технология достигает новой стадии сложности.