Эксперты по кибербезопасности защищают от кибератак ИИ

Не все с благими намерениями настроены на использование преимуществ искусственного интеллекта. Кибербезопасность, безусловно, является одной из тех областей, где как те, кто пытается защитить определенную киберсистему, так и те, кто пытается атаковать ее, используют самые передовые технологии.

В своем анализе предмета, Всемирный экономический форум (ВЭФ) приводит пример, когда в марте 2019 г. Генеральный директор крупной энергетической компании после звонка санкционировал срочный перевод 220,000 XNUMX евро на счет, как он полагал, нового восточноевропейского поставщика. он полагал, что был с генеральным директором своей материнской компании. В течение нескольких часов деньги прошли через сеть счетов в Латинской Америке к подозреваемым преступникам, которые использовали искусственный интеллект (ИИ), чтобы убедительно имитировать голос генерального директора». Со своей стороны Forbes приводит пример, когда «две больницы в Огайо и Западной Вирджинии отказали пациентам из-за атаки программы-вымогателя что привело к сбою системы. Больницы не могли обработать ни одного запроса на экстренную помощь. Следовательно, они отправляли поступающих пациентов в близлежащие больницы».

Эта угроза кибербезопасности, безусловно, является причиной почему Equifax и Всемирный экономический форум созвали первую Серия Future: Киберпреступность 2025. Глобальные эксперты по кибербезопасности из научных кругов, правительства, правоохранительных органов и частного сектора собираются встретиться в Атланте, штат Джорджия, чтобы рассмотреть возможности ИИ, которые они могут предоставить в области кибербезопасности. Кроме того, исследовательский институт Capgemini разработал отчету из этого делается вывод, что создание средств защиты от кибербезопасности с помощью ИИ необходимо практически для всех организаций.

В своем анализе ВЭФ указал на четыре проблемы, связанные с предотвращением использования ИИ в киберпреступности. Во-первых, это растущая изощренность злоумышленников — объем атак будет расти, и «Технология с поддержкой искусственного интеллекта также может повысить способность злоумышленников сохранять как свою анонимность, так и дистанцию ​​от своих жертв в условиях, когда установление и расследование преступлений уже является сложной задачей».

Во-вторых, это асимметрия в голах: в то время как у защитников должен быть 100-процентный успех, у нападающих должен быть успех только один раз. “В то время как ИИ и автоматизация снижают вариативность и затраты, улучшают масштаб и ограничивают количество ошибок, злоумышленники могут также использовать ИИ, чтобы склонить чашу весов».

В-третьих, тот факт, что как «Организации продолжают расти, как и размер и сложность их технологий и массивов данных, а это означает, что злоумышленники могут исследовать и использовать больше возможностей. Чтобы опередить злоумышленников, организации могут развертывать передовые технологии, такие как искусственный интеллект и автоматизация, чтобы помочь создать защищенные «узкие места», а не распределять усилия равномерно по всей среде».

Четвертым было бы достижение правильного баланса между возможными рисками и реальной «оперативной поддержкой» защитников. ВЭФ считает, что «группы безопасности могут использовать подход, основанный на оценке рисков, путем установления процессов управления и порогов существенности, информирования оперативных руководителей об их состоянии кибербезопасности и определения инициатив по постоянному ее улучшению». В рамках своей программы Future Series: Cybercrime 2025 ВЭФ и его партнеры стремятся «определить эффективные действия, необходимые для смягчения и преодоления этих рисков».

Со своей стороны, Forbes определил четыре шага прямого использования ИИ в кибербезопасности, подготовленные их автором Навином Джоши и представленные на графике ниже:

В любом случае, несомненно, что как защитники, так и злоумышленники в области кибербезопасности будут продолжать развивать использование искусственного интеллекта, поскольку сама технология выходит на новый уровень сложности.